• DIGITALIST
  • Trends
  • Facebook、AIに忘却能力を持たせる手法のテストを実施
Pocket HatenaBlog facebook Twitter Close
海外 2021.05.20

Facebook、AIに忘却能力を持たせる手法のテストを実施

お気に入り

▼ニュースのポイント
①Facebookがニューラルネットワークに忘却能力を持たせる世界初の手法をテストした。
②不要な情報を忘れることでタスクを迅速かつ効率的に実行できる。
③より人間的な記憶保持をするAIへ。

忘却能力を与える「Expire-Span」を開発

 Facebookは米国時間の5月14日、AI(人工知能)システムへ、より人間のような記憶力を持たせるため、無関係な大量の情報を忘れさせる能力をつける仕組みを構築、タスクテストを実施し、その結果を公開した。

 私たち人間は日々絶え間なく膨大な情報に囲まれて生活しているが、さほど重要でない事柄はすぐに忘れてしまい、重要なものだけをピックアップして長期的な記憶の中に残す作業を自然に行っている。

 しかし、AIのニューラルネットワークは一般に、こうした人間の記憶スタイルとは異なり、情報を無差別に処理、あらゆる情報を蓄積して出力に活かしている。この手法はある程度小さなスケールで、限定的な部分にAIメカニズムを適用している場合には効果的だが、膨大な世界の情報に触れさせる場合、非効率的で持続不可能な計算コストを生んでしまう。

 そこでFacebookでは、ニューラルネットワークに大規模な忘却能力を持たせる「Expire-Span」という世界初の手法を開発した。「Expire-Span」は、まず目前のタスクに最も関連する情報を予測し、文脈に応じて情報の有効期限を設定する。設定した期限が過ぎると、その情報はAIシステムから消えていくという。

 この有効期限は関連性・重要性の度合いによって異なり、関連性が高いものはより長く保持され、無関係な情報ほど早く期限が失効して消去される。こうしてコンピュータの記憶領域が効率良く解放されながら使われるものとなり、タスク完了に必要な詳細情報へとAIが集中できるようになった。記憶領域に余裕ができれば、AIは飛躍的に大きなスケールでの情報処理に対応可能となるため、実用面での大幅な進化につながると見込まれる。
 




忘れることの難しさと重要さ

 「忘れる」ということは、思う以上に難しい処理作業になる。Facebookでは、それが忘れるか忘れないか、中間の存在しない離散的操作であるからだと説明する。AIのような機械ではこの忘却処理を最適化して実行させるのが非常に難しいため、従来のアプローチでは圧縮処理で済ませるものが多かった。しかし、この方法では過去のより長い期間までモデルを拡張させられるものの、圧縮により記憶が不鮮明になることが問題となってきた。

 「Expire-Span」はこの問題を解消させ、AIが無関係な情報を徐々に忘れていき、高効率で情報処理を継続的に最適化、高度で膨大な処理をより迅速に、正確に行えるようになるとみられている。

 例えば言語モデリングでは、データから学習した文脈や周囲の記憶から予測値を算出、名前などの珍しい単語や重要な意味の内容部分は長く覚えておく一方、「the」や「of」のような頻出するつなぎの意味でしかない一般的単語は、忘れていくようにできる。「忘れる」判断にも学習作用は働き、処理を繰り返す中で精度を増し、より重要な情報を効率良く把握するようになるという。

 Facebookによると、「Expire-Span」は数万個の情報に対応、1,000ビット以内の情報しか保持できない仕様でも、他の処理方法によるAIモデルに比べ、より高い効率で強力なパフォーマンスを発揮することが確認できたとされる。言語モデリングや物体の移動など、さまざまなタスクケースでパフォーマンスの改善がみられている。





 「Expire-Span」は、人間の記憶保持スタイルにAIが一歩近づいた点で画期的な手法であり、これによるスケーラビリティと効率性の向上は、人間が発揮する能力のような、幅広く複雑なものをAIが身につける未来を近づけたといえる。

 Facebookでは、不必要な情報を消すことが有効な実世界のAIアプリケーションに「Expire-Span」を導入することを検討しているほか、さらなる人間に近いAIシステム、記憶と処理の仕組みを実現させるステップとして、多彩な種類の記憶をニューラルネットワークに組み込む研究も進めているとした。

(画像はプレスリリースより)


▼外部リンク

Facebook AI 公式ブログ(プレスリリース)
https://ai.facebook.com/blog/teaching-ai-how-to-forget-at-scale/

▼会社概要
Facebookは米国のテクノロジー複合企業。マーク・ザッカーバーグがハーバード大学のルームメイトでもあった仲間の学生らと設立した企業で、その主要サービス「Facebook」は、世界で最も人気のあるSNSに成長した。Google、Apple、マイクロソフト、Amazonと並ぶBIG5として知られる。

社名:Facebook, Inc.
CEO:マーク・ザッカーバーグ
本社:アメリカ合衆国カリフォルニア州メンローパーク

関連記事

DIGITALIST会員が
できること

  • 会員限定記事が全て読める
  • 厳選情報をメルマガで確認
  • 同業他社のニュースを閲覧
    ※本機能は、一部ご利用いただけない会員様がいます。