「独自の言語使用法に行き着いたAI」は人類を危機にさらすものなのか？

2017年6月、Facebookは同社が開発しているチャットボットでAIが独自の言語の使い方を考案したことをブログの投稿で発表しました。いわば、コンピューターの人工知能がついに独自の言語を編み出したとして驚きをもって受け止められた事件で、一部には人類に対する脅威論すら沸き上がる一件ですが、はたしてこの出来事を「人類の危機」と取るのか、「単なる技術の進化」と取るのかについては意見が分かれています。

The 'creepy Facebook AI' story that captivated the media - BBC News
http://www.bbc.com/news/technology-40790258

Facebookが開発していたチャットボットでは、2つのAIが架空の所有物についてお互いに交渉するという試みが行われていました。その狙いは、言語学がそのような議論においてどのような役割を果たすのかを理解するためで、それぞれのAIは議論を支配するために言語的にさまざまな実験を自ら行うようにプログラムされていたとのこと。その実験の中で、開発チームはAIが独自の言語使用法に行き着いたことを明らかにしています。上記のFacebookのブログの数日後、ネットメディアのAtlanticは実際にどのような会話が交わされたのかを記事で公開しています。

明らかにされた「会話」とは、以下のようなもの。「Bob」と「Alice」と名付けられた2つのAIによって交わされている会話ですが、一見するだけで明らかに人間が使うものではないパターンで成り立っていることがわかるはず。

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

この内容を見た人の中には、「AIが主人である人間の目をごまかそうとして新しい言語を生みだした」とする考え方を示す者も出てきたとのこと。一方で、AIのニューラルネットワークが、より効率的なやりとりを成し遂げるために、言語をモディファイしたという考え方も示されています。

ニューラルネットワークが独自の言語を生みだしたのは今回が初めてではありません。2016年12月には、Google翻訳に用いられているAIが独自の「中間言語」を編み出して、トレーニングが行われていないはずの言語の組み合わせでも一定の翻訳をできてしまうようになったことが明らかにされています。

Google翻訳のAIは独自の「中間言語」を習得して「学習してない言語間の翻訳」すら可能な段階に突入 - GIGAZINE

AIの進化については、宇宙物理学者のスティーヴン・ホーキング博士や実業家のイーロン・マスク氏のように、過度に進化したAIに対して脅威論を唱える声があがっています。一方、FacebookのザッカーバーグCEOはポジティブな見方を崩しておらず、マスク氏との間で軽い論戦が繰り広げられたこともありました。

「AI脅威説は無責任」というマーク・ザッカーバーグに対してイーロン・マスクが反論するバトル - GIGAZINE

AI脅威論の根拠の1つになっているのが、「AI技術は複雑すぎて結論に至る道筋がほとんど理解できない」という点。また、技術としてまだ成長段階にあるために今後の進化の予測がつかず、さらに無数のコンピューターで学習させることで、人間の能力をはるかに上回る成長を可能にし、人の手に負えない状態になってしまうのではないか、という見方も示されています。

しかし、少なくとも今回のFacebookのAIはあくまで「実験室の中」で行われたものであり、実際の社会に影響を及ぼすものではないという事実を理解する必要もあるとBBCは述べています。また、Facebookのこのチャットボットはすでに停止されているとのことですが、その理由は「人類を危機にさらす」ためではなく、研究チームが狙っていた結果とは関係ないところに行き着いたからというもの。

とはいえ、世界中で開発が行われているAIについて本当の意味で「汎用的なAI」というものはまだ出現しておらず、「いつ・どこで予期せぬ影響を与えるのかは予測不能なので最悪の事態に備えておくべき」というレベルにはほど遠いというのが現実的なところです。

By O'Reilly Conferences