AIっぽいが実はAIではない「ゾンビAI」とは？

by Ceneje Jeftinije

近年ではAI分野の研究や技術革新が進んでおり、多くの投資家もAIへの注目度を強めている中で投資も非常に盛んに行われています。そんな一種のAIブームが盛り上がっている中で、「AIに見せかけているが実はAIではない、『ゾンビAI』に惑わされてはいけない」と警鐘が鳴らされています。

Make sure you’re not investing in zombie AI | VentureBeat
https://venturebeat.com/2018/11/03/make-sure-youre-not-investing-in-zombie-ai/

多くのAIシステムの宣伝には、「ロボット」の画像が付属していることがあります。ロボットは効率的で収益性の高いビジネスを連想させ、高度な知能や技能を持ってさまざまな問題を解決してくれそうなイメージを人々に抱かせるものです。しかし、多くの場合ではAIシステムが実際にどのように機能しているのかを示しておらず、ユーザーにとってAIのシステムは「ブラックボックス」になっているとのこと。

ゾンビAIは「AIだという体裁を保っているが、ブラックボックスの中身はまさにロボットのようなもの」だそうで、外部から何かを教え込ませたり導いたりする必要がないシステムです。人間が話しかければ、一見すると知能を持っているかのような受け答えをゾンビAIは行いますが、実際には人間との相互的なやり取りと関係なく独立して動作します。

相互的なやり取りが必要ないことは簡単にその機能を用いることができ、「使うのが楽」というメリットもありますが、外部から訓練することで仕事の能力を改善したり修正したりすることができません。ゾンビAIはあらかじめインプットされた論理やシステムに従うだけの存在であり、決して「知能を持った存在」とはいえないとのこと。多くのAIシステム開発企業は専門の知識を持った人物を採用し、「真のAI」を構築していますが、システムの透明性が確保されていない以上はそのAIが実はゾンビAIだったとしても、ユーザーは気づくことができません。

by VIBE 105

ゾンビAIの多くは取るに足りないロボットのようなものですが、中には非常に優秀なシステムを備えたAIの偽物が紛れ込んでいるそうです。そういったゾンビAIの開発者は、ユーザーとの相互的なやり取りを必要としないにも関わらず、ユーザーが「このシステムは知能を持っている」と錯覚してしまうようなシステムを構築しています。

真のAIをゾンビAIと見分ける方法としては、そのシステムの対話性と訓練性によって識別するほかありません。システムが本当に知能を持っているのならば、訓練や学習によってそのパフォーマンスを向上させることが可能であり、時間の経過に従ってシステムが改善されていくとのこと。

真のAIを用いたシステムは、当初から完成しているゾンビAIと比べると実用段階に持っていくまでに時間がかかります。しかし、真のAIは訓練によって高いパフォーマンスを発揮してくれるため、結果的には長く使用し続けることができるそうです。「ビジネスリーダーはゾンビAIに投資して結果的に時間を無駄にするのではなく、将来的な拡張性を考慮して真のAIに投資するべきです」とまとめられています。

by Aria Carter