「AI」を名乗るサービスの多くがまがい物であるという主張

by geralt

人工知能(AI)として企業から提供されているサービスの一部は、十分機能するかしないかを吟味されていないという批判があります。なぜこのようなことが起きているのかについて、プリンストン大学のコンピューター科学者であるアーヴィン・ナラヤナン氏が解説しています。

How to recognize AI snake oil
(PDFファイル)https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf

ナラヤナン氏は、企業が提供するまがい物のAIとして、人事担当者向けの「採用候補者をAIが評価するシステム」を例にあげています。このシステムは採用候補者が面接で話す内容ではなく、ボディランゲージや会話の特徴を分析することで人物を評価できるというもの。しかし、実際は「精巧な乱数発生器でしかない」とナラヤナン氏は批判しています。

「AIによる人事システムを提供している企業はあわせて何百億円もの資金を調達し、積極的に顧客を狙っています」と述べるナラヤナン氏は、ニセモノのAIによって求職者がふるいにかけられる状況がさらに悪化することを危惧しています。

by Waseem Farooq

ナラヤネン氏は、「AI」が一連の関連技術を包括的に表現する言葉として用いられているだけだと指摘。AIと名付けられて世に出ている技術の中には、本当に人工知能を活用しているものもある一方で、世間一般の人々がAIに対する理解が浅いことを利用して一部の企業がAIのレッテルを貼っているものも多いと批判しています。

例えば、トップ棋士に勝利したDeepMindの囲碁AI「AlphaGo」は称賛に値する素晴らしい人工知能で、10年前であればほとんどの専門家が可能だとは考えていないレベルの研究です。しかし、AlphaGoの快挙は、採用候補者の仕事能力を予測するツールとは何の共通点もありません。

あらゆる問題の解決策として「AIを使ったサービス」を宣伝する企業は気前のいいメディアに助けられてきた、とナラヤナン氏。その結果、アメリカの人々は「すべての仕事は10年後に自動化される」とさえ考えているとのこと。AIの専門家は、強力なAIが登場するのには50年ぐらいかかると控えめに見積もっていますが、「歴史を見れば、専門家たちでさえ人工知能の予測については非常に楽観的な傾向であることがわかります」とナラヤナン氏は述べています。

by deepak pal

AIは既に顔認識、医療診断、音声からテキストへの書き起こし、ディープフェイクなどにおいては人間よりも高い精度で作業可能と期待されていて、研究によって技術は日々向上を続けています。AIの作業には不確実性や曖昧さがなく、十分なデータと計算量があれば、AIは人間の顔の区別を学習することも可能。まだ精度や信頼性は完全に高いとはいえませんが、これからの研究によってAIの精度はより向上するだろうとナラヤナン氏は評価しています。しかし、「一部のタスクでAIは人間よりも優れていますが、社会的な結果を完全に予測することはできません」とナラヤネン氏は主張しています。

ナラヤネン氏は「AIが正しく発展するためには、私たちはばく大な商業的利益に抵抗しなければなりません。ほとんどの場合、人間の手で誰かを評価することは正確で、AIよりもはるかに透明性が高く、検討の価値があります」と主張しました。