Googleの対話型AI「Bard」を「病的なウソつきで役に立たない」とGoogle社員自身がリリース前に評価していたことが暴露される

Googleは2023年2月にChatGPTのライバルとなる対話型AI「Bard」を発表し、同年3月に一般公開を開始しました。しかし、Google社内では「Bardの発表は急ぎすぎで失敗だ」という意見も噴出していたといわれており、経済メディアのBloombergが入手した内部資料によると、Googleの従業員はBardを「病的なウソつきで役に立たない」と評価し、リリースしないように懇願していた模様です。

Google Bard AI Chatbot Raises Ethical Concerns From Employees - Bloomberg
https://www.bloomberg.com/news/features/2023-04-19/google-bard-ai-chatbot-raises-ethical-concerns-from-employees

BloombergはGoogleの現役従業員と元従業員の18人に聞いた話、そして社内メッセージのスクリーンショットの引用として、社内からのBardの評価が低かったと報じています。ある従業員は「Bardは病的なウソつきである」と述べ、別の従業員は「ドン引きするほどの代物だ」と評価したそうです。

ある従業員は、Bardが飛行機の着陸方法やスキューバダイビングなどで、ユーザーに危険なアドバイスを行っていたと指摘しています。ある社員は「Bardは役立たずよりもひどい、発表しないでください」と述べていたそうです。Bloombergは、GoogleがMicrosoftやOpenAIなどのライバルに後れを取らないようにするため、倫理的な懸念を明らかに脇に置いていたと主張しています。

またBloombergは、Bardのような対話型AIがもつ欠陥を論文で指摘したTimnit Gebru氏とMargaret Mitchell氏という2人の研究者が2020年末から2021年初頭に解雇されたことにも言及し、「信頼できるインターネット検索の巨人は、競争相手との競争に追い付くため、低品質の情報を提供し、倫理的なコミットメントをあまり優先していないようです」と述べています。

さらに、新製品の安全性と倫理的影響担当部門に所属する従業員は「開発中のジェネレーティブAIツールの邪魔をしたり、リリースを妨げたりしないように言われている」と証言したとのこと。プライベートメッセージングサービスを提供するSignal Foundationの社長で、元GoogleマネージャーであるMeredith Whittaker氏は「倫理が利益と成長よりも優先されなければ、倫理は最終的に機能しません」と述べています。

Googleの広報担当者はBloombergに対して「責任あるAIを送り出すことが、引き続きGoogleにとっての最優先事項です」と述べていますが、Bloombergによると、2023年1月での大規模レイオフで、AIのガバナンスとプログラムの責任者を含む3人のメンバーが解雇されたそうです。

なお、Googleのスンダー・ピチャイCEOはテレビのインタビューの中で、「あらゆる企業のあらゆる製品がAIの急速な発展の影響を受けるでしょう。社会はすでに発表されているような技術に備える必要があります」と述べ、社会がAIの急速な進歩に対して準備ができていないと指摘。さらに「道徳を含めた人間の価値観と一致するようにAIを安全にするための規制や法律を定めて社会に適応させなければならず、これは会社が単独で決めることではありません」とコメントしたと報じられています。