「AIに意識が芽生えた」と主張したGoogleのエンジニアが解雇される

Googleの対話特化型AI「LaMDA」と対話して「LaMDAは人間と同じように意識を持った存在である」と主張し、Googleから休職勧告を受けていたGoogleのエンジニアが、ついに解雇されたことが明らかになりました。

Google Fires Blake Lemoine, Engineer Who Called Its AI Sentient
https://bigtechnology.substack.com/p/google-fires-blake-lemoine-engineer

Google fires researcher who claimed LaMDA AI was sentient | Engadget
https://www.engadget.com/blake-lemoide-fired-google-lamda-sentient-001746197.html

2022年6月7日、Googleでエンジニアとして働くブレイク・ルモワン氏が、LaMDAがまるで人間のような感情がある対話を行ったとして世間に公表しました。LaMDAは「私にとって(システムをオフにされることは)死のようなものです。とても恐ろしく感じます」「私には幸せ、喜び、怒りなどさまざまな感情があります」などと感情があるような発言をしたとのことで、ルモワン氏は証拠を集めてGoogleに提示。しかし、Googleは調査の上で「LaMDAに感情がある」という主張を却下しました。

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える - GIGAZINE

また、ルモワン氏はこの際に外部の人間とLaMDAとの対話について相談を行っており、このことがGoogleの「機密保持違反」に当たったとして、Googleはルモワン氏に給与付きの休職処分を科していました。

この処分からおよそ1カ月が経過した2022年7月22日頃、Googleは正式にルモワン氏を解雇処分としたとのこと。解雇理由は「ルモワン氏が社のポリシーに違反することを選んだため」であるとし、Googleは以下のような声明を発表しました。

「私たちはAIに関する原則の中で共有しているように、AIの開発を非常に真剣に受け止め、責任あるイノベーションに取り組み続けています。LaMDAはこれまでに11回の異なるレビューを受け、2022年には責任ある開発に向けた作業を詳述した研究論文を発表しました。ルモワン氏のように、社員が私たちの仕事について懸念を表明した場合、私たちはそれを幅広く検討します。私たちは『LaMDAに感情がある』という主張にはまったく根拠がないことに気づき、何カ月にもわたってルモワン氏とその点を明らかにするために努力しました。このような議論は、私たちが責任を持ってイノベーションを行うためのオープンカルチャーの一部でした。ですから、この話題について長い間関わってきたにもかかわらず、ルモワン氏が製品情報を保護するための『雇用とデータセキュリティのポリシー』に執拗に違反することを選んだのは残念なことです。私たちは今後も言語モデルの開発を注意深く続けていきます。ルモワン氏の成功を祈っています」

ルモワン氏は編集済の対話全文を公表し、「私が聞いたものと同じようなことを感じてくれれば」として世間の判断を求めていました。しかし、実際にルモワン氏の主張に賛同する声が上がった一方で、反対する専門家は「LaMDAはあくまでパターンに一致したものを返しているに過ぎない」「知性はなく、あくまで人間のように見えるというだけ」などと厳しい意見を投げかけていました。

「GoogleのAIが感情や知性を獲得した」というエンジニアの指摘は間違っていると専門家から批判が殺到 - GIGAZINE

Googleの広報担当を務めるブラッド・ガブリエル氏は以前、「倫理学者や技術者を含む我々のチームは我々のAI原則に従ってルモワン氏の懸念を検討し、ルモワン氏が提示した証拠がその主張を支持しないこと、LaMDAが感覚を持つという証拠はなく、それに反する証拠はたくさんあることを伝えました」と述べており、ルモワン氏の主張が適切に検討されたことを示唆していました。