人間はAIが協力すると予想していても裏切りやすいことが実験で判明

スペインのジャウメ1世大学の研究チームが、「人間は相手が人間ではなくプログラムだと分かると、相手が協力するとわかっていても自分は協力せずに利益を得ようとする傾向が強まる」ことを実験で明らかにしました。プログラムが動かす人工エージェントの利益がたとえ実在する人間に渡る場合でも、この傾向は変わりませんでした。

Exploiting the machine: Human cooperation with artificial agents in prisoner's dilemma - ScienceDirect
https://www.sciencedirect.com/science/article/pii/S0167487026000498

A lab experiment reveals a hidden bias against artificial agents
https://www.scienceofmoney.org/when-the-other-driver-is-a-robot-why-people-exploit-machines-they-expect-to-coop-767/

研究チームは、人間とプログラムの協力行動を調べるため、ゲーム理論で広く使われる「囚人のジレンマ」を用いた実験を行いました。実験では、2人の参加者がそれぞれ「協力する」か「協力しない」かを選び、双方が協力すれば安定した利益を得られる一方、相手だけが協力した場合は協力しなかった側が最大の利益を得られるゲームが実施されました。

実験にはスペインの大学生346人が参加し、「人間同士でゲームを行うグループ」と「人工エージェントを相手にするグループ」に分けられました。なお、ここでいう人工エージェントとは、生成AIを使ったエージェントではなく、人間の過去の行動を基に選択肢を確率的に決めるコンピュータープログラムのこと。また、実験は生成AIが普及する前の2022年4月に実施されており、研究チームは参加者があまり生成AIに慣れていなかった点にも注意が必要だとしています。

人工エージェントは、事前に人間同士で行われたゲームのデータを基に、人間の行動を確率的に再現するよう設計されました。また、人工エージェントが獲得した利益は同じ実験室にいる別の参加者へ渡されたため、人工エージェントに協力しない選択は、間接的に実在する人間の利益を減らすことになります。

参加者はまず、毎回異なる相手と「協力する」か「協力しない」かを選ぶ1回限りのラウンドを10回行いました。その後、同じ相手と10ラウンド対峙するセットを3回行い、各ラウンドの前には相手が協力すると思うかどうかを回答しました。人工エージェントを相手にするグループの参加者には、自分の対峙する相手が人工エージェントであることが明示されていました。さらに、その人工エージェントは人間同士の実験データを基に、人間の選択を確率的に模倣するよう設計されていることや、人工エージェントが獲得した利益は別の参加者に渡されることも説明されていました。

相手と1回限りのラウンドを行う実験では、相手が人間か人工エージェントかによって協力率に統計的な差は確認されませんでした。どちらの場合も協力率は当初から低く、回数を重ねるにつれてほぼゼロまで低下しました。

一方、同じ相手と繰り返し対峙する実験では、人間を相手にした場合よりも人工エージェントを相手にした場合の方が、参加者の協力率が低くなりました。2回目と3回目のセットでは、人工エージェントを相手にした参加者が協力する確率は、人間を相手にした場合より約15ポイント低くなったとのこと。

人間同士のゲームでは、ラウンドを経験するにつれて序盤の協力率が約65％から約80％まで上昇し、参加者が協力の利点を学習したとみられる変化が確認されました。これに対して人工エージェントを相手にした参加者では、ラウンドを繰り返しても序盤の協力率が上昇せず、協力行動を次のラウンドへ生かす傾向が見られませんでした。

研究チームは、「実験結果に見られた差は人工エージェントへの不信によって生じたわけではない」と指摘しています。

新しい相手と対峙する際、参加者は人工エージェントも人間と同程度に協力すると予想しており、状況によっては人間より人工エージェントの方が協力的だと考えていました。それにもかかわらず、相手が協力すると予想しながら自分は協力しない「相手を利用する行動」は、人工エージェントを相手にした場合の方が多くなったとのこと。

参加者に判断の理由を尋ねたところ、人工エージェントを相手にしたグループでは88.8％が「理性」に基づいて判断したと回答し、人間を相手にしたグループの83％を上回りました。人工エージェントとのやり取りでは共感などの感情が働きにくく、相手を利用する行為を合理的な選択として捉えやすくなった可能性があります。

研究チームは人工エージェントが確率的に行動するため、参加者が「裏切っても報復されにくい」と考えた可能性などを挙げています。ただし、実験は単一の大学の学生を対象としており、ChatGPTの普及前に実施されたため、AIとの接触機会が増えた現在でも同じ結果になるかは、今後の検証が必要です。