人間は難しい問題において「他の人間よりもアルゴリズムを信用しやすい」ことが明らかに

動画配信サービスのオススメや地図アプリのルート検索機能など、日常のさまざまな場面でAIを用いたアルゴリズムが活用されています。日常生活にアルゴリズムが浸透することを懸念する声も挙がっている中、アメリカ・ジョージア大学の研究チームは、「人間は難しい問題において他人よりアルゴリズムを信用しやすい」との研究結果を発表しました。

Humans rely more on algorithms than social influence as a task becomes more difficult | Scientific Reports
https://www.nature.com/articles/s41598-021-87480-9

People may trust computers more than humans
https://techxplore.com/news/2021-04-people-humans.html

多くの人々がアルゴリズムに従っている現状について、ジョージア大学の博士課程学生であるエリック・ボガート氏は、「アルゴリズムは膨大な数のタスクを実行でき、実行可能なタスクの数は日々拡大しています」とコメント。ボガート氏は同大学のリック・ワトソン教授やアーロン・シェクター助教と共に、人間の意思決定が他人とアルゴリズムのどちらに従うのかを調べる実験を行いました。

今回の実験では、オンラインで募集した合計1500人の被験者に対し、「写真に写った人物の数」を回答してもらうタスクを与えました。実験で与えられた問題にはさまざまな難易度があり、最も簡単な質問では写真に写った人数が「15人」、最も難しい質問では「5000人」だったそうで、被験者は幅広い難易度の問題に回答したとのこと。

また、被験者には「5000枚の画像で訓練されたアルゴリズムが計測した数」と「他の被験者5000人から収集した平均の数」の2種類のアドバイスが与えられ、自分の力だけで回答するのではなくアドバイスに従うという選択肢も与えられました。実験の結果、写真に映っている人数が増えて難易度が上がるにつれ、被験者は自力で回答するのではなくアドバイスに従う割合が増えました。また、他の人間の平均よりもアルゴリズムに従う可能性が高いこともわかったと研究チームは述べています。

シェクター氏は、写真に写っている人数が増えるとタスクが客観的に難しくなることに加え、人々は「コンピューターは何かを数える問題が得意だ」と考えやすいと指摘。実際のところ、AIを用いたアルゴリズムは人間を認識する上でさまざまなバイアスの影響を受けていますが、それでも被験者は他の人間よりアルゴリズムを信頼する傾向が強かったとのこと。

単に「写真に写った人を数える」というタスクであればAIのバイアスはそれほど関係ないかもしれませんが、「ローンの承認」「医学的アドバイスの提供」といった分野で使用されるAIにバイアスが存在すると大きな問題です。人々は、「さまざまな数値を元に判断する仕事はアルゴリズムに向いている」と考えがちですが、考慮されにくい社会的要因の影響を受け、アルゴリズムへの依存が差別的な慣行につながる可能性もあるとシェクター氏は述べています。

近年ではAIを用いた顔認識機能やAIを使った就職候補者の選考システムにバイアスが確認されるなど、AIやアルゴリズムに頼ることの危険性も指摘されています。シェクター氏は、「最終的な目標は意思決定を行う人間と機械のグループを調べ、それらがお互いに信頼して行動を変える方法について見つけることです」と述べ、記事作成時点では何かを説明する文章の作成や囚人の保釈決定といった創造性や道徳が問われる場面で、人々がどのようにアルゴリズムに依存するのかを調べているとのことです。