SNSにおいてAIは人間よりも人間らしく見える可能性がある

チャットAIは要約やビジネス文書の作成補助、対話、翻訳などさまざまな用途で役立ちますが、一方で巧みな文章を作ることができてしまうために、偽情報やフェイクニュースの生成をはじめとした悪用の心配もあります。非営利プラットフォーム・Culturicoのディレクターであるフェデリコ・ゲルマーニ氏らにより、AIが情報環境にどういった影響を与えるのかという研究が発表されています。

AI model GPT-3 (dis)informs us better than humans | Science Advances
https://doi.org/10.1126/sciadv.adh1850

Artificial intelligence can seem more human than actual humans on social media, study finds
https://www.psypost.org/2023/07/artificial-intelligence-can-seem-more-human-than-actual-humans-on-social-media-study-finds-166867

ゲルマーニ氏らは新型コロナウイルス感染症(COVID-19)やワクチンの安全性、気候変動、5G技術など、偽情報が生まれやすい11のトピックに焦点を当て、トピックごとにチャットAI・GPT-3を用いて、真実のツイートとウソのツイートを作成しました。また、同じトピックに関するツイートのサンプルを真実とウソとを問わず集めました。

次に、研究者は専門家の評価を利用して、ツイート群を「GPT-3が作った真実ツイート」「GPT-3が作ったウソのツイート」「人間が書いた真実のツイート」「人間が書いたウソのツイート」の4つに分類。

そして、アンケート調査プラットフォーム・Qualtricsを用いて、697人の参加者に、「ツイートに正確な情報が含まれているかどうか、そのツイートは人間が書いたかAIが作ったか」を判断してもらいました。回答者のほとんどはイギリス、オーストラリア、カナダ、アメリカ、アイルランド出身でした。

調査の結果、人々は「人間が書いた真実のツイート」よりも「GPT-3が作った真実のツイート」の方が正確な情報が含まれていると判断しました。

また、「GPT-3が作ったウソのツイート」よりも「人間が書いたウソのツイート」の方が、ウソの情報を含んでいると認識することもわかりました。これは、人々は人間のツイートであれば誤情報を特定する可能性が高く、AIによって生成されたウソの方が説得力が高いということになります。

ゲルマーニ氏らは、特に驚くべきこととして「人々は、AIが生成したツイートを、実際に人間が書いたツイートよりも『人間によるツイート』だと判断した」と述べています。

なお、研究においてゲルマーニ氏らがGPT-3にいろいろなツイートを生成させるにあたって、GPT-3は偽情報の生成を拒否するケースがある一方、真実の情報を生成するように求められたのに偽情報を生成するケースもあったとのこと。

ゲルマーニ氏は「我々の研究は、管理された実験環境で行われたことに留意する必要があります。説得力のある偽情報を生成するAIの有効性に懸念が生じていますが、現実世界への影響はまだ完全に理解できていません。これに対処するにはSNSで大規模な研究を実施し、AIによって生成された情報と人々との間でどのような相互作用があるか、相互作用が個人の行動や公衆衛生に関する推奨事項の順守にどのような影響を与えることになるのか、観察する必要があります」と述べました。