人々はAIが生成した物語に本能的な嫌悪感を持っており人が書いた物語より没入できないことが判明

近年は生成AIの発達によってクリエイティブな分野にもAIが利用されるケースが増えていますが、生成AIを利用したCMでコカ・コーラが炎上するなど、AIを使った創作には否定的な目が向けられています。AIが生成した物語と人間が書いた物語を比較した新たな研究では、AIが生成した物語には読者があまり没入できないことが判明しました。

Can AI tell good stories? Narrative transportation and persuasion with ChatGPT | Journal of Communication | Oxford Academic
https://academic.oup.com/joc/article-abstract/74/5/347/7756907

Your next favorite story won’t be written by AI – but it could be someday
https://theconversation.com/your-next-favorite-story-wont-be-written-by-ai-but-it-could-be-someday-239284

We are instinctively turned off by stories labeled 'AI-generated' — even if they were secretly written by other people, study finds | Live Science
https://www.livescience.com/technology/artificial-intelligence/we-are-instinctively-turned-off-by-stories-labeled-ai-generated-even-if-they-were-secretly-written-by-other-people-study-finds

フロリダ大学のコミュニケーション学助教を務めるハオラン・チュー氏らは、「物語は人々を定義し、私たちの関係・文化・社会を形作ります。テクノロジーに取って代わられた他のスキルとは異なり、ストーリーテリングは人間独自のものであり、人間と機械を分けるものとなっています」と述べています。

しかし近年では、膨大なデータセットを持つ生成AIが人間の書いたものに匹敵する、あるいはそれを上回る物語を生成できるといわれており、クリエイティブな職業の人々はAIを脅威とみなしています。実際にハリウッドの脚本家や俳優は「仕事を奪うようなAIの規制」を求めてストライキを起こしており、2023年11月にはAIの使用制限を含んだ暫定合意を交わしました。

AIが説得力のある物語を生成できるという事実は、クリエイターの生活を脅かすだけでなく、誤情報の拡散という社会的なリスクももたらします。人力で説得力のあるフェイクニュースを作成するのは時間と労力が必要ですが、生成AIを使えばあっという間にフェイクの物語を生成できてしまいます。過去の研究では、人々は明示的な議論よりも物語の影響を受けやすいことが示されており、これは特に懸念すべき問題です。

そこでチュー氏らは、AIが生成した物語と人間が生成した物語は、人々に及ぼす影響がどのように異なるのかを調べる実験を行いました。まず研究チームは、「既存の研究結果を基に人間が作り出した物語」と、「既存の研究結果を基にChatGPTが作り出した物語」をそれぞれ用意しました。

ある実験では、被験者に「AIが書いた」とラベル付けされた物語と、「人間が書いた」とラベル付けされた物語をそれぞれ読ませました。その結果、AIが書いた物語は人間が書いた物語と比較して、ストーリーに没入できず、批判的な見方が増えたことが判明。この結果は、ラベル付けが「AIが書いた」とされたものであれば、実際の著者が人間だった場合でもみられました。つまり、読者は「AIが生成した」とラベル付けされた物語に対し、本能的に嫌悪感を持っていることが示唆されたというわけです。

それに加えて、物語がどのようにラベル付けされていたのかに関係なく、人間が書いた物語の方がAIが生成した物語よりストーリーに没入できることもわかりました。これは、人間が書いた物語の方が魅力的であり、読者を引きつけることを示しています。一方、物語の説得力については、AIが生成した物語も人間が書いた物語に匹敵する説得力を持っていることが示されました。

物語を言語学的に分析したところ、AIが生成した物語は段落や文章が長くなる傾向がみられた一方、人間が書いた物語はより文体に多様性がありました。また、AIは文章とアイデアの間に強いつながりが見られ、首尾一貫した論調の物語を書くことができましたが、人間の書き手はさらに多様で豊かな体験について書いたとのことです。

チュー氏は、「物語がAIによって書かれたものだと思うと、人々は嫌がります」「AIは一貫性があり、論理的で首尾一貫した物語を書くことは得意です。しかし、魅力的な物語を書くことに関しては、人間よりもまだ苦手なのです」と述べました。

研究チームは、物語を魅力的にする要素には「文章力」「説得力」「創造性」「生きた経験」の4つがあり、AIは文章力や説得力に優れているとしています。その一方で、AIはあくまで予測可能性に基づいて文章を生成しているだけであることから、創造性や生きた経験といった要素は欠けていると指摘しています。

今後、AIが進化してより魅力的な物語を生成できるようになる可能性はありますが、少なくとも今すぐ脚本家や小説家が職業を失うリスクはないと思われます。しかし、AIが進化して高い説得力を持つ物語を生み出せるようになれば、誤情報の拡散などに使用されて深刻な問題を引き起こす可能性があるとのことです。