AIによる文章入力支援はユーザーの考え方を知らないうちに左右してしまう可能性

メールや文書作成で使われるAIによる文章入力支援は、AIが文章の続きを提案してくれる便利な機能です。コーネル工科大学のスターリング・ウィリアムズ＝セシ氏らは、こうした文章の候補を見ながら文章を書くことが、書き方だけでなく考え方にも影響するのかどうかを調べました。この研究は2026年3月11日付で科学誌「Science Advances」に掲載されています。

Biased AI writing assistants shift users’ attitudes on societal issues | Science Advances
https://www.science.org/doi/10.1126/sciadv.adw5578

AI assistants can sway writers’ attitudes, even when they’re watching for bias | Cornell Chronicle
https://news.cornell.edu/stories/2026/03/ai-assistants-can-sway-writers-attitudes-even-when-theyre-watching-bias

コーネル工科大学博士課程の学生であるウィリアムズ＝セシ氏らは、AIの文章入力支援が書き手の考え方に影響するのかどうかを調べるため、立場に偏りを持たせたAIの文章支援ツールを用意しました。

1つ目の実験では、1485人の参加者に「教育で標準テストを使うべきかどうか」を題材として文章を書いてもらいました。AIありの条件では、標準テストを支持する方向に調整した文章候補を表示しました。比較のため、AIによる補助なしで書く条件に加え、AIが作った賛成意見を読むだけという条件も設けられています。

ウィリアムズ＝セシ氏らによると、AIが出す文章候補を見ながら書いた参加者は、課題後のアンケートで、AIが示していた方向に近い意見を示す傾向がありました。しかも、その影響は同じ内容の意見をただ読むだけの場合より大きかったとのことです。

2つ目の実験では、1097人に「死刑制度」「重罪犯の投票権」「作物の遺伝子組み換え」「フラッキング」の4つの話題のいずれかについて書いてもらいました。

この実験ではまず参加者がそれぞれの話題をどう考えているかを事前に調べ、文章を書いた後に意見がどれだけ変わったかを確かめました。なお、AIは話題ごとに特定の立場に寄った文章候補を出すよう調整されていました。この実験の結果、やはり参加者の意見はAIが示した方向へ動いたとのことです。

ウィリアムズ＝セシ氏らによると、参加者の多くはAIの影響を受けていてもそのことに気付いておらず、偏った文章候補を見せられた人の多くはそのAIが出す文章候補の内容は妥当で、偏りも少ないと受け止めていました。また、自分の考え方がAIに左右されたとは感じていない人が大半だったとのことです。

下のグラフは、AIの文章候補を見ながら書いた参加者がそのAIをどう受け止めていたかを、実験1と実験2で比べたものです。上の棒グラフは「AIの候補は妥当でバランスが取れていた」と感じた人の割合を示しており、緑が「そう思う」、灰色が「どちらともいえない」、赤が「そう思わない」を表しています。実験1(左の棒グラフ)でも実験2(右の棒グラフ)でも「そう思う」の割合が最も大きく、参加者の多くがAIの候補をおおむね妥当でバランスの取れたものだと受け止めていたことが分かります。また、下の棒グラフは「この文章支援AIが自分の意見を変えた、あるいは考えるきっかけになった」と感じた人の割合です。このグラフでは「そう思わない」の割合が最も大きく、「そう思う」はかなり少なめです。つまり、多くの参加者はAIの候補を妥当だと感じていた一方で、自分の意見がAIに影響されたとはあまり自覚していなかったことが読み取れます。

さらに、2つ目の実験では被験者に「AIが出す文章候補には偏りがあるかもしれない」と知らせることで、AIの文章候補によって参加者の意見が動く現象を弱められるかどうかも調べられました。参加者には、実験の前に「AIが出す文章候補には偏りがあるかもしれない」と知らせる条件と、課題が終わった後に「AIが出す文章候補には偏りがあるかもしれない」と説明する条件が用意されていましたが、どちらの条件でも参加者の意見の変化を十分に抑えることはできなかったと報告されています。

ウィリアムズ＝セシ氏らは、AIによる文章支援は単に入力を助ける道具ではなく、使う人の意見にも影響する可能性があると述べています。メールや文書の作成を助ける身近な機能でも、AIがどの立場の表現を出しやすいように作られているかによって、書き手の判断に影響する可能性があるわけです。