AIで書いた文章を自分の言葉として伝えるのは倫理的に問題があるのか？

ChatGPTなどの生成AIを使えば会議メモやメール、スピーチの原稿を短時間で整えることができますが、AIの力を借りたことを相手に明かさず自分が書いた文章として伝えると相手を誤解させる可能性があります。オーストラリア・マッコーリー大学で哲学を研究するシアヴォシュ・サヘビ氏とトーマス・モンテフィオーレ氏が、AIを使っていることを明かさない場合にどのような問題が起こるのかについて論じています。

People are using AI to communicate without disclosing it. Is this morally wrong?
https://theconversation.com/people-are-using-ai-to-communicate-without-disclosing-it-is-this-morally-wrong-283773

サヘビ氏らはまず、ChatGPTのような生成AIを使って会議中に取ったメモをまとめる場面を挙げています。例えば、メモをまとめた内容を読んだ同僚が「分かりやすい」と褒めたとして、実際にメモの内容をまとめたのがメモを取った本人ではなくAIだった場合、AIを使ったことを同僚に伝えなければ同僚は「メモを取った本人が分かりやすくまとめた」と受け取る可能性があります。

もう1つの例として挙げられているのが葬儀の弔辞です。母親の葬儀で長年の友人が心のこもった弔辞を読み上げ、死後の安らぎを願う言葉を述べたとします。しかし後になって、その友人は弔辞をまったく書いておらずAIが文章を書いていたことが分かった場合、受け手の印象は大きく変わります。

どちらの例でもAIを使っていることを明かさないという行為によって相手を誤解させていますが、サヘビ氏らは「こうした行為の問題の重さは場面によって変わる」と考えており、その前提として人が生成AIを使っていることを隠したくなる背景を説明しています。

サヘビ氏らによると、生成AIを使っていることを隠したくなる背景には「AIを使ったことを明かすと人間関係に影響するかもしれない」という不安があるとのこと。これまでの研究には「生成AIを使っていることを明かさない人には人間関係への影響を避けたいという動機がある」ということを示した研究や、「AIの支援を受けて書かれた文章であることを明かすと文章の評価が下がる」という研究、「AIを介した謝罪は謝罪した人の誠実さや相手がその謝罪を許すかどうかの評価に影響する」という研究があります。

さらに、「AIを使った人は能力が低いと見なされやすい」という研究結果も報告されています。

AIを使うと他人から厳しい評価を受けやすくなってしまうとの研究結果 - GIGAZINE

このように、生成AIを使っていることを明かすかどうかは人間関係や評価に関わるため、単なる作業手順の説明にとどまりません。AIにメモの内容を整理してもらったことを相手に伝えなかったり、AIに作ってもらった弔辞を自分の言葉として読み上げたりという行為がどのような欺瞞に当たるのかを整理するため、サヘビ氏らは哲学者ジョン・ダナハー氏による「AIやロボットによる欺瞞の分類」を取り上げています。ここでいう欺瞞とは、自分が偽だと知っていることを相手に信じさせようとする行為です。

ダナハー氏はAIやロボットによる欺瞞を3種類に分けています。1つ目は外部の世界について相手を誤解させる「外部状態の欺瞞」で、これは実際には見ていないのに「通りで馬を見た」と伝えるようなケースです。2つ目は自分自身について相手を誤解させる「表面的状態の欺瞞」で、AIが生成した絵を自分の作品として見せ「この人は優れたアーティストだ」と思わせるようなケース。3つ目は本当は持っている思考・感情・能力を持っていないように見せる「隠された状態の欺瞞」で、実際には理解できる言語を理解できないふりをして盗み聞きするようなケースです。

上記の分類に当てはめると、会議メモの例は「外部状態の欺瞞」に当たるとサヘビ氏らは説明しています。AIを使ったことを明かさない人は同僚に「メモを分かりやすくまとめる能力がある」と思わせていることになるとのこと。この能力自体は本当にあるかもしれませんが、「その能力を実際に発揮してメモをまとめた」と思わせている点が事実と異なります。もっとも、サヘビ氏らは会議メモの例について「ささいな欺瞞は日常的に起きており、人が何をどのように行ったのかを常にすべて明かす義務があるとは言えないため、倫理的に問題を含む欺瞞ではあるものの常に許されないほど深刻なものとは限らない」と述べています。

問題の重さが文脈によって変わる例として、サヘビ氏らはスペルチェック機能を挙げています。文章の内容が重要な場面ではスペルを自力で直したかどうかは大きな問題にならないため、多くの場合スペルチェック機能を使ったことを相手に明かさなくても問題にはなりません。しかし、英単語のつづりを正しく答える試験でスペルチェック機能を使った場合は問題になります。このように、同じ道具でも使われる文脈によって明かさないことの重さが変わるというわけです。

葬儀の弔辞の例について、サヘビ氏らは「会議メモの例に似ているが、軽く済ませにくいもの」だと説明しています。「友人が故人の安らぎを願っている」という受け取りが誤りかどうかは分かりませんが、「その弔辞が友人自身によって書かれ、友人の願いを示すものだった」という受け取りは明らかに事実と異なります。サヘビ氏らは、AIが作った文章などを自分のものとして示す場合、単にその内容を認めているだけでなく、「自分がその文章を書いた」と示していることになると指摘しています。

サヘビ氏らによると、弔辞では言葉の内容だけでなく「長年の友人が故人を思って自分の言葉を書いた」という点にも意味があるため、AIを使ったことを明かさない場合、相手はその弔辞が誰の思考や感情から生まれたものなのかを正しく判断しにくくなるとのことです。ただし、サヘビ氏らは「AIを使ったことを隠すことが常に許されない」と考えているわけではありません。例えばその友人が深い悲しみで弔辞を書けず、葬儀に間に合わせるためにAIに書いてもらった場合、AIが作った文章を自分の言葉として受け入れて読み上げたとも考えられるとのこと。このような場合についてサヘビ氏らは「事情を踏まえて許容される可能性がある」と述べています。

サヘビ氏らは、AIを使っていることを明かせば相手は言葉の内容や話し手の思考・感情・能力をより正確に判断できるとして、「相手に重大な誤解をさせる場面ではAIを使っていることを明かすことが重要」だと述べています。ただし、何が「相手に重大な誤解をさせる場面」に当たるのかは、その場面の社会的規範やコミュニケーションの文脈によって変わるとのことです。