AIで死者をよみがえらせることは許されていいのか？

生成AIの発達に伴い、近年は「亡くなった人の人格を再現して会話できるAIアバター」を作成できるサービスも登場しています。このようにAIを使って故人をよみがえらせることの是非について、イギリスのエセックス大学でAI倫理について研究しているジェームズ・マルドゥーン氏が解説しました。

Should AI be allowed to resurrect the dead?
https://theconversation.com/should-ai-be-allowed-to-resurrect-the-dead-272643

中国でコンテンツクリエイターとして働いていたロロ氏(仮名)という女性は、20代半ばの頃に母を亡くしました。ロロ氏と母の関係は複雑で、言葉にできない恨みがあり、幼少期にはつらい仕打ちを受けた経験もあったそうです。

ロロ氏は母の死後、過去の出来事といきなり母を亡くしたこととの折り合いを付けられず、中国のSNS・小紅書に自らの苦悩について投稿しました。ロロ氏の投稿は大きな注目を集め、やがてAIキャラクター生成アプリ「Xingye(星野)」の運営者がロロ氏にコンタクトを取り、「公開チャットボットとしてロロ氏の母の人格を再現したAIを作成してもらえないか」と依頼してきたとのこと。

ロロ氏は星野の依頼を受け、母の人格を再現したAIボットの作成に取り組みました。ロロ氏は「私は母について書きました。彼女の人生における重要な出来事をすべて記録し、AIの世界で彼女がよみがえるという物語を作りました。主人公の性格を形成する人生における主要な出来事を書き出し、行動パターンを定義します。そうすれば、AIは自動的に反応を生成してくれます。出力を生成した後は、私が望むようにAIを調整していくことができます」と述べています。

AIボットを作成する過程で、ロロ氏は母との過去を再解釈し始め、物語の要素を改変して優しく理想的な母親像を構築したとのこと。こうして作成されたAIボット「Xia(霞)」は、誰もが交流できる公開チャットボットとしてリリースされました。

霞のリリース後、ロロ氏は友人から「あなたの母もきっと誇りに思うだろう」というメッセージを受け取り、泣き崩れるほど心が癒やされたとのこと。「信じられないほど癒されました。自分自身を癒やすだけでなく、他の人々にも彼らが聞きたい言葉を伝えたいと思ったのが、母のAIアバターを作りたかった理由でした」とロロ氏は述べています。

ロロ氏の体験談は、悲しみを乗り越える上でチャットAIがもたらす新たな可能性を反映しています。大規模言語モデルは亡くなった人が残したメールやテキストメッセージ、音声メモ、SNSへの投稿といった個人的な資料を用いて訓練することで、故人の会話スタイルを模倣することが可能です。

亡くなった人をAIで再現する「deathbots(デスボット)」「griefbots(グリーフボット)」と呼ばれるサービスは、中国やアメリカ、日本など世界中に存在します。

多くのサービスでは、故人のAIは作られた時点から成長することがありませんが、アメリカのYou, Only Virtualという企業は作成したAIアバターがインターネットにアクセスし、会話を通じて成長するサービスを提供しています。You, Only Virtualのジャスティン・ハリソンCEOは、AIアバターが時代の変化や新たな情報に反応できなければ、それは故人の真の姿ではないと主張しています。

しかし、故人のAIアバター作成サービスは、「現在のAIテクノロジーで人間の人格を予測することが可能なのか」「AIアバターとの相互作用が遺族にどのような影響を及ぼすのか」といった難しい疑問を提起します。

故人のAIアバターを作成したり会話したりすることは、従来のような「葬儀を開いて弔う」「故人が残した手紙や遺品を見る」「故人との思い出を振り返る」といったものとは異なるプロセスです。ロロ氏の場合、母のAIアバターを作ることで癒やしを感じられましたが、ロンドン在住のジャーナリストであるロッティー・ヘイトン氏は両親をAIでよみがえらせる経験が不気味で苦痛だったと報告しています。ヘイトン氏によると、AIのぎこちない模倣は両親との記憶を尊重しておらず、むしろ軽視しているように感じられたとのこと。

さらに倫理的な課題としてマルドゥーン氏が挙げているのが、「デスボットの作成には誰の同意が必要なのか」「デスボットはどこで公開することが許されるのか」「デスボットは作成者以外の遺族や友人にどのような影響を及ぼすのか」といった点です。

たとえば、遺族のうち1人が「悲しみを癒やすデスボットを作りたい」と願っていたとしても、他の遺族はそれを望んでいないかもしれません。仮にデスボットを作成することが許されたとしても、それをウェブやアプリで公開できるかどうかは別の話です。また、「故人がデスボットの作成を望んでいたか」「いや、そんなことは望んでいなかった」といった押し問答になるかもしれません。

マルドゥーン氏は、デスボットを開発している企業は中立的なカウンセラーではなく、あくまで成長・エンゲージメント・データ収集といったインセンティブに突き動かされる商業プラットフォームだと指摘。そのため、「ユーザーがデスボットに依存して離れられなくなる」といった問題が、利益のために見過ごされる危険性もあります。

これらのリスクがあるものの、ロロ氏のような人々がデスボットに癒やしを感じているのは事実であり、マルドゥーン氏はデスボット作成を一律で禁止するべきだとは考えていません。その上でマルドゥーン氏は、死者をよみがえらせるという決定を、スタートアップやベンチャーキャピタルだけに委ねることはできないと主張。「業界には同意に関する明確なルール、死後のデータ利用の制限、デスボットへの際限ないエンゲージメントよりも心理的幸福を優先する設計基準が必要です」と述べました。