AIによるディープフェイクがミステリー小説にも影響を与えていると推理小説家が解説

生成AIの発達によって、これまでより大幅に少ない労力と時間で、本物と見間違うほど精巧な動画や画像、音声を生成できるようになりました。こうしたAI生成のディープフェイクがミステリー小説にも影響を与えていると、『＃ニーナに何があったのか？』などのミステリー小説で知られるオーストラリア人作家のダーヴラ・マクティアナン氏が解説しました。

Crime Reads » How AI Deepfakes Are Changing the Rules of Crime Fiction
https://crimereads.com/how-ai-deepfakes-are-changing-the-rules-of-crime-fiction/

AIを用いて実在する人物がやっていないことをやった、あるいは言ったかのように見せるディープフェイクは、かつては極めて生成コストが高く説得力も低いものでした。しかし近年では高性能な生成AIが普及し、以前より圧倒的に少ない労力と時間でディープフェイクを生成可能となっています。各国政府はその影響を理解しようと努めていますが、記事作成時点では十分な法規制が行われていません。

もはや画像や動画そのものをじっくり見ただけでは真偽を判別できない状況下で、AI生成かどうかを見分ける際に頼りになるのは、動画や画像に登場する人や物に関する広範な文脈だけです。人々は「トム・ハンクスが怪しげな歯科保険の広告に出るとは思えないので、この広告はおそらくAI生成だろう」といった風に判断を下すしかないというわけです。

ディープフェイクは動画などに登場させる人物についてよく調べ、特定のターゲットをだまそうとした時に最も効果を発揮します。2024年には、香港のエンジニアリング企業に勤める財務担当者が、最高財務責任者(CFO)を名乗る人物からビデオ会議への参加を促されました。被害者はビデオ会議に参加したCFOや同僚の顔や声が本物そっくりだったため、すっかり信用して指示されるままに2億香港ドル(約38億円)を口座に送金しましたが、後に詐欺だったことが判明。会議参加者はすべてディープフェイクで生成された偽物だったという事件が発生しました。

ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？ - GIGAZINE

特定の個人をターゲットとしていない詐欺はより一般的で、ソーシャルメディア上では芸能人や実業家が登場するうさんくさい広告が数多くみられます。また、政治家の評判をおとしめるために生成されたディープフェイクが、ボットアカウントを通じて拡散されるという事例もあります。

マクティアナン氏は、ディープフェイクが犯罪小説にとって格好の題材になると主張しており、実際にマクティアナン氏の著書『Three Reasons for Revenge』では個人攻撃の手段としてディープフェイクが用いられています。

『Three Reasons for Revenge』の中では2回ディープフェイクが登場しており、1つ目は「ロバートという心理学者が患者とセックスをしているように見える動画」で、2つ目は「エルサというファッションデザイナーが雇い主のインフルエンサーを口汚く批判する音声」です。これらのうち1つは本物で、もう1つはディープフェイクだそうですが、作中ではロバートとエルサはどちらも「これはディープフェイクだ」と主張するとのこと。

これにより周囲の人々は、「これまでに関わってきた相手のことを信頼するのか、それとも本物にしか見えない動画や音声を信じるのか」という絶望的な状況に追い込まれます。マクティアナン氏は、「ディープフェイクはあなたが無実である場合、最悪の人格攻撃になります。あなたの声音・ニュアンス・トーン・唇・頬・えくぼを使って、あなたが望むものとは正反対のメッセージを伝える動画は深刻な暴力です。一度その動画が世に出回ってしまうと、あなたは常に不安の中で生きなければならなくなります。誰がそれを見て、誰がそれを信じたのかを、常に不安に思うことになるのです」と述べています。

一方、本物の動画や録音を公開されて危うい立場に追い込まれてしまった人にとって、「これはディープフェイクだ」という主張は新たな逃げ道となりました。しかしマクティアナン氏は、正当な証拠をディープフェイクだと攻撃する手法は、評判管理を専門とするPR企業を雇い、ボットやインフルエンサーを通じて世論を誘導できるような富裕層にのみ有効だろうと主張しました。

ディープフェイクによって証拠そのものが信じられなくなった時、受け入れられる真実は「何が証明されているのか」ではなく、「誰が信用できるか」「主張がどれだけ繰り返されるか」「最初に誰の言い分が耳に届くのか」に左右されます。『Three Reasons for Revenge』ではディープフェイクが人間関係を揺るがし、ロバートやエルサの周囲の人々は長年にわたり築いてきた関係と、ほんの数秒の動画や音声のどちらを信用するべきなのかを迫られます。

マクティアナン氏は、「犯罪小説は常に何が起こったのか、誰を信じるべきなのか、何が証拠として認められるのかを問い続けてきました。そして新しいテクノロジーは、フィクションの世界でも現実の世界でも、警察活動に常に機会と課題をもたらしてきました。ディープフェイクがこれまでと異なるのは、それが個人的でかけがえのないものに打撃を与えるからだと思います。それは私たち自身の判断力、目と耳、そしてお互いへの信頼です」と述べました。