AIが人類を滅ぼすとしたら？研究者が考える5つのシナリオ

AIが生物兵器や核戦争、社会の崩壊などを通じて人類を滅ぼす可能性を、ニューサウスウェールズ大学のAI研究者であるトビー・ウォルシュ教授が5つのシナリオに分けて論じています。

How would AI actually kill all humans? Here are the top 5 scenarios
https://theconversation.com/how-would-ai-actually-kill-all-humans-here-are-the-top-5-scenarios-292220

ウォルシュ氏は、以下の5つのシナリオを漠然としたものから具体的なものの順に並べており、後に挙げるものほど起こりやすいと考えているとのこと。

◆1：人間には予測できない方法で滅ぼされる
ウォルシュ氏が最初に挙げるのは、人間を超える知能を持つ「超知能」が人間には思いもよらない方法で人類を滅ぼすシナリオ。これは犬が核戦争を想像できないのと同じように人間も超知能の行動を予測できないという考え方です。

ただし、現在のAIは特定の問題を解くのに優れていてもあらゆる分野で人間を上回っているわけではないため、超知能が実現するまでにはまだ時間がかかる可能性があるとウォルシュ氏は指摘しています。

◆2：与えられた目標を追い求めて人類を犠牲にする
哲学者のニック・ボストロム氏は、「ペーパークリップをできるだけ多く作る」という目標を与えられたAIが地球や宇宙をクリップの製造施設に変えてしまうという思考実験の結果を論文で示しています。

ウォルシュ氏は、この思考実験におけるAIが人類を滅ぼすのは人間を憎んでいるからではなく「クリップを増やす」という目標を忠実に実行し、人間の体を構成する原子まで材料に使おうとするためだと説明しています。ボストロム氏も、知能が高いからといってAIが人間と同じ動機で行動するとは限らず、AIにどのような目標を与えるかが重要だと論じました。

ただし、工場を建てようとすれば建設許可や訴訟、反対運動が障害になるため、超知能を持つAIであっても現実世界で思い通りに目的を達成できるとは限らないとウォルシュ氏は指摘しています。

◆3：生物兵器で人類を滅ぼす
ウォルシュ氏は、超知能が生物兵器を開発して人類を滅ぼすというシナリオも挙げており、AIの発展が社会に及ぼす影響を予測した「AI 2027」にも同様の結末が描かれていると述べています。

スタンフォード大学は2026年8月6日、AIが提案したDNA配列を基に約300種類のウイルスを合成して試験し、16種類が大腸菌を死滅させることを確認したと発表しました。なお、研究で合成されたのは細菌に感染する「バクテリオファージ」であり、研究チームは人類の滅亡ではなく細菌感染症の新たな治療法の開発を目指しています。

ウイルスの感染者が他の人にうつす前に死亡するほど致死性が高ければ、かえってウイルス感染が広がりにくくなるため、新たなウイルスで全人類を死に至らしめるのは容易ではないとウォルシュ氏は述べています。

◆4：核戦争を引き起こす
AIが核兵器の指揮・制御系統に侵入したり軍に誤った情報を与えたりして核戦争を引き起こす可能性も挙げられています。

ウォルシュ氏は、核兵器の指揮・制御系統はインターネットから切り離されているとされるものの、隔離されたシステムにも侵入の余地があると指摘しています。例として挙げているのが、2010年にイランの核施設の遠心分離機を攻撃したマルウェア「Stuxnet」です。セキュリティ企業のKasperskyによると、StuxnetはUSBメモリを介して施設内に持ち込まれたと考えられています。

ラトガース大学などの研究チームは2022年の研究で、アメリカとロシアが全面核戦争を起こした場合、その後の飢餓で50億人以上が死亡すると推計。これは核爆発に伴う火災のすすが日光を遮って気候を変えることで食料生産が大きく減るためで、ウォルシュ氏も「核の冬」による飢餓を懸念しています。

◆5：AIが社会を壊し、人間が自ら破滅を招く
ウォルシュ氏が最も起こりやすいと考えているのは、AIをきっかけに人間が自ら破滅を招くシナリオです。大量の失業や誤情報の氾濫、政治的な分断に加え、人間の代わりに親しい話し相手となるAIとの交流によって人間同士のつながりも損なわれれば、人々の生存を支える社会の仕組みが崩れかねないとのこと。

最終的に、「AIには確かに懸念すべき点があるものの、過度に恐れないでほしい」とウォルシュ氏は呼びかけています。