ChatGPTで銃撃事件が予告されていたのに見逃したことを受けOpenAIが法執行機関へのアカウント通報基準を柔軟化

カナダで発生した銃撃事件の容疑者がChatGPTとやり取りしていたことを受けて、OpenAIが安全対策を強化することをカナダ当局に約束しました。アカウントを法執行機関に連絡するための基準をより柔軟化し、重大な犯罪につながるポリシー違反が検知された場合に警察への通報を行う可能性が示唆されています。

OpenAI Tightens Protocol for Referring Accounts to Law Enforcement - WSJ
https://www.wsj.com/tech/ai/openai-tells-canada-it-will-strengthen-safety-protocols-after-mass-shooting-left-eight-dead-6a20836e

2026年2月にカナダのブリティッシュコロンビア州にある学校で銃乱射事件が発生しました。事件では8人が死亡、数十人が負傷しており、容疑者とみられる18歳の人物は学校で自殺したとみられる状態で死亡しているのが発見されました。

この事件の容疑者が、事件の数カ月前にChatGPTで銃による暴力行為を予告するようなやり取りをしていたと、ウォール・ストリート・ジャーナルは報道しました。報道によると、容疑者のやり取りは自動レビューシステムによってフラグが付けられ、約12名のスタッフが協議してカナダの法執行機関に通報するよう幹部に提案したところ、アカウント停止の措置が下されたものの通報は行われなかったとのこと。

その後実際に事件が発生したことを受け、OpenAIはカナダの人工知能担当大臣であるエヴァン・ソロモン氏に宛てた書簡の中で、「アカウントを法執行機関に通報するための基準をより柔軟化します。また、カナダの法執行機関との直接連絡窓口を設置し、困っているユーザーを適切な支援機関に誘導するとともに、安全対策の回避を阻止するための検知システムを強化します」と表明しました。その上で、「強化された法執行機関への連携プロトコルに基づくと、もし今日銃撃容疑者のアカウントが発見されていれば、法執行機関に通報していたはずです」とやり取りに応じて通報を行う体制を強化することを明らかにしています。

OpenAIのグローバル政策担当副社長であるアン・オリアリー氏は書簡の中で「これらの即時の取り組みは、AIの安全性を向上させるためにカナダ政府と協力して行うべき取り組みの第一歩に過ぎません。私たちは検出システムの強化に全力を尽くします」と語りました。

ソロモン氏は事件後にオタワで行われた会合で「OpenAIが『実質的な新たな安全対策』を提示できなかったことに失望している」と述べています。書簡を受けたソロモン氏の広報担当者は、「当局はOpenAIからの書簡を慎重に検討し、今後数日中にさらなる発表を行う予定です」と回答しました。また、カナダのショーン・フレーザー法務大臣は「企業が速やかに政策変更を実施しない限り、連邦政府はAIを規制する新たな規制措置を導入する用意がある」と警告しており、今後のAI企業の対応や政府との連携が注目されています。