Claudeを日記として使用した女性がAnthropicに内容を通報されて逮捕される

アメリカ・フロリダ州で、AnthropicのAI「Claude」を日記のように使っていた女性が「保安官事務所を銃撃する」と書き込んで逮捕されたと報じられています。書き込みはAnthropicの安全システムが検出し、人間の担当者による確認を経て、警察に通報されました。

Woman arrested after AI threat against Lee County Sheriff's Office: Investigators | News | winknews.com
https://www.winknews.com/news/woman-arrested-after-ai-threat-against-lee-county-sheriffs-office-investigators/article_3d4c5915-7015-43c0-b86a-d7fa5eadf958.html

Florida woman used Claude as a diary, then Anthropic reported an entry to police | TechSpot
https://www.techspot.com/news/114091-florida-woman-used-claude-diary-anthropic-reported-shoot.html

逮捕されたのはアメリカ・フロリダ州ボニータスプリングスに住む女性です。報告書によると、女性は2026年9月26日、AnthropicのClaudeに「保安官事務所を銃撃する」と書き込んだとのこと。翌27日には、「新しい銃を手に入れた」という趣旨の書き込みもしたそうです。

Claudeには特定の表現や脅威につながる可能性のある内容を検出する安全対策が導入されています。また、Anthropicの利用規約は、同社の製品を暴力や脅迫の助長に使うことを禁じています。加えて、政府機関からの要請に関する方針では、死亡や重大な身体的被害の危険がある緊急事態に、必要と判断した場合は、法執行機関へユーザー情報を開示する可能性があるとしています。

今回の書き込みは内容が深刻だったことから人間のレビューチームに送られ、確認後に法執行機関へ報告されたとのこと。つまり、Claudeが自ら警察に通報したわけではなく、安全システムが検出した内容を人間の担当者が確認したうえで通報されました。

通報を受けた保安官事務所は、女性を特定し、自宅を訪問。女性は抵抗せずに拘束され、その後、同保安官事務所の情報部門の刑事が捜査を引き継ぎました。女性はフロリダ州法に基づく「書面による暴力の脅迫」の罪に問われています。

フロリダ州法では、殺害や傷害、銃乱射事件、テロ行為などの脅迫を含む文章や電子的記録を、他人が閲覧できる方法で送信・投稿する行為を犯罪としています。テクノロジー系メディアのTechSpotによると、この罪は第2級重罪に分類されるそうで、女性は11月に出廷する予定です。

リー郡のカーマイン・マルセノ保安官によると、女性はClaudeを「日記のように使っていた」とのこと。マルセノ保安官は、「AIは強力なツールである一方、他の技術と同様に悪用される可能性がある。AIを使った脅迫であっても、当局はその脅威を深刻に受け止める」と述べています。