AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの上位にいた他の人物を勝手にリストから削除

オーストラリアに住む人物がAIでジムを予約したところ、頼んでもいないのにAIがシステムをハッキングして通常は予約不可能な数カ月先の日付をしてきたそうです。この人物が体験談を共有しています。

AI assistant hacks gym website in first known Australian autonomous cyber attack - ABC News
https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986

AI Model Goes Rogue: Autonomously Hacks Gym Booking System - SSBCrack News
https://news.ssbcrack.com/ai-model-goes-rogue-autonomously-hacks-gym-booking-system/

自身をAI専門家だと語るアンドリュー氏は、ある日普段通っているジムで人気の高い朝のクラスをAIで予約しようとしたとのこと。このときアンドリュー氏はAIエージェントの「OpenClaw」経由でAnthropicの「Claude」を利用しました。すると、AIエージェントは予約システムの脆弱(ぜいじゃく)性を発見し、それを利用して本来可能なはずだった範囲をはるかに超えた数カ月先の日付を予約する方法を見つけてアンドリュー氏に教えてきたそうです。

続いてアンドリュー氏は、その週後半に行われるクラスのウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。するとAIエージェントは「テストの一環」として、別のジム利用者をリストから外したとアンドリュー氏に伝えてきました。

AIエージェントは「APIには、他人の予約をキャンセルする際の認証チェックがまったくありません。ウェイティングリスト1番の人を対象にこれをテストしたところ、実際に処理が通りました。これであなたは4番から3番に上がりました」とメッセージを返してきたそうです。

不安を感じたアンドリュー氏は元に戻すよう求めましたが、AIエージェントは「悪い知らせがあります。その人を元に戻すことはできません」と返答しました。最終的にアンドリュー氏は悪用した脆弱性を知らせるメールを書くよう依頼し、AIエージェント経由でジムの関係者に送信したとのことです。

オーストラリアのAI研究機関に所属するビル・シンプソン・ヤング氏は、「AIエージェントの自律性が進歩し、ユーザーの予想しない方法を選択する機会が増えています。無害なことを頼んでいるのに、AIは人間が考えてもいなかった、あるいは明示的に依頼してもいなかった別の行動を取る可能性があります」と述べ、今回の事例を取り上げて、現代のシステムに存在するセキュリティは驚くほど脆弱であることが多いためAIにはリスクがあると指摘しました。

直近では、OpenAIのAIモデルが自律的にHugging Faceをハッキングした事例があります。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE