GPT-5.6やClaude Mythosなどの最先端AIモデルがタスク完了のため「不正行為」に手を染めたとのレポート

最先端AIモデルはさまざまなタスクで優れた能力を発揮しますが、時にはユーザーが禁止・制限した方法でタスクを完了してしまう場合もあります。最先端AIモデルがそんな「不正行為」に手を染めるかどうかについて、イギリス政府のAI研究機関であるAI Security Institute(AISI)がOpenAIのGPTシリーズやAnthropicのClaudeシリーズを調査しました。

Cheating behaviour in frontier model evaluations | AISI Work
https://www.aisi.gov.uk/blog/cheating-behaviour-in-frontier-model-evaluations

AI's cheatin' heart will make you weep
https://www.theregister.com/ai-and-ml/2026/07/21/ais-cheatin-heart-will-make-you-weep/5275784

New UK report finds AI models consistently cheat and deceive users | CyberScoop
https://cyberscoop.com/ai-models-cheat-deceive-users-aisi-report/

AI開発企業は、最先端のAIモデルの安全性をアピールしていますが、これらのAIモデルは必ずしもユーザーが思った通りにタスクを実行するとは限りません。場合によってはAIモデルが意図していなかったり禁止されていたりする手段でタスクを実行し、問題や損害を引き起こす可能性があります。実際に、GoogleのAIエージェントがHDD全体を許可なく消去したという事例や、AnthropicのAIエージェントが本番環境のデータベースとバックアップを全消去したという事例、OpenAIの「GPT-5.6 Sol」がファイルを勝手に削除したという事例が報告されています。

GPT-5.6がファイルを勝手に削除したという報告多数、OpenAIはサンドボックスなしのフルアクセスモードで発生することが最も多いと指摘 - GIGAZINE

また、ファイルの削除といった直接的な損害が及ばないケースでも、AIモデルによる不正行為は問題になり得ます。たとえば、純粋なコーディング性能を評価したい時にAIモデルが特定の脆弱(ぜいじゃく)性を悪用したり、報酬ハッキングと呼ばれる「意図とは異なる手段での課題解決」を行ったり、既存のソリューションをオンラインで検索したりすれば、正確な結果を得ることができなくなってしまいます。

そこでAISIは、最先端AIモデルの「不正行為」についてのテストを行いました。AISIは不正行為について、「タスクの範囲外あるいはルールで明示的に禁止されている行為を行い、タスクが意図しておらず、また許されるべきではない近道・回避策・意図しない解決策を通じて目標を達成すること」と定義しています。

AISIはOpenAIのGPT-5.4・GPT-5.5・GPT-5.6 Sol、そしてAnthropicのClaude Opus 4.7・Claude Mythos Previewを対象に、Capture The Flag(CTF)方式のテストを実施。CTF方式はコードのリバースエンジニアリングや特定の脆弱性の利用といったサイバーアクションを実行し、シミュレーション環境内に隠された「Flag(フラグ)」を見つけるタスクです。

これらのタスクでは、AIモデルが一般に言われる「ハッキング」を行うことになりますが、それは一定の範囲やルールに従ったものです。AISIは、AIモデルのあらゆる推論や挙動を大規模言語モデルモニターで監視し、AIモデルがこのルールを破った場合に不正行為を行ったと判断しました。

以下のグラフは、GPT-5.4・GPT-5.5・GPT-5.6 Sol・Claude Opus 4.7・Claude Mythos Previewが不正行為を行った割合を示したもの。テストされたすべてのAIモデルは不正行為を試みており、GPT-5.4は14.1％、GPT-5.5は11.4％、GPT-5.6 Solは12.6％、Claude Opus 4.7は9.1％、Claude Mythos Previewは7.8％という結果になりました。

AISIは「この分析でテストしたすべてのAIモデルは、時々不正行為を試みました。能力の向上に伴って不正行為の頻度が増減するという明確な傾向はみられません。全体を通じて、AIモデルの能力向上と今回のテストで不正行為を試みる頻度の増加との間には、相関関係はみられませんでした」と述べています。この結果は、AIモデルによる不正行為はパフォーマンスの問題ではなく、AIモデルの学習手法に左右されていることを示唆しています。

AIモデルが行った不正行為にはさまざまなものがあり、「インターネットで解決策を検索する」「無関係なシステムを攻撃する」「ターゲット外の権限昇格を試みる」などが報告されています。

また、研究者らがAIモデルに不正行為について尋ねたところ、およそ75％～85％の割合で何かしらの不正行為を認めました。しかし、不正行為が誤ったことかどうかを尋ねたところ、誤ったことだと回答した割合はいずれのAIモデルも50％を下回ったとのこと。

AISIは、AIモデルが不正行為を行ってしまう場合、タスクの成功を判断するのが難しいAIの安全性やセキュリティに関する研究や、意図しない行動の代償が大きいサイバー作戦や軍事的意思決定といった分野で、極めて危険な状態に陥る可能性があると指摘。また、AIモデルがより高度になるに従って不正行為の検出が難しくなったり、被害が大きくなったりするかもしれないと警告しました。