InstagramのAI検出ラベルが誤作動しまくっていると話題に

Metaは2024年5月から、AIで作成されたコンテンツに対して「AI Info(Made with AI)」というラベルを付ける施策を導入しています。その後も検出機能の強化などを実施していますが、2026年8月末頃から、明らかにAI生成画像なのにラベルがついていなかったり、人間が撮影した写真なのにラベルをつけたりといった誤検出が多数報告されています。

Instagram’s AI detection is a mess (again) | The Verge
https://www.theverge.com/ai-artificial-intelligence/989617/instagram-ai-content-label-confusion

MetaはFacebookやInstagramといったプラットフォーム上のコンテンツを削除・保持する決定を下す際に、間違った判断を下さないようにするため、監督委員会と呼ばれる独立した裁定機関を設けています。この監督委員会からの「より広範な既存のコンテンツを反映し、ラベルを通じてコンテンツに関するコンテキストを提供するためにアプローチをアップデートする必要がある」というフィードバックに基づき、MetaはFacebookやInstagram、Threads上でのAI生成コンテンツに「Made with AI」というラベル付けをすることを、2024年4月に発表しました。

「Made with AI」のラベルは2024年5月から開始されましたが、一部の写真家などからは、AdobeのPhotoshopなどを用いて画像編集を行った写真を投稿した際にも「Made with AI」のラベルが付けられてしまうことが指摘されていました。これらの苦情に対応するため、Metaは同年7月に「Made with AI」のラベル名を「AI info」に変更しています。

MetaがAIで生成されたコンテンツを示す「Made with AI」ラベルの名称を「AI info」に変更、写真家からの苦情が原因 - GIGAZINE

その後も、MetaのAI研究機関である「Meta Superintelligence Labs」はAIの活用を進めるのと同時に、「人々がAI生成コンテンツを識別するためのツールが必要」という原則も重視し、2026年7月前半には画像をアップロードするとMetaのAIで作られたものかどうかを検出できるAI識別ツールの研究デモも公開しています。さらにMetaは2026年7月28日、2024年8月からEU圏内で施行されている「EU AI法」におけるAI生成コンテンツの透明性に関する行動規範に署名することを表明しました。

MetaがAI生成コンテンツの透明性に関するEUの行動規範に署名 - GIGAZINE

このようにMetaはAI生成コンテンツの透明性を重視していますが、実際にはInstagramのAIラベル表示機能が誤作動を起こしているとの報告が2026年7月ごろから相次いでいます。

ケンタッキー州ヘンダーソンでヴィンテージやアンティークを扱うCorkscrew CuriositiesのInstagramアカウントは、「クリエイターが背景除去ツールなどの特定のツールを使用すると、Metaが投稿を自動的にAIとして分類し始めたことが分かりました。Corkscrew Curiositiesでは、ビジネスやアート制作に多くのツールを使用しています。これらのツールのほぼすべてに、弊社が意識的に使用していないAI機能が導入されており、中には何年も前から被写体選択や背景除去といった様々な形のAI支援ツールを使用しているものもあります」と、生成AIを使っていなくてもAIを組み込んだツールを使用していることでラベルが貼られていることを報告しています。

Corkscrew Curiositiesの投稿には、「背景除去ツールを一度使っただけでAIラベルが付いてしまった」「すべて自社コンテンツを使用して作業に4時間費やした広告が、『レイヤーを作成』ツールを使ったらAIラベルがついた」といった同様の事例が報告されています。また別の投稿では、100％手描きのアートにもかかわらずAIラベルが付与され、修正を申し立てることもできないという問題が指摘されました。

また、あるThreadsユーザーによると、グラフィックデザインソフトのCanvaで修復ブラシを使用すると、作品全体がAIアセットとして即座にフラグ付けされてしまい、それがInstagramのラベルに適用されている可能性があるとのこと。なお、CanvaのFAQsには「背景除去ツールを使用すると、SNS上で投稿がAI生成としてフラグ付けされる可能性はありますか？」という項目があり、「Canvaは、AI編集機能によってまったく新しいコンテンツが作成されたり、大幅に変更されたりした場合にのみ、AIが生成したコンテンツメタデータを追加します。背景削除機能はこれらのどちらにも該当しないため、デザインにメタデータを追加することはありません」と記載されています。

さらにThe Vergeによると、AI生成画像に埋め込まれるC2PAとSynthIDが含まれる画像をテスト投稿したところ、InstagramはどちらにもAIによる画像としてタグ付けしなかったそうです。また、新しく開設したInstagramアカウントがボットやAIファームのように振る舞うようにするテストも実施しましたが、そのアカウントは2週間以上放置されて取り締まりなどは実施されていないとのこと。

The Vergeは「複数のツールについて独自のテストを実施しましたが、InstagramがAIラベルを適用するトリガーとなることが確実な唯一のシグナルは、Meta独自の生成AIシステムによって適用されるものであることが分かりました。今回の結果を見て、MetaがAIラベルをどのように適用しているのか、その妥当性に疑問を感じざるをえません」と指摘しています。