Metaがユーザーからの反発を受けInstagramのAI機能を削除

MetaがAIを使ってInstagram上の写真を編集する機能を廃止しました。

Meta removes controversial AI feature on Instagram after backlash | TechCrunch
https://techcrunch.com/2026/07/10/meta-removes-controversial-ai-feature-on-instagram-after-backlash/

現地時間の2026年7月7日、Metaは画像生成AIの「Muse Image」を発表しました。Muse Imageはチャットサービスの「Meta AI」で、公開Instagramアカウントをメンションすることで、Muse Imageを使って画像を編集することが可能となっていました。

MetaがGIFアニメも作れる画像生成AI「Muse Image」をリリース＆音声付き動画を生成できる「Muse Video」も発表される - GIGAZINE

しかし、この機能はユーザーの同意なしでも画像をMuse Imageで編集できてしまう点が問題でした。また、ユーザーは自分の写真がMuse Imageで編集されても、特に連絡や通知がないという点に対しても不満を抱いていた模様。

これについてテクノロジーメディアのTechCrunchは、「他人の画像を簡単に操作できる状態は、悪用・嫌がらせ・なりすまし・同意のない画像編集といった問題を引き起こす可能性がある」と指摘しています。

ユーザーからの反発を受け、MetaはInstagramのMuse Imageの提供を一時停止したことが明らかになりました。テクノロジーメディア・Puckのシニア特派員であるDylan Byers氏は、「MetaはユーザーがMeta AI内で公開Instagramアカウントをメンションすることで画像を生成できる新機能を一時停止しています。この措置はユーザーやCAAを含むタレントエージェンシーからの精査の中で行われています」と投稿しています。

Byers氏がMetaから受け取った声明は、「今週初め、私たちはMeta AIで画像を生成するひとつの方法として、人々が参照したい公開Instagramアカウントをメンションすることで可能になる機能を発表しました。私たちの意図は、有用なクリエイティブツールを提供し、人々が自分の公開コンテンツがこの方法で参照されるかどうかをコントロールできるようにすることでした。この機能が期待に沿わなかったというフィードバックを耳にしたので、利用できなくしました」という内容です。

なお、ソーシャルメディアに追加されたAI機能が問題視されたのは今回が初めてではありません。X(旧Twitter)で生成AIのGrokが使えるようになった際、女性や子どもの写真が無断で性的な画像に加工されるという事態が多発し、大きな問題となりました。この一件により、Grokはインドネシアやマレーシアで一時的にアクセスがブロックされています。

Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 - GIGAZINE

さらに、Xの開発元であるSpaceXAI(旧xAI)は、Grokが児童性的虐待コンテンツ(CSAM)を生成したとして訴えられています。

Grokを使って継娘の性的な画像を大量作成した男性が自殺、被害者少女は性的被害と父親を失う二重苦で一夜にして人生が崩壊 - GIGAZINE

なお、TechCrunchは今回削除された機能について「悪用される可能性はほぼ確実でした」と記しています。