インドネシアがGrokへのアクセスをブロックした最初の国に、合意のない性的画像の拡散が理由

X(旧Twitter)上で、Grokを使って勝手に子どもや女性の画像を性的なものに加工するという行為が問題視されています。これを受け、インドネシアがGrokへのアクセスを一時的にブロックすると発表しました。

Indonesia blocks Musk’s Grok chatbot due to risk of pornographic content | Indonesia | The Guardian
https://www.theguardian.com/world/2026/jan/10/indonesia-blocks-musks-grok-chatbot-due-to-risk-of-pornographic-content

Indonesia blocks Grok over non-consensual, sexualized deepfakes | TechCrunch
https://techcrunch.com/2026/01/10/indonesia-blocks-grok-over-non-consensual-sexualized-deepfakes/

2025年末、xAIが開発する生成AI「Grok」の画像編集機能が、X(旧Twitter)からも簡単に使えるようになりました。その結果、X上で他人の画像を勝手に性的に編集する事例が多発するようになりました。これを受け、インドやフランス、マレーシアの当局はXおよびGrokに対する調査を開始しています。一部の調査では、Grokでは毎時約6700枚もの性的な画像が生成されていると指摘されており、これはGrokで生成されている画像の85％が性的なものであるということになります。

Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 - GIGAZINE

これを受け、2026年1月10日にインドネシアはGrokへのアクセスを一時的にブロックすると発表しました。インドネシアはGrokへのアクセスをブロックした最初の国となっています。

インドネシアのメウティア・ハフィド通信デジタル大臣は、Grokのブロックについて「政府は合意のない性的ディープフェイクの実践をデジタル空間における国民の人権・尊厳・安全に対する重大な侵害とみなしています」とThe Guardianに語りました。

世界最大のイスラム教徒人口を抱えるインドネシアには、わいせつとみなされるコンテンツのオンライン共有を禁止する厳しい規則があります。

なお、Grokの画像編集機能をめぐり、開発元のxAIは1月9日にGrokの画像編集機能を有料会員向けの機能として制限しました。

XのAI画像編集機能が一部有料化 - GIGAZINE

また、アメリカの政治家はスマートフォン向けの公式アプリストアを運営するAppleとGoogleのCEOに対して、「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡を送付しています。

「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡をアメリカの政治家たちが送付、理由は「違法な性的画像を大量生成しているため」 - GIGAZINE

この他、Grokの問題を受け、イギリスではXが禁止される可能性があるとの報道もあります。また、オーストラリアのアンソニー・アルバネーゼ首相も、性的搾取コンテンツを可能にするためにGrokが利用されることに懸念を表明しました。