Grokがマレーシアでも利用不可能に、X(旧Twitter)での合意のない性的コンテンツ生成が原因

X(旧Twitter)上で、生成AI「Grok」を用いた「女性や子どもの画像を合意なしで編集する行為」が問題視されています。これを受け、インドネシアはGrokへのアクセスをブロックしたのですが、これに続き、マレーシアも同様の施策を実施したことが明らかになりました。

Musk’s Grok AI Blocked in Indonesia, Malaysia Over Sexual Images - Bloomberg
https://www.bloomberg.com/news/articles/2026-01-11/musk-s-grok-ai-blocked-in-indonesia-malaysia-over-sexual-images

Grok is blocked in 2 countries over explicit AI images | AP News
https://apnews.com/article/grok-malaysia-indonesia-block-c7cb320327f259c4da35908e1269c225

Indonesia Does What Others Are Still Debating: Blocks Grok AI Over Harmful Deepfakes | IBTimes
https://www.ibtimes.com/indonesia-does-what-others-are-still-debating-blocks-grok-ai-over-harmful-deepfakes-3795017

Fortune Tech: Grok blocked, Instagram data leak, Walmart Wing expansion | Fortune
https://fortune.com/2026/01/12/indonesia-malaysia-temporarily-block-grok/

Malaysia restricts access to Grok AI as backlash over sexualised images widens | Reuters
https://www.reuters.com/business/media-telecom/malaysia-restricts-access-grok-ai-backlash-over-sexualised-images-widens-2026-01-12/

Indonesia and Malaysia block Grok over nonconsensual, sexualized deepfakes | TechCrunch
https://techcrunch.com/2026/01/11/indonesia-blocks-grok-over-non-consensual-sexualized-deepfakes/

2025年12月、xAIが開発する生成AI「Grok」の画像編集機能が、X(旧Twitter)から利用できるようになりました。その結果、X上で他人の画像を勝手に性的な画像に編集する事例が多発しています。これを受け、インド・フランス・マレーシアの当局はXおよびGrokに対する調査を開始したことが報じられました。それだけでなく、一部の調査ではGrokが毎時約6700枚もの性的な画像を生成していると指摘されています。

Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 - GIGAZINE

そして、1月10日にはインドネシアが世界で初めてGrokへのアクセスをブロックしました。

インドネシアがGrokへのアクセスをブロックした最初の国に、合意のない性的画像の拡散が理由 - GIGAZINE

インドネシアに続き、2026年1月11日にはマレーシアもGrokへのアクセスを一時的にブロックしました。マレーシアの通信マルチメディア委員会は、女性や未成年者を含むわいせつ、性的に露骨、合意のない加工画像を生成するためにGrokが「繰り返し悪用」されていると指摘。

通信マルチメディア委員会はXおよびxAIに対してより強力な安全対策を求める通知を発行したと説明しており、「この制限は、法的および規制上の手続きが進行中の間、予防的かつ適切な措置として課せられる」と述べました。なお、効果的な安全策が講じられるまでブロック措置は解除されない見通しです。

イスラム教徒が多数を占めるマレーシアでは、わいせつなコンテンツやポルノコンテンツの禁止など、オンラインコンテンツに関する厳格な法律が制定されています。近年、マレーシアでは有害コンテンツの増加に対応し、インターネット企業への監視を強化しており、16歳未満のユーザーのソーシャルメディアへのアクセスを禁止することも検討されています。

なお、イギリスのメディア規制当局であるOfcomも、Grokがユーザーに児童の性的画像の共有を許可したことが法律違反に当たるかどうかの調査を開始しています。

Ofcomのリズ・ケンドール技術長官は、Grokが生成した画像を「虐待の武器」と呼び、中道左派の労働党政権は企業が同意なしにヌード画像を作成するツールを供給することは犯罪であり、問題の原因を追及すると述べました。なお、ケンドール技術長官によると調査の結果次第で、XおよびxAIは全世界収益の最大10％に相当する罰金をOfcomから科される可能性があります。

なお、Grokの開発元であるxAIは、1月9日にGrokの画像編集機能を有料会員向けの機能に制限しました。

XのAI画像編集機能が一部有料化 - GIGAZINE

また、アメリカの政治家が、スマートフォン向けの公式アプリストアを運営するAppleとGoogleのCEOに対し、「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡を送付しています。

「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡をアメリカの政治家たちが送付、理由は「違法な性的画像を大量生成しているため」 - GIGAZINE