「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡をアメリカの政治家たちが送付、理由は「違法な性的画像を大量生成しているため」

イーロン・マスク氏のAI企業であるxAIが開発している生成AI「Grok」の画像生成機能で、子どもや女性の性的な画像を生成できてしまうことが問題視されています。この機能をめぐり、Appleのティム・クックCEOとGoogleのサンダー・ピチャイCEO宛に「XとGrokアプリをApp StoreとGoogle Playから締め出すべき」という公開書簡が、アメリカの政治家から送付されました。

Wyden, Markey and Lujan Urge Apple and Google to Remove X and Grok from App Stores Following Grok Generating Illegal Sexual Images at Scale | U.S. Senator Ron Wyden of Oregon
https://www.wyden.senate.gov/news/press-releases/wyden-markey-and-lujan-urge-apple-and-google-to-remove-x-and-grok-from-app-stores-following-grok-generating-illegal-sexual-images-at-scale

Grok app should be suspended from Apple, Google: Democratic senators
https://www.cnbc.com/2026/01/09/grok-app-should-be-suspended-from-apple-google-democratic-senators.html

2025年12月頃から、XでもGrokの画像編集機能が簡単に使えるようになったことで、X上で他人の画像を勝手に性的に編集するという事例が多発するようになりました。これを受け、インドやフランス、マレーシアの当局はXおよびGrokに対する調査を開始しています。

Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 - GIGAZINE

一部の調査により、Grokでは毎時約6700枚もの性的な画像が生成されていることが明らかになりました。これは、Grokで生成されている画像の85％が性的なものであるということになります。

Grokが毎時約6700枚の性的画像を生成しているとの指摘、Grok生成画像の85％は性的 - GIGAZINE

これを受け、1月9日にはXがGrokの画像編集機能を有料会員向けの機能としました。

XのAI画像編集機能が一部有料化 - GIGAZINE

新たに、アメリカのロン・ワイデン上院議員、エド・マーキー上院議員、ベン・レイシャル上院議員が、Appleのティム・クックCEOとGoogleのサンダー・ピチャイCEO宛に公開書簡を送付しました。公開書簡には、「Appleはイーロン・マスクCEOが不穏でおそらく違法な活動に対処するまで、XアプリとGrokアプリを自社のアプリストアから直ちに削除すべき」と記されています。

公開書簡には「Xの甚だしい行為に目をつぶることは、AppleおよびGoogleのモデレーション慣行を嘲笑(ちょうしょう)することになります。実際、対策を講じなければ、貴社のアプリストアは、ユーザーが直接スマートフォンにアプリをダウンロードするよりも安全なユーザー体験を提供しているという主張を覆すことになるでしょう」とも記されています。

TumblrやTelegramといったアプリは、さまざまな不適切なコンテンツを適切にフィルタリングできなかったとして、AppleのApp Storeから締め出されています。

TumblrのiOSアプリがApp Store上から消える、不適切なコンテンツが原因か - GIGAZINE

なお、Grokの安全対策不足はマスク氏の要請によるものであるとCNNは指摘しており、マスク氏の方針を受け、xAIの安全チームに所属していた3人の従業員が退職したとも報じられています。