画像生成AIで生成された性的な画像を使った広告がInstagramやTikTokで急増しているとの指摘

FacebookやInstagram、TikTokでは性的なコンテンツを厳しく制限し、違反者にはアカウント停止などの措置が執られています。しかし、AIを用いて生成された性的な画像を使った広告がこれらのプラットフォームで急増していることが指摘されています。

AI girlfriend ads are flooding Instagram and TikTok
https://www.nbcnews.com/tech/social-media/ai-girlfriend-ads-instagram-tiktok-chat-pics-chatgpt-dose-rcna97547

Social media awash with ads for AI SEX WORKERS | Daily Mail Online
https://www.dailymail.co.uk/sciencetech/article-12471799/Social-media-awash-ads-AI-SEX-WORKERS.html

2023年以降、数十社もの企業がFacebookやInstagram、TikTok上でユーザーの好みを学習して対話ができる「AIガールフレンド」のアプリ広告を掲載しています。「AIガールフレンド」は、「性的な閲覧注意(NSFW)の写真」や「検閲なしのチャット」を売り文句にしており、AIガールフレンドの広告にはAIで生成された女性の画像が添付されています。

NBCニュースによると、Metaの広報担当者が「我々のポリシーでは、AIが生成したかどうかにかかわらず、過度に性的なコンテンツを含む広告は禁止されています」と述べるFacebookやInstagramでは35人ものアプリ開発者が、AIガールフレンドの広告を合計1000回以上掲載していたとのこと。

また、「アダルト製品またはサービスの使用を促進する」広告をポリシーで明確に禁止しているはずのTikTokでは、14人の開発者が数百件の広告を掲載していたことも報告されています。

Metaは「私たちは常にAIで生成されたコンテンツのトレンドを積極的に監視しています」と主張するものの、一部のユーザーからはAIが生成した画像を含む広告が急増していることに対して批判の声も上がっています。

ノーサンブリア大学のキャロリーナ・エール氏は「セックスワーカーの人々は、自身のイメージを広告に掲載してお金を稼ぐことは認められていないにもかかわらず、画像生成AIを利用したアダルトコンテンツで金もうけを行っている技術者もいるようです」と指摘しています。

また、アダルトグッズメーカー「Unbound」のポリー・ロドリゲスCEOは「我々の会社はたびたびMetaと広告の問題でもめてきたにもかかわらず、AIガールフレンドのような広告が何らかの形でコンテンツモデレーションを回避していることに混乱しているとともにいら立っています」と述べています。

ロドリゲス氏は「Metaやその他の企業は、これらのAIが生成したコンテンツを含む広告がなぜコンテンツモデレーションを通過するのかという根本的な問題に対処していません」と指摘しています。また、ロドリゲス氏はFacebookやInstagramなどのプラットフォームが、一貫性のないコンテンツモデレーションの施行や、アダルトグッズメーカーという偏見だけでモデレーションを行っている可能性を危険視しています。

NBCニュースの報道を受けて、Googleは「AIガールフレンド」を含むいくつかのアダルトアプリと広告の掲載を停止したことを明かしています。