人種差別的な画像をネット中に広めるため4chanユーザーがBingの画像生成AIを悪用している実態が暴かれる

匿名掲示板「4chan」のユーザーが、Microsoftの画像生成機能「Bing イメージクリエーター」を用いて人種差別的な画像を広めるキャンペーンを行っていることが明らかになりました。

4chan Uses Bing to Flood the Internet With Racist Images
https://www.404media.co/4chan-uses-bing-to-flood-the-internet-with-racist-images/

キーワードを入力するだけで生成AIを用いた画像を出力できるBing イメージクリエーターは、暴力やヘイトスピーチに関するキーワードを受け付けない仕様になっています。同サービスのポリシーでも暴力や児童虐待コンテンツなどの生成が明確に禁止されているのですが、キーワード次第で「作れてしまう」という点が問題視されています。

Microsoft Bingの画像生成AI機能では禁止ワードの「9.11」とカービィやスポンジ・ボブなどの人気キャラクターを組み合わせた画像が簡単に作成できてしまい人間の制御できる範疇を超えてしまっているとの指摘 - GIGAZINE

404 Mediaによると、4chanのユーザーがBing イメージクリエーターを使って人種差別的な画像を作成し、インターネット上に投稿し始めているとのこと。

4chanの掲示板のひとつ「/pol/」では、Bing イメージクリエーターやStable Diffusion、Midjourneyで画像を作るよう呼びかけるキャンペーンが行われています。「私たちは楽しむためにプロパガンダを作っています。参加しましょう、快適です」との定型文が複数のスレッドに貼られていて、「Memetic warfare(ミーム戦争)の復活となる」「作り、編集し、共有する。それを生かし、成長させ続ける。そして何よりも、楽しもう」との言葉とともに、Bing イメージクリエーターへのリンクが記載されています。

テンプレートに含まれる「ガイド」では、面白い作品や魅力的な作品、恐怖や怒りといった感情を揺さぶるような作品を作るよう促していて、実際の作例として以下のような画像を示しています。ひげを生やして帽子をかぶった、いわゆるユダヤ人のステレオタイプ的人間が飛行機のコックピットのような場所に座り、前方に見える2つの大きなビルを前にサムズアップするという画像について、「面白くて挑発的」「9.11に関与したユダヤ人は『目を覚まさせる』メッセージ」「理解しやすい」というコメントが付けられています。

このキャンペーンに紐付いて投稿された画像の中には、単に「ネタ」として楽しめるようなくだらない画像もあれば、誰が見ても人種差別や暴力に関与していることがわかる画像もあります。

404 Mediaは「人々が人種差別的であることは今さら問題ではありませんが、テクノロジーが人種差別主義者の能力を10倍にし、より洗練されたコンテンツをより素早く作成できるようにしているという事実に、私たちは注意を払うべきです」と指摘し、こうした画像を作れてしまうBing イメージクリエーターが最悪の事態を招いているとコメントしました。

ただし、404 Mediaは「Bing イメージクリエーターは非常に厳しくモデレートされているツールです。画像であれテキストであれ、非常に厳格なフィルターや使用条件を持つ生成AIモデルはモグラたたきゲームをしているようなもので、個々のフレーズを永遠に禁止したとしても、人々は規制を回避するフレーズを用いて新たに生成を始めるでしょう」と述べて、ツールで何を作るのかは結局使う人次第であるとの意見を示しています。