2023年04月05日 06時00分ネットサービス

画像生成AI「Midjourney」では中国の習近平国家主席の画像を生成することが禁止されている、政府による検閲を強化するという批判も

by thierry ehrmann

近年発達した画像生成AIや対話型AIは単に画像や文章を生成して遊ぶためだけでなく、さまざまな社会的・政治的な活動にも利用できる可能性があります。ところが、美術品評会で1位を取れるほど高性能な画像生成AI「Midjourney」のデビッド・ホルツCEOは、中国の習近平国家主席の画像を生成することを禁止しているとのことで、テクノロジー系メディアのTechdirtが「テクノロジー企業が政府による検閲に従うことの危険性」を訴えています。

Midjourney CEO Says ‘Political Satire In China Is Pretty Not Okay,’ But Apparently Silencing Satire About Xi Jinping Is Pretty Okay | Techdirt
https://www.techdirt.com/2023/03/31/midjourney-ceo-says-political-satire-in-china-is-pretty-not-okay-but-apparently-silencing-satire-about-xi-jinping-is-pretty-okay/

各社の画像生成AIは生成できるコンテンツにそれぞれの規制を設けており、Midjourneyはガイドラインで「本質的に無礼・攻撃的・その他の乱暴な画像」の生成を禁止しています。これらの禁止コンテンツにはアダルトコンテンツや暴力的なコンテンツが含まれているほか、2023年3月にはMidjourneyを利用して「ドナルド・トランプ前大統領が逮捕されたフェイク画像」を生成してTwitterで公開した人物が、Midjourneyから利用禁止処分を受けたことが明らかになりました。

画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける - GIGAZINE

その後、Midjourneyは「異常な需要と、トライアルの悪用」を理由にして、無料トライアルを停止しました。

画像生成AI「Midjourney」が「異常な需要と悪用」を理由に無料トライアル停止 - GIGAZINE

日刊紙ワシントン・ポストの報道によると、Midjourneyはアメリカのジョー・バイデン大統領やロシアのウラジーミル・プーチン大統領の画像を生成することは許可しているにもかかわらず、中国の習国家主席の画像を生成することは禁じているとのこと。

これについてホルツ氏はDiscordへの投稿で、「私たちは劇的な問題を抑えたいだけです」「中国に対する政治的な風刺はよくありません。中国の人々がこの技術(Midjourney)を使えるかどうかは、風刺を生み出す能力よりも重要なことです」と述べ、中国ユーザーへのアクセスを維持するために習国家主席の画像生成を禁止したと主張しました。

この決定についてTechdirtは、「ホルツ氏は、彼のプログラム(Midjourney)は非常に重要であるため、中国国内の人々がアクセスできるようにするために何でもしなくてはならないと信じています。しかし、それと同時に、プログラムの重要さは世界で最も強力な権威者の1人についての基本的な政治的表現が作成できなくても問題ない程度だと信じています。これは納得できません」と指摘しています。

今や中国市場は多くのテクノロジー企業にとって無視できない規模であるため、テクノロジー企業のCEOが中国に対して譲歩するのも無理はありません。しかし、中国のように強力な国が施行する検閲法がグローバル企業に適用された場合、その規制が全世界に及ぶことがあるため、国家の規制に従うことはより大きな問題を引き起こすとのこと。実際に、Midjourneyで習国家主席の画像を生成できないのは中国のユーザーだけでなく、アメリカを含むあらゆる場所のユーザーも習国家主席の画像を生成できません。

Techdirtは、「このことが実際に意味するのは、権威主義的な指導者は国内に政治的言論を制限する抑圧的な法律を適用できるだけでなく、グローバルなコミュニティに対してもルールを設定できるということです」と述べ、テクノロジー企業が一国の検閲を支持することの危険性を訴えています。

国際的なテクノロジー企業が権威主義的な指導者の抑圧的な取り組みに従うことは、国内で抑圧的な政策を強行することが、国外の活動に対する抑圧にもつながるというメッセージになり得ます。記事作成時点では、Midjourneyが生成を禁止している国家指導者は習国家主席のみですが、Techdirtは「Midjourneyは習近平氏だけで止まるでしょうか？ますます政治的に不自由になるインドへのアクセスを望むなら、たとえばインドのナレンドラ・モディ首相の風刺が次の議題になるのでしょうか？」と述べ、今後もMidjourneyの規制が強まる可能性があると指摘しました。

Techdirtは、ホルツ氏はMidjourneyが中国において利用可能であることが、会社だけでなく中国国民を支援することになると主張するかもしれないとしつつ、これは家父長主義的な考えだと批判。結局のところ、中国の人々は「Midjourneyを使って政府を批判したい」と思っているかもしれず、Techdirtは「なぜ自分たちの支配者を風刺したいという自由が、世界の他の国々の指導者を嘲笑する自由よりも重要ではないのでしょうか？」と述べました。