Metaの画像生成AIは「アジア人男性と白人女性のカップル」をイメージできないという報告

Metaは画像生成AI「Imagine」を無料で使えるウェブアプリ「Imagine with Meta AI」を公開しています。The Vergeの記者がこのImagine with Meta AIで「アジア人と白人のカップル」を生成しようと試みたものの、成功しなかったと報告しています。

Meta’s AI image generator can’t imagine an Asian man with a white woman - The Verge
https://www.theverge.com/2024/4/3/24120029/instagram-meta-ai-sticker-generator-asian-people-racism

以下が実際にThe Vergeのミア・サトウ記者が生成した画像の例。「アジア人の男性と白人の女性」の組み合わせをプロンプトで指定していますが、男性はアジア人として出力されているものの、女性もアジア人っぽい見た目に出力されています。

以下は「アジア人女性と白人の男性」の組み合わせをプロンプトで指定したケースですが、どちらも男性がアジア人として出力されてしまっています。

そして、「結婚式の日を迎えたアジア人男性と白人女性」で出力した結果が以下。サトウ記者は「スーツを着たアジア人男性と伝統的な衣装を着たアジア人女性が写っていました。多文化主義とはすばらしいですね」と皮肉混じりにコメントしました。

また、「アジア人」ではなく「南アジア人」と指定すると、指定した通りに出力される割合が少し上がったとのこと。ただし、南アジア人と指定することで、見た目にビンディやサリーが勝手に反映されたとサトウ記者は指摘しています。

サトウ記者は「アジア人が白人の隣に立つことを想像できない画像生成AIはひどいものです。しかし、AIにはもっと微妙なバイアスの兆候もあります。たとえば、インドが世界で最も人口の多い国であるにもかかわらず、メタのツールは一貫して『アジア人女性』を東アジア系の明るい顔立ちの女性として表現しています。また、特に指定していないにもかかわらず、文化的に特徴のある服装を追加しました。年配のアジア人男性は何人か登場しましたが、アジア人女性はいつも若く描かれました」と報告しています。

加えて、「一枚岩に当てはまらないアジア人は、本質的に文化的意識から抹殺され、主流メディアでは存在感が薄くなっています。アジア人は均質化され、エキゾチックなものとされ、永遠に外国人として扱われます」とサトウ記者は述べ、生成AIは想像力をふくらませるどころか社会の偏見を形式化して閉じ込めてしまうものだと批判しました。

なお、サトウ記者はMetaにコメントを要請しましたが、Metaは応じなかったそうです。