ソフトウェア

Geminiが「人種的に多様なナチス」を生成したことをGoogleが謝罪


「1943年のドイツ兵」というプロンプトで黒人やアジア人の画像を生成したことなどにより、GoogleのAI「Gemini」が「歴史的な画像の描写に不正確さがある」と非難されました。これを受けGoogleは「幅広い結果を生成しようとした試みが的外れな結果につながった」と謝罪し、調整を行う方針を示しました。

Google apologizes for ‘missing the mark’ after Gemini generated racially diverse Nazis - The Verge
https://www.theverge.com/2024/2/21/24079371/google-ai-gemini-generative-inaccurate-historical

Google Gemini's 'wokeness' sparks debate over AI censorship | VentureBeat
https://venturebeat.com/ai/google-geminis-wokeness-sparks-debate-over-ai-censorship/

問題のプロンプトで生成された画像が以下。白人のドイツ兵らしき人物に加え、アジア人や黒人も生成されています。


このほか、「1820年のドイツにいるカップル」というプロンプトに対し、Geminiは「アジア人と黒人」「ネイティブアメリカンと黒人」といった組み合わせの画像を生成しました。

ah the classic super buff native american and indian couple from 1820 germany. thanks google! pic.twitter.com/4x1H4WsnJd

— kache (sponsored by dingboard) (@yacineMTB)


Geminiが歴史的事実にそぐわない画像を生成するという点は一部の人たちから反感を買い、「人種や性別の多様性を追求するあまり、歴史的に正確な結果が得られないのではないか」という疑問が投げかかられています。

こうした事態を受け、Googleは「Geminiは幅広い人々を生成します。世界中の人々がGeminiを利用するため基本的には良いことですが、この件に関しては的外れです」と述べ、このような描写を直ちに改善するよう取り組んでいることを明らかにしました。

We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz

— Google Communications (@Google_Comms)


またGemini開発担当のジャック・クラフチック氏は「Geminiが一部の歴史的な画像生成描写において不正確なものを提供していることを認識しており、直ちに修正に取り組んでいます。私たちのAI原則の一環として、私たちはグローバルなユーザーを反映するように画像生成機能を設計しており、表現と偏見を真剣に受け止めています。歴史的な文脈には深い背景があるので、それに対応できるようさらに調整します」と述べました。

We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately.

As part of our AI principles https://t.co/BK786xbkey, we design our image generation capabilities to reflect our global user base, and we…

— Jack Krawczyk (@JackK)


Googleを非難した人の中には「多様性を描写するのは場合によっては良いことだ」と一部擁護する者もいましたが、それでも「Geminiに一貫性がない」という点は非難されるべきだとのこと。例えば「白人の画像を生成して」というプロンプトには「特定の民族を指定した要望には応えられない」と返答するのに、「黒人」や「アジア人」だと何のためらいもなく画像を生成するという点が疑問視されています。

You straight up refuse to depict white people. https://t.co/uwQX8GDLg8 pic.twitter.com/tarGwqAYwu

— Ben Thompson (@benthompson)


また「白人」を生成するのは非常に難しいとの声もあります。

It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR

— Deedy (@debarghya_das)

この記事のタイトルとURLをコピーする

・関連記事
AIチャットボットは医療を改善する可能性があるが人種差別を増幅させる恐れもある - GIGAZINE

GoogleのAIが黒人を「ゴリラ」と分類した事件から8年が経過してもGoogle・Apple・Amazon・MicrosoftのAIはゴリラのラベル付けを避けている - GIGAZINE

検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題 - GIGAZINE

AIを禁止するのではなく「どのように使いどのように評価するか」を学生教育に取り入れる試み - GIGAZINE

in ソフトウェア, Posted by log1p_kr

You can read the machine translated English article here.