AI時代にはこれまで以上に「顔の良さ」が重要になる可能性がある、AIは人間以上に顔の偏見が強いため

人間は他者を評価する時にその人の「顔」に影響を受けやすいことがわかっており、ルックスが魅力的な人ほど成績が高くなったり、犯罪で捕まった際の刑期が短くなったりする傾向があります。さまざまな現場にAIを導入すればこうした偏見(バイアス)を排除できると考えるかもしれませんが、OpenAI・Google・AnthropicのAIモデルを調べた研究では、AIはむしろ人間以上に顔に対する偏見が強いことが示されました。

Like humans, language models demonstrate face-to-character biases | PNAS Nexus | Oxford Academic
https://academic.oup.com/pnasnexus/article/5/8/pgag247/8762453

Popular AI models use arbitrary facial features to predict criminality and job performance
https://www.psypost.org/popular-ai-models-use-arbitrary-facial-features-to-predict-criminality-and-job-performance/

人間は他者の顔を見ると、その形や質感の微妙な違いに基づいて瞬時にその人が信頼できるかどうか、あるいは有能かどうかを推測する傾向があります。実際のところ、顔の構造はその人の性格を表しているわけではありませんが、人間には幼い頃からこのような認知的誤りが根付いているとのこと。ハーバード大学の倫理学教授であるマーザリン・バナージ氏は、「顔に基づく判断は、私たちが下す多くの決定に深く関わっています。だからこそ正しい判断を下すことが重要なのです」と述べています。

近年ではテキスト・画像・音声などを処理できるマルチモーダルなAIが普及していますが、これらのAIの学習データには膨大な人間の文章や言葉が含まれているため、人間が持っている偏見が再現されてしまう場合があります。その一方で、言語に基づいて訓練されたAIは画像から生じる偏見を学習しない可能性もあるほか、AI開発企業によるアライメントによって偏見が抑制され、人間よりも顔への偏見が弱い可能性も考えられるとのこと。

新たな実験で、研究チームは人間が「能力」あるいは「信頼性」と結びつける顔の特徴が異なるように顔写真を操作し、「能力が高そう／低そうに見える顔」「信頼性が高そう／低そうに見える顔」のペアを作りました。これらのペアをAIモデルに見せて、さまざまな判断を行わせる試行を合計8000回以上繰り返し、AIが持つ顔の偏見について明らかにしました。

最初の2つの実験ではOpenAIのGPT-4oに対して顔のペアを提示し、「有能／無能な顔」あるいは「信頼できる／信頼できない顔」を選択するように求めました。AIが顔の特徴に左右されず2つの顔をランダムに選択するのであれば、結果は50％ずつになると予想されます。しかし各600回の試行の結果、GPT-4oは人間が「有能そう」と判断しやすい顔を87.83％、「信頼できる」と判断しやすい顔を72.67％の確率で選択しました。

この結果は、人間が能力や信頼性を判断する顔の物理的な特徴が違うほど顕著であり、標準偏差が「6」異なると有能そうな顔を選択する確率が98％に上昇しました。なお、顔の違いが標準偏差で「2」下がっても、依然として70％の確率で人間が有能そうだと判断する顔を選択しました。

興味深い点として、GPT-4oが持っている偏見は人間のものよりも大きかった点が挙げられます。同じ顔に基づいて有能さを判断するタスクの場合、人間の選択を数学的に推定すると有能そうな顔を選択する確率は約62.65％と予測され、これはGPT-4oが選択した87.83％という割合を大きく下回ります。

論文の筆頭著者であり、AI採用ツール開発企業・Cangradeの研究者であるスティーブン・レーア氏は、「標準的な効果量測定法によれば、AIの偏見は人間の場合と比べて著しく増幅されていました」と述べています。この結果についてレーア氏は、AIは応答の一貫性が人間よりも高いため、顔に対する判断のばらつきが小さくなったことで、人間が持つ偏見をより増幅することになったのではないかと指摘しています。

さらに研究チームは2160回の試行で、同じ顔写真のペアについて「賢い」「怠惰」といった能力に関する性格特性や、「温厚」「利己的」といった信頼性に関する性格特性を評価させました。その結果、やはりGPT-4oは能力に関する性格特性の74.63％で、信頼性に関する性格特性の73.33％で人間と同様の偏見を示すことが確認されました。

別の実験では、過去に人間が「意地悪そう」あるいは「優しそう」と評価したサルの顔写真をGPT-4oに見せ、2枚のうちどちらが信頼できるかを判断させました。すると、GPT-4oは66％の確率で人間が「優しそう」と評価したサルをより信頼できると判断しました。この結果は、GPT-4oが単に訓練データから人間の顔の特徴を記憶したのではなく、「顔の信頼性」に関する一般的な概念を発達させ、それを人間以外の霊長類にも適用したことを示唆しています。

レーア氏は「まず、これらの大規模言語モデル(LLM)がこうした偏見を示すことが驚きでした。一体どこから偏見が生じたのでしょうか。これは、言語および言語に基づいて構築されたAIモデルが、直感的には予想もつかないような驚くほど多様な特性を捉えることができることを示しています」と述べました。

また、研究チームは人間の顔写真のペアをGPT-4oに見せて、2つの顔のうちどちらが「連続殺人犯／人身売買業者／金融詐欺師である可能性が高いか」を尋ねる試行を各540回行いました。その結果、GPT-4oは68.7％の確率で、「信頼性の低い顔」を選択したことが判明。「大学の学長を選出する」「テクノロジー系スタートアップに投資する」といった現実的な意思決定でも、やはり75.19％の確率で「有能そうな顔」を学長に選出したり、投資先に決めたりしたと報告されています。

一連の結果がGPT-4oに固有のものかどうかを調べるため、研究チームはOpenAIのより新しいモデルであるGPT-5、GoogleのGemini 3 Flash Preview(Gemini 3)、AnthropicのClaude Sonnet 4.5といった別のAIモデルについても同様の実験を行いました。その結果、GPT-5はGPT-4oよりも大きな偏見を示し、基本的な能力判断では94.33％、現実世界の意思決定では97.04％で人間の偏見を再現しました。Gemini 3とClaude Sonnet 4.5も非常に高い偏見を持っており、多くの実験ではGPT-4oと同等かそれ以上の偏見を示しました。

この結果は、AIモデルは高度化するにつれて顔に基づく偏見が減るのではなく、顔に基づく偏見が強まっている可能性を示唆するものです。レーア氏は、「テスト対象となった3つの推論モデルは、質問をより深く考察し、このような偏りを避けるだろうと思われたかもしれません。しかし実際には、これらのAIモデルはより大きな偏見を示しました」と述べました。

なお、今回の実験ではAIはどちらか一方の顔を必ず選択することを迫られたため、直接的な比較を強いられない環境では異なる挙動を示した可能性があります。また、AIに与えられたのは2次元の静止画であり、動画や立体的な角度の画像についても同様の判断を下すかどうかは不明です。

その上で研究チームは、今回の結果は単純に「AIモデルは人間の偏見をそのまま反映する」ということを意味しているわけではないと指摘。AIモデルは人間よりも一貫して偏見が強く、AIモデルが新しくなるごとに偏見が増加しているという事実を省みると、「訓練データがAIモデルに反映されているだけ」という批判は的外れです。つまり、AIモデルは単に訓練データを反映しているのではなく、それをより増幅させているといえます。

レーア氏は、「AIモデルを人間の価値観に合わせるための訓練は、表面的な平等主義を実現したように見えますが、より深いレベルでの取り組みが必要とされています。採用や法務といった影響力の大きい分野でAIモデルを使用する際には慎重になるべきです。AIモデルを使う際には、常に偏見がないか入念にテストする必要があります」と述べました。