サイエンス

あまりにもリアルなAI製の「架空の人物の顔」はどこで見分ければいいのか?


実在していない人間の顔写真を生成するAIの精度はいまやすさまじいものになっており、ぱっと見ただけでは実在する人間なのか、それとも架空の人間なのかの判別が難しくなっています。これにより、フェイクニュースがより真実味を増してしまうという問題が懸念されているところ、ニューヨーク・タイムズが「AI生成画像を見分けるポイント」を公開しています。

Do These A.I.-Created Fake People Look Real to You? - The New York Times
https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

AIが存在しない人の顔を生成する技術は、近年急成長している分野です。以前であれば作れなかったレベルの顔が比較的容易に作れるようになり、存在しない人の画像を1枚あたり2.99ドル(約310円)、あるいは1000枚あたり1000ドル(約10万5000円)で生成・販売するというウェブサイト「Generated.Photos」が登場するまでになりました。あまりの精度に本物の人間の写真なのか、それともAIが作り出したフェイクなのかの判別が難しくなり、フェイクニュースで乱用されるという問題も懸念されています。


このようなフェイクの顔を作成するためには、敵対的生成ネットワーク(GANs)が利用されます。GANsは生成ネットワークと識別ネットワークの2つから構成され、人が与えた「実在する人物の顔画像データ」をもとに「生成ネットワークが画像を出力して識別ネットワークがその成否を判断する」という行動を続けることで、生成側は識別側に見分けられないように、識別側はより正確に識別できるように学習していくというもの。

GANsソフトウェアはさまざまな「値」によって顔を調整できるようになっています。以下から年齢という値を変更してみます。少年の顔が……


スライダーを右に動かすだけで年齢が変わり、青年の顔に。


「目」という値を触ってみます。細められた目が……


ぱっちりと見開かれた状態になりました。


「顔の向き」も1つの値。


スライダーを動かすと、人物の顔の印象はそのままに、やや角度がつきます。


「感情」の値をスライダーで変更してみます。


こんな感じ。同一人物のまま、笑顔の表情に。


さらに「性別」も変更可能。


スライダーを右に動かしていくと髪が短くなり……


目元の印象などが変化していきました。上の画像と違いはわずかですが、確かになぜか「男性的」といえそうな印象になっています。


以下の画像では「人種」の値を変更。


笑顔の印象はそのままに、人種が変わりました。肌の色だけが変わるのではなく、目や鼻が微妙に変化しています。


以下はNVIDIAのGANsソフトウェアを使ってニューヨーク・タイムズが作成した「偽のポートレート」の数々。ムービーを再生すると現れる人の顔は、いずれも本物の人間のように見えます。


フェイク情報について研究を行うカミーユ・フランソワ氏は「この技術が初めて現れた時はひどくて、シムピープルのような感じでした。そこから技術は急速に進歩し、時間が経過するにつれ人間による判別が難しくなっています」と述べています。

これらの技術はスマートフォンに搭載される顔認証や犯罪捜査にも利用されますが、まだ完璧なものではないとのこと。かねてからこれらのAIは人間の偏見を受け継いでいることが指摘されており、顔認証アルゴリズムは肌の色が濃い人の認証を苦手としています。これと同様に、顔生成AIも、以下の点で粗がみられます。

顔まわりの「アクセサリー」はAIの粗が出やすい部分の1つ。


女性のイヤリングに着目すると、左側が右側よりもやや小さいことがわかります。


また目の位置が顔の中央から等間隔というのもAI製の顔の特徴。これはGANsが実際の人間の顔から学習する時に「中央」を捉えた状態で顔を切り取るためとのこと。


さらに、眼鏡がうまく耳にかかっていなかったり……


髪に謎の人工物がついていたりすることもあります。


また背景がやけにぼやけるのもAI生成画像の特徴となっています。

この記事のタイトルとURLをコピーする

・関連記事
顔写真が「実在する本物の人間」か「AIが自動生成した偽物」かを的確に見抜く超難度クイズ「Human Or AI」 - GIGAZINE

架空のアイドルを自動生成しまくる「アイドル生成AI」が誕生、どこかで見たことがあるようなないような顔が生成されまくり - GIGAZINE

AIが自動生成する「セレブっぽい写真」が実在するセレブっぽ過ぎて見分けがつかないレベル - GIGAZINE

表情の変化や2つの顔の合成などをAIが違和感なく行うOpenAIの「Glow」 - GIGAZINE

リアル写真と判別不能なレベルの偽画像をAIが生成可能になるGANs向けアーキテクチャをNVIDIAが作成 - GIGAZINE

in サイエンス, Posted by logq_fa