「AIが作り出した架空の顔」が企業のマーケティング戦略に使われていることが判明

近年ではAIが「現実の人間と見分けがつかないほど精巧な顔」を生成することが可能となっており、政治的な目的でAI製の顔写真が用いられるケースも増えています。そんな中、ビジネス系SNSのLinkedInにおいて企業のマーケティング活動を行うアカウントにおいても、AIが作り出した架空の顔を使用するケースがあることが判明しました。

The latest marketing tactic on LinkedIn: AI-generated faces : NPR
https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles

1,000-plus AI-generated LinkedIn faces discovered in probe • The Register
https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/

スタンフォード大学のサイバー研究機関であるスタンフォードインターネット天文台に所属するRenee DiResta氏はある日、LinkedInで「Keenan Ramsey」という人物からメッセージを受け取りました。Ramsey氏はRingCentralという企業向けクラウドサービスを提供する企業のグローススペシャリストだそうで、あいさつと共に「簡単な質問ですが、メッセージ・ビデオ・電話について、すべてのデバイスにおいて統一されたアプローチを検討したことはありませんか？」と述べたとのこと。こうしたメッセージは、LinkedInにおける企業のマーケティング活動として一般的なものであり、DiResta氏もメッセージには興味を持ちませんでした。

ところが、DiResta氏はRamsey氏のプロフィール写真に引っかかりを覚えて観察してみたとのこと。すると、一見すると典型的な顔写真に思えるものの、「イヤリングを片方しか着けていない」「髪の毛が途中で消えたり、いきなり現れたりする」「両目がちょうど画像の真ん中に並んでいる」など、AIが生成した顔写真の特徴にぴったり当てはまることに気がついたそうです。

以下のツイートに含まれているのが、Ramsey氏のプロフィール写真です。海外メディアのNPRで編集者を務めるShannon Bond氏は、この写真が「1：背景がぼやけている」「2：両目がちょうど画像の真ん中に位置している」「3：髪の毛が背景に溶け込んだり、途中で消えたり、いきなり現れたりする」「4：片方の耳にしかイヤリングがない」といったAI製の顔に当てはまる特徴を有していると指摘しています。

DiResta氏はロシアの偽情報キャンペーンや陰謀論者の反ワクチンキャンペーンなどを研究してきた人物であり、AI製の顔写真を見慣れていたため、Ramsey氏のプロフィール写真が偽物だと気付くことができました。しかし、近年の研究では「AI製の顔を本物の顔と見分けるのは困難であり、むしろ『AIの顔の方が信頼できる』と感じる」という結果が示されています。カリフォルニア大学バークレー校のデジタルメディア分析の専門家であるHany Farid氏は、「インターネット上の平均的な人に『これは実在の人物でしょうか？それとも合成的に生成されたものでしょうか？』と質問した場合、彼らの回答は本質的に偶然に任せたものと同じです」とコメント。AI製の顔が実際の顔以上に信頼される理由については、人間の顔写真に存在する「最も平均的な特徴」を有しており、「どこかで見た顔だ」と感じやすいからではないかと推測しています。

AIの生成した顔は本物の顔と区別がつかず本物の顔より信頼性が高い - GIGAZINE

また、その後の調査でRingCentralには「Keenan Ramsey」という従業員は存在せず、以前の勤務先だったとされているLanguage I/Oという企業にも記録がなく、経営学の学士号を取得したというニューヨーク大学にも在籍していた事実はありませんでした。つまり、Ramsey氏はLinkedInの顔写真だけでなく、その他のプロフィールまで含めて完全に架空の人物だったというわけです。

DiResta氏は当初、Ramsey氏のアカウントがフィッシング詐欺に用いられており、何らかのリンクを経由して機密情報を盗み出そうとしているのではないかと疑っていました。ところが、その後もDiResta氏のもとにはRingCentralの従業員を名乗りAI製のプロフィール写真を持つアカウントからメッセージが届いたほか、本物のRingCentralの従業員と思われる人物からもRamsey氏のメッセージを参照した電子メールが届いたとのこと。

この点から、Ramsey氏のアカウントは実際にRingCentralと関わりを持っており、RingCentralのマーケティング活動を担っていたことが判明しました。Ramsey氏のようなアカウントが潜在的な顧客にアプローチを仕掛け、もし顧客が興味を持った場合、実際に社内の従業員がやり取りを引き継ぐというマーケティング手法は「リードジェネレーション」と呼ばれるものです。従来は対面で行われることが多かったものの、SNSの発達やパンデミックの影響により、近年ではリードジェネレーションの場がオンラインに移行しつつあります。

興味をそそられたDiResta氏は、同僚の博士研究員であるJosh Goldstein氏と共にLinkedInにおけるプロフィール写真の調査を開始。その結果、AIが生成したと思われるプロフィール画像を持つアカウントが1000以上も確認され、それらのアカウントはLinkedIn以外の場所で存在の痕跡を見つけられなかったとのこと。これらのアカウントは「事業開発マネージャー」「販売開発エグゼクティブ」「グロースマネージャー」「需要創出スペシャリスト」といった肩書きを持っていましたが、過去に在籍していたと主張する企業や学位を取得したとする大学には、その人物の記録が存在しませんでした。

AI製の顔写真を持つアカウントが「勤務している」と主張する企業はRingCentralだけではなく、実に70以上の企業が架空のアカウントを所有していました。NPRの問い合わせに対し、いくつかの企業は「外部のマーケティング担当者を雇用した」ものの、AI製の顔写真を使用することは許可していないと回答しており、NPRからプロフィールにAI製の顔写真が使用されていることを知って驚いたそうです。

RingCentralの最高情報セキュリティ責任者であるHeather Hinton氏は、AI製の顔写真を使った架空のアカウントが作成されていることを知らず、その慣行を承認していないと主張しています。「これは私たちがビジネスを行う方法ではありません」「今回の件を受けて、テクノロジーを注視している私たちにさえも追いつけないほどのスピードで、テクノロジーが変化していることを改めて実感しました。私たちは自分たちが何をしようとしているのか、そしてベンダーが私たちに代わって何をしようとしているのか、ますます警戒を強めていかなくてはなりません」とコメントしました。RingCentralはリードジェネレーションのやり方を見直し、従業員を教育する具体的な措置を講じるとしています。

また、輸送コンテナを家庭や企業で再利用するスタートアップ・Bob's Containersでも、RingCentralと同じくAI製のプロフィール画像を持つアカウントがリードジェネレーションを行っていました。CEOを務めるBob Balderas氏は、ビジネスを盛り上げるためにairSalesという企業を雇っており、airSalesがLinkedInに「Bob's Containersのビジネス担当者」と称するアカウントを作っていたことも知っていましたが、これらのアカウントは実際にairSalesで働いている人々のものだと思っていたとのこと。Balderas氏はビジネスにおいてAI製の顔を使うことに違和感を覚えているため、airSalesとの契約を打ち切ったと述べました。

airSalesのCEOを務めるJeremy Camilloni氏は、マーケティングサービスの提供において独立した請負業者を雇用しており、業者が「独自の裁量で」LinkedInプロフィールを作成する可能性があるものの、airSalesが直接要求したり関与したりしていないと主張しています。Camilloni氏はNPRに対し、「私の知る限り、LinkedInにおいてプロフィール写真やアバターの使用に関する特定のルールはありません。これはLinkedInの技術ユーザーにおいて一般的です」と述べていますが、LinkedInのプロフェッショナルコミュニティポリシーには「偽のプロフィールを作成したり、自分に関する情報を偽ったりしないでください」「プロフィール写真には、他人の画像や、自分の外見を表さない画像を使用しないでください」と明記されています。

DiResta氏らは、LinkedInにおいてAI製の顔を用いたマーケティングサービスを提供する企業を10社以上も特定しており、NPRはこれらの企業に連絡を試みたとのこと。連絡に応じたRenova Digitalという広告企業は、「完全にブランド化されたアバタープロファイル」による無制限のメッセージ送信を、月額1300ドル(約16万円)のプランで提供していました。このプランはNPRの連絡後に削除され、Renova Digitalの創設者であるPhilip Foti氏はNPRに送った電子メールの中で、「私たちは、それ(AI製の顔を使ったキャンペーンが)が私たちの価値観に一致しておらず、マーケティングの利益にも見合わないと判断しました」と述べています。

LinkedInはDiResta氏らが連絡した後、偽のプロファイルや情報の改ざんといったルールに違反したアカウントについて調査し、違反が認められたものを削除したと述べています。LinkedInの広報担当者であるLeonna Spilman氏は、「当社のポリシーでは、すべてのLinkedInプロファイルが実在の人物を表していなければならないことが明確にされています」と述べ、コンピューターで生成された画像を使用するプロファイルを検出できるよう、モデルの改善に取り組んでいると主張しました。

また、LinkedInはAI製の顔写真を含むプロファイルを提供していたとされるインドのLIA、そしてサンフランシスコに拠点を置くVendisysという企業のページも削除しました。すでにLIAの公式ウェブサイトからは情報が削除されていますが、かつては月額300ドルで「すぐに使用できるAI生成アバター」を数百もの候補から選べるサービスが提供されていたとのこと。

AI製の顔をマーケティングに利用することは比較的実害が少ないかもしれませんが、Farid氏はやがて「肉眼での識別が困難なほどクオリティの高い、特定の人物を模倣した本格的な音声付きディープフェイク動画」が登場することを懸念しているとのこと。すでにロシアによるウクライナ侵攻に関連して、「ウクライナのゼレンスキー大統領が降伏を呼びかけるフェイク動画」が出回ったことも報じられています。

「ウクライナのゼレンスキー大統領が人々に降伏を呼びかけるフェイク映像」が出回りFacebookが削除 - GIGAZINE