1000台以上のスマホを使って秘密裏にAI生成広告を作成しTikTokに配信するスタートアップ「Doublespeed」の実態がハッキングにより暴露される

大手ベンチャーキャピタルのアンドリーセン・ホロウィッツが支援するスタートアップ「Doublespeed」がハッキングされ、不審な広告配信ビジネスを行っていることが暴露されました。

Hack Reveals the a16z-Backed Phone Farm Flooding TikTok With AI Influencers
https://www.404media.co/hack-reveals-the-a16z-backed-phone-farm-flooding-tiktok-with-ai-influencers/

Doublespeedはアンドリーセン・ホロウィッツが主導する資金調達プログラムで100万ドル(約1億5600万円)を調達したスタートアップで、生成AIを活用してクライアントの製品を宣伝するというサービスを展開しています。

ところが、実態は大量の偽アカウントを作成し、ボットに見えないよう、ある程度「育てた」上で特定の製品を宣伝するという運用をしていたようです。

Doublespeedのシステムにアクセスし、報復を恐れて匿名を条件に404 Mediaに情報を共有したハッカーによると、Doublespeedのバックエンドシステムや同社所有のスマートフォンへのアクセス権限を取得することに成功し、Doublespeedに関する400以上のTikTokアカウントの情報を手に入れたとのこと。

このアカウントのうち約200アカウントが積極的に製品のプロモーションを行っていましたが、大半はその投稿が広告であることを明示していませんでした。

SNS企業はこうした偽装キャンペーンを「不自然な行動ポリシー違反」として検知・排除しようとするため、Doublespeedは人間らしい行動を偽装していたと伝えられています。Doublespeedが運営するTikTokアカウントでは、語学学習アプリ、出会い系アプリ、聖書アプリ、サプリメント、マッサージ器などが宣伝されていました。

例えば、「クロエ・デイヴィス」という名前のアカウントは、AIで生成された中年の女性をフィーチャーした200近くの健康に関する画像を投稿していました。投稿では女性がさまざまな身体の不調や対処法について語っていて、投稿の最後には常に「Vibit」という会社のマッサージローラーを使用している人の写真が含まれていたそうです。

「pattyluvslife」という別のTikTokアカウントは、カリフォルニア大学ロサンゼルス校の学生を名乗り、大手製薬会社やサプリメント業界が詐欺であるという投稿を繰り返した上で、ロザベラという会社のサプリメントを宣伝していました。ただ、投稿された画像の文字が不自然であることから、AI生成コンテンツであることが明らかでした。

Doublespeedが運営するTikTokアカウントの大半はスライドショーや静止画を投稿していましたが、中にはダンスなどの動画を投稿しているものもありました。

404 Mediaの取材に対し、TikTokは「コミュニティガイドラインにおいて、現実的な風景や人物を映したAI生成コンテンツ、または大幅な編集を施したコンテンツには明示的な表示を義務付けている」と説明。取材要請後、TikTokは404 Mediaが指摘したアカウントに「AI生成」の表示を追加したとのことです。