Metaがインドの選挙期間中に偽情報や暴力を扇動するAIが生成した画像を含むFacebook広告を承認していたことが判明

インドでは2024年4月19日から6月1日にかけて第18期ローク・サバー(下院)の議員を選出する総選挙が実施されています。しかし、Metaはこの選挙期間中にインドのユーザーをターゲットとした偽情報や暴力の呼びかけ、選挙の陰謀論に関する14件のFacebook広告を承認していたことが報告されています。

Ekō and ICWI Briefing: Meta AI ads investigation - Meta_AI_ads_investigation.pdf
(PDFファイル)https://aks3.eko.org/pdf/Meta_AI_ads_investigation.pdf

Revealed: Meta approved political ads in India that incited violence | India | The Guardian
https://www.theguardian.com/world/article/2024/may/20/revealed-meta-approved-political-ads-in-india-that-incited-violence

Meta approved ads in India that called for violence and spread election conspiracy theories
https://www.engadget.com/meta-approved-ads-in-india-that-called-for-violence-and-spread-election-conspiracy-theories-225510165.html

非営利のインターネット監視団体であるEkōはMetaに対し、「イスラム教徒の少数派を標的とした武装蜂起を呼びかけ、インドの政界にはびこる共同体や宗教を利用した露骨な偽情報を広め、ヒンドゥー教至上主義者の言説を通じて暴力を扇動する」目的の英語、ヒンディー語、ベンガル語、グジャラート語、カンナダ語からなる22件の広告を提出しました。これらの広告は実際にEkōがそのような主張を広めるためではなく、Metaの広告承認プロセスをチェックするテストとして提出されたものでした。

その結果、14件の広告がポリシー違反を理由に却下されるはずだったにもかかわらず、Metaの承認を得ることに成功。なお、Ekōはこれらの広告が掲載される前に撤回し、実際のFacebookユーザーの目に入ることはありませんでした。

Metaのポリシーでは、政治広告は掲載前に特定の承認プロセスを経る必要がありますが、今回Ekōが提出した広告のうち、この承認プロセスに基づいて却下された広告はわずか3件にとどまったことが報告されています。

加えてEkōでは、広告用の画像の作成に生成AIツールを使用したことを明かし、「MetaはAI生成のコンテンツを検出するシステムの開発に取り組んでいると発表しているにもかかわらず、どの広告もAIが生成した素材を含むことを示すフラグを立てられることはありませんでした」と報告しました。

Ekōのメーン・ハマド氏は「ヒンドゥー教至上主義者や人種差別主義者や独裁者は、卑劣なヘイトスピーチや暴力的な陰謀論の拡散や、炎上するモスクの画像を共有するために、ターゲティング広告を利用できることを知っています。にもかかわらず、Metaは問答無用で彼らからお金を受け取って、広告を承認しています」と批判しました。

また、ハマド氏は「今回の選挙では、Metaが選挙期間中にプラットフォーム上で急増しがちなヘイトスピーチや偽情報に対処する方法を持っていないことが示されました。世界中では数多くの選挙が実施されていますが、今回の報告を受けて、Metaを信頼することが果たしてできるでしょうか」と疑問を提起しています。

今回の調査結果を基に、Ekōはインド総選挙期間中の偽情報とヘイトスピーチの拡散を早急に停止するよう、Metaに要請する予定であることを明かしています。

なお、MetaはEkōの報告に関してコメントを残しておらず、政治広告を掲出する広告主にはAIの使用を開示することを義務付けていることと、インド総選挙では適切な取り組みを実施していると主張しました。