イーロン・マスクがカマラ・ハリス副大統領のディープフェイク動画をXで共有、「ポリシー違反では」と批判も

by UK Government

イーロン・マスク氏が、アメリカ次期大統領選に出馬予定のカマラ・ハリス副大統領のディープフェイクムービーをXで共有したことが報じられています。マスク氏はムービーがフェイクであることを示さずに共有しており、Xのポリシーに違反しているのではないかという批判を集めています。

Election 2024: Elon Musk shares a deepfake video that mimics Kamala Harris | AP News
https://apnews.com/article/parody-ad-ai-harris-musk-x-misleading-3a5df582f911a808d34f68b766aa3b8e

Manipulated video shared by Elon Musk mimics Kamala Harris’s voice, raising concerns about AI in politics - MarketWatch
https://www.marketwatch.com/story/manipulated-video-shared-by-elon-musk-mimics-kamala-harriss-voice-raising-concerns-about-ai-in-politics-2de1995e

Elon Musk retweets altered Kamala Harris campaign ad
https://www.nbcnews.com/news/us-news/elon-musk-retweets-altered-kamala-harris-campaign-ad-rcna163985

マスク氏は2024年7月27日に、以下のムービーをXにポストしました。

マスク氏が投稿したムービーでは、ハリス氏の声を使ったナレーションが流れますが、「私、カマラ・ハリスは民主党の大統領候補です。ジョー・バイデン氏が討論会でついにその痴呆症を露呈したからです」「私が選ばれたのは女性であり有色人種であるからで、究極の多様性による採用です。だから、もしあなたが何かを批判するなら、私はあなたが性差別主義者であり人種差別主義者だと主張します」など、その内容はかなり過激なものとなっています。

このムービーは、Mr ReaganというXユーザーが投稿したものでした。これはハリス氏が公開している以下のムービーを編集し、AIで再現したハリス氏の声でナレーションをつけたものであり、当然ハリス氏が本当に上記のような過激な内容を語ったわけではありません

Kamala Harris Launches Her Campaign for President - YouTube

Mr Reaganは「Kamala Harris Campaign Ad PARODY(カマラ・ハリスの政治広告のパロディー)」というコメントと共に投稿していましたが、マスク氏は「This is amazing🤣(これはすごい)」とコメントを添えただけで、パロディー動画であることには言及していませんでした。

選挙運動に使われる政治広告のパロディーを、パロディーだと明記せずに投稿した場合、これは明らかにXのプラットフォームポリシーに違反していることになります。また、マスク氏のポストにはコミュニティノートがつけられ、マスク氏のポストにラベルを付けるべきだという提案がされています。

ハリス氏陣営の広報担当者であるミア・エレンバーグ氏は「アメリカ国民が望んでいるのは、ハリス副大統領が提供するような本当の自由、機会、安全であり、マスク氏やトランプ氏によって操作された嘘偽りではないと信じています」とコメントしました。

カリフォルニア大学バークレー校でデジタルフォレンジックを研究するハニー・ファリド氏は、「音声クローンツールやその他のAIツールを一般に公開している生成AI企業は、自社のサービスが人々や民主主義に害を及ぼすような方法で使用されないようにより一層の対策を講じるべきです」と述べました。

人権団体のPublic Citizenの共同代表であるロブ・ワイスマン氏は、「これは明らかにジョークではないでしょう。これを見たほとんどの人はジョークだとは思わないはずです。質はよくありませんが、十分です」と述べ、あらためて生成AIを規制するべきだと訴えました。