AIによって作られた数十言語の音声によりニューヨーク市長が有権者に多言語話者だと思わせているという指摘

ニューヨーク市のエリック・アダムス市長が、本来は自分が話すことができないスペイン語やイディッシュ語などを用いたロボコール(自動音声通話)を有権者にかけて、まるで多言語を扱えるように思わせていたという指摘が行われています。

S.T.O.P. Condemns Eric Adams’ Deepfake Robocalls, Calls ‘Responsible AI’ Plan ‘Deeply Irresponsible’ — S.T.O.P. - The Surveillance Technology Oversight Project
https://www.stopspying.org/latest-news/2023/10/16/stop-condemns-eric-adams-deepfake-robocalls-calls-responsible-ai-plan-deeply-irresponsible

Tongue Twisted: Adams Taps AI to Make City Robocalls in Languages He Doesn’t Speak | THE CITY — NYC News
https://www.thecity.nyc/2023/10/16/adams-taps-ai-robocalls-languages-he-doesnt-speak/

以下はアダムス市長がスペイン語で話す音声。ただし市長本人の声ではなくAIが生成した音声です。

Eric Adams AI en español - YouTube

NPO・監視技術監督プロジェクト(The Surveillance Technology Oversight Project：S.T.O.P.)はアダムス市長がこうしたAI生成の多言語音声でロボコールを行っていることを非難しています。

S.T.O.P.のエグゼクティブディレクターであるアルバート・フォックス・カーン氏は「市長は自分自身のディープフェイクを作成しています。特に、納税者のお金でやっているというところが極めて非倫理的です。AIを用いて、ニューヨーカーに自分が本来話せない言語を話せるかのように思わせるのはオーウェル的です。確かに、すべてのニューヨーカーの母語を用いたアナウンスは必要ですが、ディープフェイクは不気味な売名プロジェクトに過ぎません」と厳しい意見を述べています。

アダムス市長は10月16日に開催された、ニューヨーク市のリソースと中小企業の経営者を結びつける「MyCity Chatbot」の発表記者会見に出席し、この多言語でのロボコールについて、「会話型AIは素晴らしいものです。一度スクリプトを入力すると、私の声を好きな言語に置き換えることができます」と語りました。

これを受ける形で、「市長が複数の言語を話せるかのような誤解を与える可能性があるのではないか」と記者から質問されたアダムス市長は、英語以外の言語を母語とする市民に連絡するための方法であると弁解し、「これは倫理的に正しいのでしょうか、間違っているのでしょうか。私には『都市を運営しなければいけない』という事情があり、人々が理解できる言語で話さなければなりません。皆さんに私自身が言えるのは『ニーハオ』だけです」と会見を締めくくっています。

広報担当者によれば、市長の声を用いたロボコールは400万人以上を対象に行われ、そのうちスペイン語が数千件、イディッシュ語が250件超、北京語が160件超、広東語が89件、ハイチクレオール語が23件だったとのこと。

ニュースサイト・THE CITYに対して、フォーダム大学の政治学者であるアニカ・マーレン・ヒンゼ准教授は「できるだけ多くの言語にするのは素晴らしいことですが、自分がそれらの言語を話しているかのようなふりをしたり、ほのめかしたりするのは全く別の問題です。多言語を話せない市長にとっては、その部分に深刻な倫理的懸念があると思います」と述べました。

なお、アダムス市長以前のニューヨーク市長も、英語以外がそれほど堪能だったわけではなく、マイケル・ブルームバーグ氏(2002年～2013年在任)はスペイン語を話そうとする試みをSNSなどで嘲笑されていました。また、アダムス市長自身も、ビル・デブラシオ前市長(2014年～2021年在任)が記者会見でスペイン語を使おうとする様子をからかっていたことが指摘されています。

ただ、エド・コッチ氏(1978年～1989年在任)は第二次世界大戦で徴兵された際、ドイツ語を話せたことが役に立ったほか、フィオレロ・ラガーディア氏(1934年～1945年在任)はイタリア語、フランス語、ドイツ語、イディッシュ語、クロアチア語が話せたので、市長就任以前はエリス島で通訳として働いていたそうです。