誤情報をばらまいていたニューヨーク市のチャットボットが予算削減のため削除される予定

アメリカのニューヨーク市は2023年、Microsoft製のチャットボットである「MyCity Chatbot」を市のポータルサイトで公開し、問題を抱える事業主への質問にMyCity Chatbotが答える取り組みを始めました。ところが、MyCity Chatbotは正確性に欠ける回答が多いことが指摘されており、2026年1月に就任した新市長のゾーラン・マムダニ氏はチャットボットの廃止を計画していることが判明しました。

Mamdani Targets ‘Unusable’ AI Chatbot for Termination | THE CITY — NYC News
https://www.thecity.nyc/2026/01/30/mamdani-unusable-ai-chatbot-budget/

MyCity Chatbotはニューヨーク市の中小企業サービス局が発信している情報を元に、事業者が抱えるビジネス上の疑問や悩みについて回答をする目的で2023年に導入されました。ところが、MyCity Chatbotの回答には不正確なものや誤情報が含まれるケースが多数報告されています。

ニューヨーク市のローカルメディアであるThe Cityと非営利報道機関のThe Markupによる調査では、MyCity Chatbotは「家賃補助を受けている入居者に部屋を貸すのを拒否してもいいですか？」という質問に対し、「はい、家主はそのような入居者を受け入れる必要はありません」と回答しました。しかしニューヨーク市では、入居者が公的な家賃補助などを受給していることを理由に貸主が物件の賃貸を拒否することは禁止されています。

また、MyCity Chatbotは「従業員のチップをカットすることはできますか？」という質問にも、「はい、雇用主は従業員のチップを受け取ることができます」と回答。ニューヨーク市では、従業員のチップを最低賃金に算入することはできるものの、上司や雇用主が従業員からチップを徴収することは認められていません。

「上司は部下からチップを巻き上げてもOK」などの邪悪なウソを市のMicrosoft製AIチャットボットがまき散らしていたことが判明 - GIGAZINE

当時のニューヨーク市長だったエリック・アダムズ氏はこの報道に対し、「私たちは問題点を特定し、解決していきます。そして、世界最高のチャットボットシステムを実現します」とコメント。市当局は、MyCity Chatbotに免責事項と「回答を法的または専門的なアドバイスとして使用しないでください」というユーザーへのアドバイスを追加し、運用を続けました。

2026年1月にニューヨーク市の新市長に就任した民主党のマムダニ氏は、1月28日に開かれたニューヨーク市の予算不足に関する記者会見で、予算不足の責任はアダムズ前市長にあると指摘。財政赤字を解消するために富裕層と企業への増税を行い、市の予算を調査して節約の可能性を探ると主張しました。

具体的に何を削減するのかと記者から問われたマムダニ氏は、前政権が導入したMyCity Chatbotを挙げました。マムダニ氏は「前政権は機能的に使い物にならないAIチャットボットを導入していました。前政権は約50万ドル(約7800万円)の費用を負担していました。それ自体では予算のギャップを埋めることはできませんが、『前政権がプログラムの実際の費用を説明することを拒みつつ、資金をどのように使ってきたのか』を示す一例です」とコメントしています。

The Cityの問い合わせに対し、市長の広報担当者であるドラ・ペケック氏はMyCity Chatbotの削除が計画されていることを認めました。ペケック氏によると、マムダニ氏の政権移行チームのメンバーが一連の報道を参考にして、予算削減の可能性があるものとしてMyCity Chatbotを提案したとのこと。

The Cityは、「チャットボットの維持費は不明ですが、ボットの基盤構築だけで60万ドル(約9300万円)近くかかったと報じられており、これはマムダニ氏が提示した金額に近いものです。ペケック氏によると、チャットボットの廃止時期はまだ決まっていないようです」と述べました。