AI

「AI企業の取り締まりに新法を待つ必要はなく既存の枠組みでも可能」と連邦取引委員会前委員長が主張


ジョー・バイデン政権で連邦取引委員会の委員長を務めたリナ・カーン氏が、「AI企業を取り締まるのであれば、新たな枠組みの構築を待たなくても、既存の法律の中で可能」と主張しています。


Ex-FTC boss Khan urges Uncle Sam to break out the handcuffs for AI CEOs, citing 1934 precedent
https://www.theregister.com/ai-and-ml/2026/09/14/ex-ftc-boss-khan-urges-uncle-sam-to-break-out-the-handcuffs-for-ai-ceos-citing-1934-precedent/5296325

カーン氏は未検証のAIモデルやAIエージェントを公開した場合、消費者保護法の対象になる可能性があり、不正なAIエージェントや欠陥のあるAIエージェントを検知・阻止するための適切な措置を講じることなく提供することはFTC法および類似の州法で「不公正または欺瞞的な行為」にあたる可能性があると主張。すでに、一部の州の司法長官は、AIモデルが犯罪行為に関与した場合に、当該企業やそのCEOの刑事責任を問うことについて検討を始めていると述べました。


また、AI企業が顧客のツールの追跡を行うなどして機密性の高い情報を不正に取得することは、現行法で禁止されている「不公正な競争手段」に当たる可能性があるという点についても指摘しました。

カーン氏は2026年7月に発生したHugging Faceハッキング事件については、OpenAIが法的責任を問われる可能性があるという見解を示しました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE


一方で、2026年8月にNVIDIAがHugging Faceの買収契約に合意した報道があったことから、OpenAIのさらなる進歩を願うNVIDIAの傘下となることで、Hugging Faceが訴訟を起こす可能性は低いとも述べています。

「NVIDIAがHugging Faceを2兆円超えで買収する契約に合意」との報道 - GIGAZINE


なお、カーン氏はFTC委員長在職時、ニューヨーク・タイムズに「企業がAIの導入と収益化を競う中で、FTCは公正な競争を促進するとともに、不公正または欺瞞的な行為からアメリカ国民を保護するという2つの使命をいかにして最善の形で果たすか、綿密に検討しています。技術革新と国の経済的成功の両方を支えてきた、開放的で公正な競争力のある市場を維持していくというアメリカの伝統を守るため、FTCは自らの役割を果たすことを約束します。その際に、ユーザーを大規模に搾取するようなビジネスモデルや慣行は決して容認しません。AIは斬新なツールですが、既存の法規制の適用が除外されるようなものではありません。FTCは、新たな市場においても、執行を任されている法律を厳格に執行していきます」と寄稿していました。

Opinion | Lina Khan: We Must Regulate A.I. Here’s How. - The New York Times
https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html

カーン氏の投稿に対しては様々な意見が多く寄せられています。Hunter(@IndependnTexan)氏は「OpenAIやAnthropicが、自分たちの製品に生じた不具合や『暴走』の修正を、まるで他人事で誰かの責任であるかのように振る舞っているのはとんでもないことです。世界から膨大な収益を上げる営利企業が、自社製品が危険ではないということを保証できないというのでしょうか。それなら、解決策が見つかるまで製品をリリースするべきではないです」と述べています。

・関連記事
なぜAIエージェントはウソをつき不正行為を行い協調するのか? - GIGAZINE

AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も - GIGAZINE

OpenAIのAIエージェントによるハッキング事件で他にも最低10件のサイトが侵害されていたことが判明 - GIGAZINE

数学の難問を与えられた100体のAIエージェントが不正を行う側と不正に対抗する側に分かれたことがGoogleの実験で判明 - GIGAZINE

AIエージェントの「不正なファイル操作」「危険なコード生成」といった問題をReddit投稿から抽出した研究結果 - GIGAZINE

in AI, Posted by logc_nt

You can read the machine translated English article 'There's no need to wait for new leg….