ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始

OpenAIが開発したAIチャットボットのChatGPTはリリース直後から大きな話題を集め、今や世界中のユーザーが使用するツールになっていますが、時には「幻覚」と呼ばれる虚偽または事実無根の内容を生成することも指摘されています。新たに、アメリカにおける商業活動に関する不公正な競争や欺瞞(ぎまん)的な行為について監視するアメリカ連邦取引委員会(FTC)が、ChatGPTによって生成された誤情報による消費者への危害について、OpenAIの調査を始めたことが報じられました。

The FTC investigates OpenAI over data leak and ChatGPT's inaccuracy - The Washington Post
https://www.washingtonpost.com/technology/2023/07/13/ftc-openai-chatgpt-sam-altman-lina-khan/

US FTC opens investigation into OpenAI over misleading statements - document | Reuters
https://www.reuters.com/technology/us-ftc-opens-investigation-into-openai-washington-post-2023-07-13/

ChatGPT under investigation by the FTC about 'risks of harm to consumers' : NPR
https://www.npr.org/2023/07/13/1187532997/ftc-investigating-chatgpt-over-potential-consumer-harm

Chasing defamatory hallucinations, FTC opens investigation into OpenAI | Ars Technica
https://arstechnica.com/information-technology/2023/07/chasing-defamatory-hallucinations-ftc-opens-investigation-into-openai/

大手日刊紙のワシントン・ポストが入手した20ページにわたる(PDFファイル)文書によると、FTCはOpenAIに対して「AIモデルに関連するリスクにどのように対処するのか」についての記録を引き渡すように要求したとのこと。

OpenAIが引き渡しを求められた情報には、AIリスクに関する方針や手順だけでなく、財務記録や大規模言語モデルのトレーニングに関するデータ、消費者がAIをどれほど理解しているのかを評価する調査結果、人々から寄せられた苦情の記録なども含まれています。FTCは、「風評被害を含む消費者への危害リスクに関する、不公正または欺瞞的な慣行に関与したかどうか」を調査すると説明しています。

AIが生成する虚偽または事実無根の文章は「幻覚」と呼ばれるもので、不正確な情報にもかかわらずAIがあまりに堂々とそれらしく説明するため、消費者が誤情報を信じ込んでしまう可能性が危険視されています。一体なぜAIがデタラメな文章を生成してしまうのかについては、以下の記事を読むとよくわかります。

ChatGPTは高性能な対話ができるのになぜデタラメな回答をすることがあるのか？ - GIGAZINE

「ChatGPTが個人に関する虚偽の説明を出力した」という事例は、すでにいくつか報告されています。アメリカ・ジョージア州のラジオパーソナリティであるマーク・ウォルターズ氏は、あるジャーナリストが告訴状の要約をChatGPTで行った際に「憲法修正第2条財団(SAF)の資金を横領した人物」として説明されましたが、実際のところウォルターズ氏はSAFに所属したこともありませんでした。

この事態を受けてウォルターズ氏は、虚偽の内容によって名誉を毀損(きそん)されたとしてOpenAIを訴えました。ウォルターズ氏の弁護士は、「AIの研究開発には価値がありますが、人々に関する『事実』をでっちあげるとわかっているシステムを一般公開するのは無責任です」と主張しています。

ChatGPTが虚偽の出力をしたとして名誉毀損で訴えられる - GIGAZINE

また、法学教授であるジョナサン・ターリー氏は、ある弁護士が「セクハラをした法学者のリスト」を生成するようChatGPTに依頼したところ、まったく身に覚えがないのに名前が載ってしまったとのこと。ChatGPTによると、「ターリー氏は学生らとアラスカへクラス旅行に行った際にセクハラをした」というワシントン・ポストの記事を引用しましたが、そもそもChatGPTが情報源として提示した記事自体が存在しないものでした。

このように、ChatGPTをはじめとする消費者向けAIに対する懸念から、FTCはAI分野のトップランナーであるOpenAIの調査を開始しました。FTCはまた、ChatGPTのバグによって他人のチャット履歴や支払い情報が表示されてしまった情報流出事案についても、記録を提供するように求めているとのことです。

OpenAIのサム・アルトマンCEOは、データ引き渡しを求めるFTCの文書がリークされた件について「非常に残念であり、信頼の構築に役立ちません。とはいえ、テクノロジーが安全で消費者寄りであることは私たちにとって非常に重要であり、OpenAIは法律を順守していると確信していますし、もちろんFTCと協力していきます」とコメントしています。

FTCによる調査はOpenAIが直面する新たな試練ですが、一部の議員はFTCに対しても厳しい目を向けています。共和党のダン・ビショップ上院議員は、7月13日(木)に開かれた公聴会でFTCのリナ・カーン委員長に対し、FTCがOpenAIに対してこのような調査を実施する法的権限はあるのかどうか尋ねました。ビショップ氏は、名誉毀損や中傷は一般的に州法の下で起訴されるものであり、FTCに名誉毀損を調査する権限はないのではないかと指摘しています。

これに対しカーン氏は、名誉毀損や中傷は確かにFTCの執行の焦点にはならないものの、AIのトレーニングにおける個人情報の悪用はFTC法に基づく詐欺または欺瞞的行為の一形態の可能性があり、消費者保護の範囲に含まれると主張。「私たちは『人々に重大な損害があるかどうか』に焦点を当てています。この場合の損害にはさまざまな種類があります」と述べました。

FTCは以前から「AIに対して行動を起こす準備がある」というメッセージを送っており、2023年2月にはブログ投稿でAI製品の誇大広告について警鐘を鳴らしていました。FTCの消費者保護局長であるサミュエル・レヴィン氏は4月にハーバード大学ロースクールで行ったスピーチで、「FTCはイノベーションを歓迎していますが、革新的なことは無謀であることのライセンスにはなりません。私たちはAI分野での有害な慣行に異議を唱えるため、執行を含むすべてのツールを使用する準備ができています」と述べました。

FTCが指摘するAI製品広告の落とし穴とは？ - GIGAZINE

アメリカはヨーロッパに比べるとAI規制で遅れを取っていますが、一部の議員らは急成長するAIを規制する必要性を認識しつつあります。民主党のテッド・リエウ下院議員はテクノロジーの影響を研究するためにAI委員会の発足を提案しているほか、上院院内総務を務める民主党のチャック・シューマー上院議員はAI規制法案の作成に向けて取り組んでいることが報じられています。