OpenAIのAI開発を連邦取引委員会が止めるべきとAI技術倫理団体が指摘、「ジェネレーティブAIは公共の安全を脅かす兵器」と主張

人工知能(AI)に関する技術倫理団体が、「ChatGPTを初めとした、OpenAIが展開するAIテキスト生成ツールは、偏った、欺瞞(ぎまん)に満ちた、公共の安全に対するリスクを抱えている」と主張し、2023年3月30日にアメリカの連邦取引委員会(FTC)に調査を依頼しました。依頼を行う書簡の中では、サイバーセキュリティに関して「OpenAIは、通常兵器と非通常兵器を拡散している」とまで表現しています。

(PDFファイル)The Center for Artificial Intelligence and Digital Policy (CAIDP)|In the matter of OpenAI, Inc.
https://www.caidp.org/app/download/8450269463/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

FTC should stop OpenAI from launching new GPT models, says AI policy group - The Verge
https://www.theverge.com/2023/3/30/23662101/ftc-openai-investigation-request-caidp-gpt-text-generation-bias

OpenAI may have to halt ChatGPT releases following FTC complaint | Engadget
https://www.engadget.com/openai-may-have-to-halt-chatgpt-releases-following-ftc-complaint-172824646.html

GPT-4 poses too many risks and releases should be halted, AI group tells FTC | Ars Technica
https://arstechnica.com/tech-policy/2023/03/ftc-should-investigate-openai-and-halt-gpt-4-releases-ai-research-group-says/

2023年3月、人工知能の責任ある倫理的開発を推進する非営利団体のFuture of Life Instituteは「AI開発の波が続く一方で、社会に重大なリスクをもたらす危険性がある、GPT-4やChatGPTのようなジェネレーティブAI開発に対し、企業および規制上の保護措置が明らかに不足しています」と主張し、「GPT-4を超えるAIの少なくとも6カ月間にわたる即時開発停止」を求める公開書簡を発表しました。書簡にはイーロン・マスク氏やAppleの共同創設者であるスティーブ・ウォズニアック氏、Skypeの共同創設者であるジャーン・タリン氏やPinterestの共同創設者のエヴァン・シャープ氏などの著名人やコンピューター科学者などを含む、1000人以上が署名をしています。

「コントロールの喪失」の恐れがあるとしてGPT-4を超えるAIの即時開発停止を全技術者に対して6カ月間求める公開書簡、イーロン・マスクやスティーブ・ウォズニアックなど1300人以上が署名 - GIGAZINE

この公開書簡を受け、AI・デジタル政策センター(CAIDP)は2023年3月30日、アメリカ連邦取引委員会に対しジェネレーティブAIモデルの開発を遅らせ、より厳格な政府監視を実施するよう求める文書を提出しました。

CAIDPの意見書では、2023年3月中旬に発表されたOpenAIの「GPT-4」の潜在的な脅威が指摘されています。具体的には、GPT-4が悪意のあるコードを生成する可能性のほか、高度にカスタマイズされたプロパガンダを発信したり、偏った学習データの影響で採用などにおいてステレオタイプな見方がされたり、特定の人種・性別の不当な優遇が行われたりする可能性があるといった問題点が懸念されているほか、ChatGPTで他人のチャット履歴が見えてしまうバグが発生したり企業の機密データをChatGPTに勝手に入力したことがあるというトラブルが起きたりと、プライバシー面の問題点も含まれています。CAIDPは、「OpenAIは、これらのリスクを十分に認識した上で、GPT-4を商業利用するために公開しました」と主張しています。

ChatGPTで他人のチャット履歴が見えてしまうバグが発生、バグ修正にChatGPTは一時ダウン＆チャット履歴は利用不可のまま - GIGAZINE

OpenAIの創始メンバーに名を連ねるイルヤ・サツキヴァー氏が「ジェネレーティブAIのモデルを使って他者に多大な損害を与えることが、いとも簡単にできるようになるでしょう」と述べてGPT-4の構築に用いたデータセットやトレーニング方法については非公開としているように、OpenAIもAIのテキスト生成による潜在的な脅威を警戒しており、2023年3月23日にはChatGPTなどのツールやサービスの利用規約をこれまでよりも明確かつ具体的なものに改定しています。しかしCAIDPは、OpenAIの取り組みは不足しており、「GPT-4の消費者被害は一線を越えており規制措置を講じるべきです」と主張した上で、「不公正で欺瞞的な取引方法を禁止する」と定めた連邦取引委員会法第5条に違反するとして、OpenAIの責任を追及することを求めています。ここでは「欺瞞」の内容として、「AIモデルが、自信満々に存在しない事実をでっち上げる現象」が該当すると定義しています。

結果として、CAIDPはFTCに対し、GPTモデルの今後の商業的展開を停止し、GPTモデルの独立した評価を行うよう要求しています。また合わせて、消費者が詐欺の苦情を申し立てることができるのと同様に、一般にアクセス可能なジェネレーティブAIに関する報告ツールの設置を求めています。さらに、FTCが現在行っているAIツールの研究・評価について、まだ比較的非公式なものであることを踏まえた上で、ジェネレーティブAIに関するFTCの明確なルール作りが必要であるとCAIDPは主張しています。

FTCがCAIDPの要求に応じるかは記事作成時点では不明ですが、FTCのリナ・カーン委員長は司法省との共同イベントで「AIツールの開発に関して、既存の大手ハイテク企業が競争を排除しようとする兆候を探しています」と述べており、FTCはAIツールの規制に関心を示していると見られています。そのため、CAIDPの書簡により、FTCのAIツールに関する取り組みが大きくエスカレートする可能性が考えられており、FTCが何かしらの対応を行う場合、急速に進んでいるAI開発のペースに影響を与える可能性が高くなっています。