2023年05月17日 13時00分ソフトウェア

画像生成AI「Stable Diffusion」開発元のCEOが「AIにおけるオープンソースの重要性」をアメリカ議会に訴える公開書簡を発表

アメリカ連邦議会の上院司法委員会は、2023年5月16日にAIの監視と規制について公聴会を開き、OpenAIのサム・アルトマンCEOらを証人として喚問しました。この公聴会の開催に際して、画像生成Ai「Stable Diffusion」の開発元であるStability AIのエマード・モスタークCEOが、AIにおけるオープンソースの重要性と意義を訴える公開書簡を発表しました。

Advocating for Open Models in AI Oversight: Stability AI's Letter to the United States Senate — Stability AI
https://ja.stability.ai/blog/stability-ai-letter-us-senate-ai-oversight

(PDFファイル)Stability AI - Dear Chairman Blumenthal and Ranking Member Hawley

モスタークCEOはStability AIの原則として「透明性」「アクセス性」「人間中心主義」を唱えました。透明性の高いオープンモデルを開発することで、研究者が性能を検証し、潜在的なリスクを特定できるようになり、官民が独自のニーズに合わせてモデルをカスタマイズを可能になると、モスタークCEOは主張しています。

また、個人の開発者や中小企業、独立したクリエイターなど、大企業だけではなくすべての人がアクセスできる効率的なモデルを開発することで、重要な技術を一握りの企業に依存しない、より公平なデジタルエコノミーを構築する、とモスタークCEO。さらに「ユーザーである人間をサポートするようなモデルを構築するべきだ」と述べ、AIに対して神のような知能を求めるのではなく、日常のタスクに適用できる実用的なAI機能を開発し、創造性や生産性を向上させることが目的だと、モスタークCEOは主張しました。

そしてモスタークCEOは、AIのトレーニングに使われるデータセットをオープンにすることによってAIやデータの安全性が確保されるほか、主要な企業や公共機関が独自にカスタムモデルを開発可能になり、さらにオープンソース化することで参入障壁を下げ、AIにおけるイノベーションと自由競争を促進すると述べています。

モスタークCEOは、トレーニング用のデータに含まれるバイアスやエラーなどによって、AIが重要なコンテキストを省いたり偏ったデータから入力を行ったりするリスクを認めています。しかし、だからといって過度な規制を行うことは、AIの透明性や競争力、国力の強靱化に不可欠なオープンイノベーションを排除しかねないと警告しています。

AIがもたらすリスクについて、モスタークCEOは「すべてのリスクに対処するための特効薬はありません」と述べ、司法委員会に以下の5つの提案を検討するように呼びかけています。

1：より大きなモデルは悪意のある国家や組織によって誤用されるリスクがある。しかし、AIの学習と推論にはおおっきな計算資源が必要となるため、クラウドコンピューティングサービスのプロバイダーに、大規模な訓練や推論が行われた場合に報告する開示あるいは監査ポリシーの策定を検討させる。

2：強力なモデルには深刻な誤用を防ぐための保護措置が必要な場合がある。そのため、運用上のセキュリティや情報セキュリティのガイドラインを検討させ、当局はオープンな評価や独立した評価を通じ、公的な監視を行う。

3：アプリケーションの開発者に対する開示要件や、AIのトレーニング用のデータ収集ではユーザーの同意を必要とするプライバシー義務を検討する。また、金融・医療・法律に関するAIについては、一定以上の性能要件を検討する。

4：AIサービスやアプリケーションのプロバイダーによるコンテンツの真正性基準の採用を促進し、ソーシャルメディアプラットフォームのような「仲介者」がコンテンツのモデレーションシステムを取り入れることを奨励する。

5：アメリカ政府は研究者・開発者コミュニティ・産業界と連携し、AIモデルの評価フレームワークの開発を加速させる。また、政策立案者は公共の計算リソースや実証実験用環境への投資を行い、公的な基盤モデルへの資金提供や調達を検討する。公的な基盤モデルは公的資源として管理され、公的監視の対象となり、信頼できるデータに基づいて訓練され、国内の組織が利用できるようになる。