カリフォルニア州議会を通過したAI安全法案にニューサム知事が署名せず拒否権を発動、大規模モデル以外のAIについて考慮不足の懸念

大規模なAIモデル、具体的には開発に1億ドル(約140億円)以上の費用がかかるものについて安全性テストを義務づけるカリフォルニア州の上院法案1047(SB 1047)、通称「AI安全法案」について、ギャビン・ニューサム知事が拒否権を発動したことがわかりました。

SB-1047-Veto-Message
(PDFファイル)https://www.gov.ca.gov/wp-content/uploads/2024/09/SB-1047-Veto-Message.pdf

Governor Newsom announces new initiatives to advance safe and responsible AI, protect Californians | Governor of California
https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/

California Gov. Newsom vetoes AI bill that divided Silicon Valley : NPR
https://www.npr.org/2024/09/20/nx-s1-5119792/newsom-ai-bill-california-sb1047-tech

Gov. Newsom vetoes California’s controversial AI bill, SB 1047 | TechCrunch
https://techcrunch.com/2024/09/29/gov-newsom-vetoes-californias-controversial-ai-bill-sb-1047/

SB 1047はカリフォルニア州のスコット・ウィーナー上院議員が提出した法案で、特定規模・価格を超える大規模なAIモデルを開発する企業に対して、安全基準を制定させることを目指すものです。

AIモデルに「キルスイッチ」を義務付けるカリフォルニア州のAI安全法案はAIスタートアップの撤退を余儀なくするだけでなくオープンソースモデルなどに損害を与えるとして非難が集まる - GIGAZINE

2024年8月、カリフォルニア州議会はSB 1047を可決。ニューサム知事による署名を待つ状態となっていました。

開発に1億ドル以上の費用がかかるAIモデルに安全性テストを義務付けるAI安全法案をカリフォルニア州議会が可決 - GIGAZINE

しかし今回、ニューサム知事はSB 1047に署名せず、差し戻すことを表明しました。

ニューサム知事は、SB 1047に署名しなかったことについて、AIがめざましいスピードで能力を高めていく中、高価で大規模なモデルにのみ焦点を当てたSB 1047で構築される規制の枠組みは「誤った安心感を与えかねない」と表現し、小規模であっても、SB 1047が対象とするモデルと同等かそれ以上の危険性を持つモデルが出てくる可能性に対して懸念を示しています。

また、大規模モデルに関して最も基本的な機能ですらも厳しく取り締まるSB 1047について「テクノロジーがもたらす真の脅威から市民を守るための最善のアプローチだとは思えない」と表現し、「AIを効果的に規制する枠組みは、技術そのものと歩調を合わせる必要がある」と述べました。

なお、ニューサム知事は過去30日間で生成AI技術の展開や規制に関する法案17件に署名しており、「私たちは、生成AIを展開することによる潜在的・壊滅的なリスクからカリフォルニアの人々を守る責任があります。私たちは急速に変化するAI技術に対して、適応可能で公益を促進させる可能性を活用する解決策に向けて、思慮深く、そして迅速に取り組んでいく」と述べています。