カリフォルニア州のギャビン・ニューサム知事は日曜日、大規模な先端人工知能（フロンティアAI）モデルに対する米国で最も包括的な規制枠組みとなるはずだった州上院法案1047号（SB 1047）に拒否権を発動した。サンフランシスコ選出の民主党スコット・ウィーナー州上院議員が起草した「先端AIモデルのための安全かつ確実なイノベーション法」は、数カ月にわたりシリコンバレーやワシントン、学術界を巻き込む激しい論争を呼んでいた。

SB 1047の下では、1億ドル以上の計算資源（および10の26乗回以上の演算）を要する基盤モデルを開発する企業に対し、公開前の破滅的リスク試験の実施、緊急停止機能（キルスイッチ）の実装が義務付けられ、万が一大量の死傷者や重要インフラへの5億ドル超の損害を引き起こした場合には州司法長官による法的責任追及の対象となる規定が盛り込まれていた。

なぜニューサム知事は計算コスト基準のAI規制案を退けたのか

州議会に宛てた公式の拒否権声明の中でニューサム知事は、カリフォルニア州が新興技術に対する積極的な監督を放棄することはないと強調しつつも、SB 1047はAIモデルが実際に運用される文脈を評価せず、硬直的な数値基準のみに依拠していると指摘した。その上で、機密性の高い分野に投入される小規模な特化型モデルの方が、無害な業務をこなす巨大な汎用モデルよりも現実世界の脅威になり得ると警鐘を鳴らした。

同法案はAI業界内部の深刻な対立を浮き彫りにした。OpenAI、Meta、Google、ベンチャーキャピタルのアンドリーセン・ホロウィッツ、ナンシー・ペロシ元下院議長らは「オープンソース開発を萎縮させ、AIスタートアップを州外へ流出させる」として反対を表明。一方、Anthropicやイーロン・マスク氏、チューリング賞受賞者のジェフリー・ヒントン氏とヨシュア・ベンジオ氏、ハリウッドの労働組合は法案を支持していた。

“善意に基づくものではあるが、SB 1047は実際の高リスクな用途や実証的な脅威分析に焦点を当てるのではなく、大規模システムが展開しているというだけで最も基本的な機能にまで厳格な基準を適用してしまっている。”

二分されたシリコンバレーと科学的根拠に基づく新たな安全指針

拒否権の発動と同時に、ニューサム知事はスタンフォード大学の計算機科学者フェイフェイ・リー博士、元米政府首席データサイエンティストのDJ・パティル氏、カリフォルニア大学バークレー校のジェニファー・チェイズ副学長らを招集し、次期議会会期に向けて実証的で実効性のあるガードレールを策定する州主導の新組織を立ち上げると発表した。

さらに知事は、州緊急事態管理局およびテクノロジー局に対し、電力網や水供給、サイバーセキュリティ基盤に対する壊滅的なAIリスク評価を拡充するよう指示した。ニューサム知事は今月初め、選挙関連のディープフェイク対策や俳優のデジタル肖像権保護などを定めた10件以上の個別AI規制法案には署名している。

Sources

ギャビン・ニューサム SB 1047 AI規制 カリフォルニア州 スコット・ウィーナー フェイフェイ・リー シリコンバレー