개빈 뉴섬 캘리포니아 주지사가 일요일 대규모 프런티어 인공지능(AI) 모델에 대한 미국 내 가장 강력한 규제 체계가 될 뻔했던 주 상원 법안 1047호(SB 1047)에 거부권을 행사했다. 샌프란시스코 지역구의 민주당 소속 스콧 위너 주 상원의원이 대표 발의한 '프런티어 인공지능 모델을 위한 안전하고 신뢰할 수 있는 혁신법'은 지난 수개월간 실리콘밸리와 워싱턴 정가, 학계 전반에 걸쳐 치열한 찬반 논쟁을 불러일으켰다.

SB 1047 법안에 따르면 1억 달러 이상의 컴퓨팅 자원을 투입해 파운데이션 모델을 학습시키는 개발사는 배포 전 대재앙적 위험성 평가를 의무적으로 실시하고, 비상시 작동을 즉각 멈추는 '킬 스위치(kill switch)' 프로토콜을 구현해야 하며, 시스템이 대량 인명 피해나 핵심 인프라에 5억 달러 이상의 손실을 입힐 경우 주 법무장관으로부터 법적 책임을 추궁받도록 규정돼 있었다.

뉴섬 주지사가 연산량 임계치 기반의 AI 규제를 거부한 이유

뉴섬 주지사는 캘리포니아 주의회에 보낸 공식 거부권 서한에서 주 정부가 신기술에 대한 선제적 감독을 포기하는 것은 결코 아니지만, SB 1047은 AI 모델이 실제로 작동하는 맥락을 평가하기보다 경직된 수학적 임계치에만 의존했다고 지적했다. 그는 민감한 영역에 투입되는 소규모 특화 모델이 일상적 업무를 수행하는 초대형 범용 모델보다 현실 세계에서 훨씬 더 큰 위험을 초래할 수 있다고 경고했다.

이번 법안은 AI 업계 내부의 깊은 철학적 균열을 드러냈다. 오픈AI, 메타, 구글, 벤처캐피털 앤드리슨 호로위츠 및 낸시 펠로시 전 연방 하원의장은 이 법안이 오픈소스 생태계를 위축시키고 AI 스타트업의 탈(脫)캘리포니아를 부추길 것이라며 반대했다. 반면 앤트로픽과 일론 머스크 xAI 창업자, 튜링상 수상자인 제프리 힌턴 및 요슈아 벤지오 교수, 할리우드 노동조합은 법안 통과를 지지했다.

“선의의 취지에도 불구하고 SB 1047은 실제 고위험 활용 사례와 실증적 위협 분석에 초점을 맞추기보다, 단지 대규모 시스템이 구동한다는 이유만으로 가장 기초적인 기능에까지 가혹한 기준을 적용하고 있습니다.”

실리콘밸리의 찬반 분열과 실증적 안전장치 마련을 위한 새 구상

거부권 행사와 함께 뉴섬 주지사는 스탠퍼드대 컴퓨터공학자 페이페이 리 박사, 디제이 파틸 전 백악관 수석 데이터 과학자, 제니퍼 체이스 UC버클리 부총장을 영입해 차기 입법 회기 전까지 실증적이고 실행 가능한 프런티어 모델 평가 가이드라인을 수립할 새로운 주 정부 이니셔티브를 출범시킨다고 발표했다.

또한 뉴섬 주지사는 주 비상관리국과 기술부에 전력망, 상수도, 사이버보안 핵심 인프라에 대한 치명적 AI 위협 평가를 확대하라고 지시했다. 앞서 이달 초 주지사는 선거 딥페이크 방지 및 배우의 디지털 복제물 권리 보호 등을 다룬 10여 건의 핀셋 AI 규제 법안에는 서명한 바 있다.

Sources

개빈 뉴섬 SB 1047 AI 규제 캘리포니아 스콧 위너 페이페이 리 실리콘밸리