Kaliforniens Gouverneur Gavin Newsom hat am Sonntag sein Veto gegen die Gesetzesvorlage Senate Bill 1047 (SB 1047) eingelegt und damit das bislang weitreichendste Regulierungsgesetz der USA für große Frontier-Modelle der künstlichen Intelligenz gestoppt. Das vom demokratischen Staatssenator Scott Wiener aus San Francisco eingebrachte Gesetz hatte monatelang für heftige Kontroversen im Silicon Valley, in Washington und in der Wissenschaft gesorgt.

Gemäß SB 1047 hätten Entwickler, die Basismodelle mit einem Rechenaufwand von mehr als 100 Millionen US-Dollar trainieren, vor der Veröffentlichung verpflichtende Katastrophenrisikotests durchführen, eine vollständige Notabschaltung („Kill Switch“) implementieren und bei massiven Personenschäden oder Infrastrukturschäden über 500 Millionen US-Dollar weitreichende Haftungsrisiken tragen müssen.

Warum Newsom die Regulierung nach Rechenleistungs-Schwellenwerten ablehnte

In seiner offiziellen Vetobegründung an das kalifornische Parlament betonte Newsom, dass Kalifornien zwar nicht auf eine vorausschauende Aufsicht über Zukunftstechnologien verzichten werde, SB 1047 jedoch auf einem starren mathematischen Schwellenwert beruhe, anstatt den konkreten Einsatzkontext eines KI-Systems zu bewerten. Kleinere, spezialisierte Modelle in sensiblen Sektoren könnten größere reale Gefahren bergen als riesige Allzweckmodelle bei harmlosen Aufgaben.

Der Gesetzentwurf hatte die Technologiebranche tief gespalten. OpenAI, Meta, Google, der Risikokapitalgeber Andreessen Horowitz und die frühere Sprecherin des Repräsentantenhauses Nancy Pelosi lehnten das Gesetz ab, da es Open-Source-Entwicklungen abwürgen und KI-Start-ups aus Kalifornien vertreiben könne. Befürwortet wurde es hingegen von Anthropic, Elon Musk, den Turing-Preisträgern Geoffrey Hinton und Yoshua Bengio sowie den Hollywood-Gewerkschaften.

“Obwohl gut gemeint, wendet SB 1047 strenge Standards selbst auf die grundlegendsten Funktionen an, solange ein großes System sie bereitstellt, anstatt sich auf tatsächliche Hochrisikoanwendungen und empirische Bedrohungsanalysen zu konzentrieren.” — Gavin Newsom, Gouverneur von Kalifornien

Spaltung im Silicon Valley und neue Initiative für evidenzbasierte Leitplanken

Zeitgleich mit dem Veto gab Newsom bekannt, dass er die Stanford-Informatikerin Dr. Fei-Fei Li, den ehemaligen US-Chefdemoskopen DJ Patil und die UC-Berkeley-Prorektorin Jennifer Chayes berufen hat, um vor der nächsten Sitzungsperiode wissenschaftlich fundierte, praxistaugliche Sicherheitsleitplanken für Frontier-Modelle zu erarbeiten.

Darüber hinaus wies Newsom die kalifornische Katastrophenschutzbehörde und das Technologieministerium an, die Risikobewertungen für katastrophale KI-Bedrohungen gegen das Stromnetz, die Wasserversorgung und die Cybersicherheitsinfrastruktur des Bundesstaates auszuweiten. Erst Anfang des Monats hatte der Gouverneur über ein Dutzend gezielter KI-Gesetze gegen Wahl-Deepfakes und unautorisierte digitale Schauspieler-Kopien unterzeichnet.

Frequently Asked Questions

Warum hat Gouverneur Gavin Newsom sein Veto gegen das KI-Gesetz SB 1047 eingelegt?

Newsom argumentierte, dass SB 1047 KI-Modelle pauschal anhand der Trainings-Rechenleistung (100-Millionen-Dollar-Schwelle) reguliere, statt zu prüfen, ob ein System tatsächlich in Hochrisikobereichen eingesetzt wird.

Welche Schritte unternimmt Kalifornien nach dem Veto gegen SB 1047 bei der KI-Sicherheit?

Gouverneur Newsom berief ein Expertengremium unter dem Vorsitz von Dr. Fei-Fei Li, DJ Patil und Jennifer Chayes zur Entwicklung empirischer Sicherheitsrahmen und ordnete Risikoanalysen für kritische Infrastrukturen an.

Sources

Gavin Newsom SB 1047 KI-Regulierung Kalifornien Scott Wiener Fei-Fei Li Silicon Valley