Gubernur California Gavin Newsom Veto RUU Keamanan AI Kontroversial SB 1047

Gubernur California Gavin Newsom memveto Rancangan Undang-Undang Senat 1047 (SB 1047) pada hari Minggu, menghentikan apa yang seharusnya menjadi kerangka regulasi paling luas di Amerika Serikat bagi model kecerdasan buatan (AI) mutakhir berskala besar. Disusun oleh Senator Negara Bagian dari Partai Demokrat asal San Francisco, Scott Wiener, RUU Inovasi Aman untuk Model AI Mutakhir tersebut telah memicu lobi sengit selama berbulan-bulan di Silicon Valley, Washington, dan kalangan akademisi.

Di bawah aturan SB 1047, pengembang yang melatih model fondasi dengan kebutuhan daya komputasi lebih dari 100 juta dolar AS diwajibkan melakukan pengujian risiko bencana sebelum peluncuran, menerapkan protokol penghentian darurat penuh ('kill switch'), serta menghadapi pertanggungjawaban hukum dari Jaksa Agung California jika sistem mereka menyebabkan korban jiwa massal atau kerusakan infrastruktur kritis senilai lebih dari 500 juta dolar AS.

Alasan Newsom Menolak Regulasi Berbasis Ambang Batas Daya Komputasi

Dalam pesan veto resminya kepada Badan Legislatif Negara Bagian California, Newsom menekankan bahwa meskipun California tidak akan melepaskan pengawasan proaktif terhadap teknologi baru, SB 1047 terlalu bergantung pada ambang batas matematis yang kaku ketimbang mengevaluasi konteks nyata di mana model AI beroperasi. Ia mengingatkan bahwa model yang lebih kecil dan terspesialisasi di sektor sensitif justru dapat menimbulkan bahaya nyata yang lebih besar daripada model raksasa multiguna.

Legislasi ini memperlihatkan perbedaan pandangan yang tajam di dalam industri AI. OpenAI, Meta, Google, perusahaan modal ventura Andreessen Horowitz, serta mantan Ketua DPR AS Nancy Pelosi menentang RUU tersebut karena khawatir akan menghambat inovasi sumber terbuka (open-source) dan mengusir perusahaan rintisan AI dari California. Sebaliknya, Anthropic, Elon Musk, peraih Penghargaan Turing Geoffrey Hinton dan Yoshua Bengio, serta serikat pekerja Hollywood mendukung aturan itu.

“Meskipun bertujuan baik, SB 1047 menerapkan standar ketat bahkan pada fungsi paling dasar selama dijalankan oleh sistem berskala besar, alih-alih berfokus pada penggunaan berisiko tinggi yang nyata dan analisis ancaman empiris.” — Gavin Newsom, Gubernur California

Perpecahan Silicon Valley dan Inisiatif Pagar Pembatas Empiris Baru

Bersamaan dengan veto tersebut, Newsom mengumumkan bahwa ia telah menggandeng ilmuwan komputer Universitas Stanford Dr. Fei-Fei Li, mantan Kepala Ilmuwan Data AS DJ Patil, dan Rektor UC Berkeley Jennifer Chayes untuk memimpin inisiatif negara bagian baru guna merumuskan pagar pembatas keamanan yang empiris dan dapat diterapkan sebelum masa sidang legislatif berikutnya.

Newsom juga menginstruksikan Kantor Layanan Darurat dan Departemen Teknologi California untuk memperluas penilaian risiko ancaman bencana AI terhadap jaringan listrik, pasokan air, dan infrastruktur keamanan siber negara bagian. Awal bulan ini, sang gubernur telah menandatangani lebih dari selusin undang-undang AI terarah yang mengatur deepfake pemilu dan perlindungan replika digital pekerja seni.

Sources

• Office of Governor Gavin Newsom
• California State Legislature