El gobernador de California, Gavin Newsom, vetó el domingo el proyecto de ley del Senado 1047 (SB 1047), frenando lo que habría sido el marco regulatorio más amplio de Estados Unidos para los modelos de inteligencia artificial de frontera a gran escala. Redactada por el senador estatal demócrata de San Francisco Scott Wiener, la Ley de Innovación Segura para Modelos de Inteligencia Artificial de Frontera había desatado meses de intenso cabildeo en Silicon Valley, Washington y el ámbito académico.
Bajo la SB 1047, los desarrolladores que entrenaran modelos fundacionales que requirieran más de 100 millones de dólares en capacidad de cómputo habrían estado obligados a realizar pruebas previas de riesgo catastrófico, implementar un protocolo de apagado de emergencia total ('kill switch') y asumir responsabilidad legal ante el Fiscal General de California si sus sistemas causaban víctimas masivas o más de 500 millones de dólares en daños a infraestructuras críticas.
Por qué Newsom rechazó la regulación basada en umbrales de potencia informática
En su mensaje oficial de veto dirigido a la Legislatura Estatal de California, Newsom subrayó que, si bien el estado no renunciará a la supervisión proactiva de las tecnologías emergentes, la SB 1047 dependía de un umbral matemático rígido en lugar de evaluar el contexto real en el que opera un modelo de IA. Advirtió que modelos más pequeños y especializados desplegados en sectores sensibles podrían representar mayores peligros reales que modelos masivos de propósito general.
La legislación dejó al descubierto una profunda fractura filosófica dentro de la industria tecnológica. OpenAI, Meta, Google, la firma de capital de riesgo Andreessen Horowitz y la expresidenta de la Cámara de Representantes Nancy Pelosi se opusieron al proyecto, advirtiendo que asfixiaría los modelos de código abierto y expulsaría a las startups de California. En cambio, Anthropic, Elon Musk, los premios Turing Geoffrey Hinton y Yoshua Bengio, y los sindicatos de Hollywood respaldaron la iniciativa.
“Aunque bien intencionada, la SB 1047 aplica estándares estrictos incluso a las funciones más básicas siempre que las despliegue un gran sistema, en lugar de centrarse en usos reales de alto riesgo y en un análisis empírico de amenazas.”
División en Silicon Valley y nueva iniciativa de salvaguardas empíricas
Junto con el veto, Newsom anunció que ha convocado a la científica informática de la Universidad de Stanford Dra. Fei-Fei Li, al ex científico jefe de datos de EE. UU. DJ Patil y a la rectora de UC Berkeley Jennifer Chayes para liderar una nueva iniciativa estatal encargada de formular salvaguardas empíricas y viables antes del próximo período legislativo.
Newsom también ordenó a la Oficina de Servicios de Emergencia de California y al Departamento de Tecnología ampliar las evaluaciones de riesgo ante amenazas catastróficas de IA sobre la red eléctrica, el suministro de agua y la infraestructura de ciberseguridad del estado. A principios de este mes, el gobernador firmó más de una docena de leyes específicas contra los deepfakes electorales y las réplicas digitales no autorizadas.
Comments (0)
Log in to join the discussion.