Le gouverneur de Californie, Gavin Newsom, a opposé dimanche son veto au projet de loi sénatorial 1047 (SB 1047), stoppant ce qui aurait constitué le cadre réglementaire le plus strict des États-Unis pour les grands modèles d'intelligence artificielle d'avant-garde. Portée par le sénateur démocrate de San Francisco Scott Wiener, cette législation avait suscité des mois de vifs débats au sein de la Silicon Valley, à Washington et dans le monde universitaire.
En vertu du texte SB 1047, les développeurs entraînant des modèles de fondation nécessitant plus de 100 millions de dollars de puissance informatique auraient été tenus d'effectuer des tests préalables de risques catastrophiques, d'intégrer un dispositif d'arrêt d'urgence (« kill switch ») et d'engager leur responsabilité pénale et civile si leurs systèmes provoquaient des pertes humaines massives ou plus de 500 millions de dollars de dommages aux infrastructures critiques.
Pourquoi Newsom a rejeté une réglementation fondée sur les seuils de calcul
Dans sa lettre officielle de veto adressée à la législature californienne, Newsom a souligné que si l'État refuse de renoncer à encadrer les technologies émergentes, le projet SB 1047 reposait sur un seuil mathématique rigide au lieu d'évaluer le contexte réel d'utilisation d'un modèle d'IA. Il a prévenu que des modèles plus petits et spécialisés déployés dans des secteurs sensibles pouvaient présenter des dangers concrets bien supérieurs à ceux de modèles géants exécutant des tâches bénignes.
Le texte avait profondément divisé l'écosystème technologique. OpenAI, Meta, Google, le fonds Andreessen Horowitz et l'ancienne présidente de la Chambre des représentants Nancy Pelosi s'y étaient opposés, craignant un frein à l'open source et un exode des jeunes pousses hors de Californie. À l'inverse, Anthropic, Elon Musk, les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio ainsi que les syndicats d'Hollywood avaient soutenu la mesure.
“Bien que animé de bonnes intentions, le projet SB 1047 applique des normes drastiques même aux fonctions les plus élémentaires dès lors qu'un grand système les déploie, au lieu de cibler les usages réellement à haut risque et l'analyse empirique des menaces.”
Fracture dans la Silicon Valley et nouvelle initiative de garde-fous empiriques
Parallèlement à ce veto, Newsom a annoncé avoir fait appel à la chercheuse de l'université Stanford Dre Fei-Fei Li, à l'ancien responsable des données de la Maison-Blanche DJ Patil et à la rectrice de l'université UC Berkeley Jennifer Chayes pour diriger une nouvelle commission chargée de concevoir des garde-fous scientifiques et pragmatiques avant la prochaine session parlementaire.
Le gouverneur a également ordonné au Bureau des services d'urgence et au Département de la technologie de Californie d'élargir les évaluations des risques liés à l'IA pesant sur le réseau électrique, l'approvisionnement en eau et la cybersécurité de l'État. Plus tôt ce mois-ci, Newsom avait promulgué plus d'une douzaine de lois ciblées contre les deepfakes électoraux et le clonage numérique des artistes.
Comments (0)
Log in to join the discussion.