Le gouverneur de Californie, Gavin Newsom, a opposé son veto à la loi sur l’innovation sûre et sécurisée pour les modèles d’intelligence artificielle frontalière. (BS 1047) aujourd’hui. Dans son message de vetole gouverneur Newsom a cité plusieurs facteurs dans sa décision, notamment le fardeau que le projet de loi aurait imposé aux sociétés d’IA, l’avance de la Californie dans le domaine et une critique selon laquelle le projet de loi pourrait être trop massive.
« Bien que bien intentionné, le SB 1047 ne tient pas compte du fait qu’un système d’IA soit déployé dans des environnements à haut risque, implique une prise de décision critique ou l’utilisation de données sensibles. Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, à situation qu’un grand système les déploie. Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie.
Newsom écrit que le projet de loi pourrait « donner au public un fake sentiment de sécurité quant au contrôle de cette technologie en évolution rapide ».
“Des modèles plus petits et spécialisés pourraient s’avérer tout aussi dangereux, voire plus, que les modèles ciblés par le SB 1047 – au détriment potentiel de l’innovation même qui alimente le progrès en faveur du bien public.”
Le gouverneur Newsom écrit également qu’il convient qu’il devrait y avoir des protocoles de sécurité et des garde-fous en place, ainsi que des conséquences « claires et applicables » pour les mauvais acteurs. Cependant, il déclare qu’il ne croit pas que l’État devrait « se contenter d’une answer qui ne s’appuie pas sur une analyse empirique de la trajectoire des systèmes et des capacités d’IA ».
Voici le message de veto complet :
Dans un poster sur Xle sénateur Scott Wiener, l’auteur principal du projet de loi, a qualifié le veto de « revers pour tous ceux qui croient à la surveillance des grandes entreprises qui prennent des décisions critiques » affectant la sécurité et le bien-être publics et « l’avenir de la planète ».
“Ce veto nous laisse face à une réalité troublante : les entreprises visant à créer une technologie extrêmement puissante ne sont confrontées à aucune restriction contraignante de la half des décideurs politiques américains, en particulier compte tenu de la paralysie persistante du Congrès quant à la réglementation significative de l’industrie technologique.”
Fin août, le SB 1047 est arrivé sur le bureau du gouverneur Newsom, sur le level de devenir le cadre juridique le plus strict autour de l’IA aux États-Unisavec une date limite pour le signer ou y opposer son veto au 30 septembre.
Il se serait appliqué aux sociétés d’IA couvertes exerçant leurs activités en Californie avec un modèle dont la formation coûte plus de 100 tens of millions de {dollars} ou plus de 10 tens of millions de {dollars} à peaufiner, ajoutant des exigences selon lesquelles les développeurs mettent en œuvre des mesures de safety telles qu’un « kill swap » et établissent des protocoles de take a look at pour réduire le risque d’événements désastreux comme une cyberattaque ou une pandémie. Le texte établit également des protections pour les lanceurs d’alerte afin qu’ils signalent les violations et permet à l’AG d’intenter des poursuites pour les dommages causés par des incidents de sécurité.
Les changements depuis son introduction comprenaient la suppression des propositions visant à créer une nouvelle agence de réglementation et l’octroi au procureur général de l’État du pouvoir de poursuivre les développeurs pour des incidents potentiels avant qu’ils ne se produisent. La plupart des entreprises couvertes par la loi se sont opposées à la législation, même si certaines ont atténué leurs critiques après ces amendements.
Dans une lettre adressée à l’auteur du projet de loi, le sénateur Wiener, Jason Kwon, directeur de la stratégie d’OpenAI, a déclaré que le SB 1047 ralentirait les progrès et que le gouvernement fédéral devrait plutôt s’occuper de la réglementation de l’IA. Pendant ce temps, le PDG d’Anthropic, Dario Amodei écrit au gouverneur après que le projet de loi ait été amendé, énumérant ses avantages et ses inconvénients et disant : « … le nouveau SB 1047 est considérablement amélioré, au level que nous pensons que ses avantages dépassent probablement ses coûts. »
La Chambre du Progrès, une coalition qui représente Amazon, Meta et Google, a également prévenu la loi « l’innovation paralysée ».
Parmi les opposants au projet de loi figurent l’ancienne présidente de la Chambre, Nancy Pelosi, le maire de San Francisco, London Breed, et huit Démocrates du Congrès de Californie. De l’autre côté, parmi les partisans virulents figurent Elon Muskdes noms éminents d’Hollywood comme Mark Hamill, Alyssa Milano, Shonda Rhimes et JJ Abrams, et des syndicats dont SAG-AFTRA et SEIU.
Le gouvernement fédéral étudie également les moyens de réglementer l’IA. En mai, le Sénat a proposé une feuille de route de 32 milliards de {dollars} qui couvre plusieurs domaines sur lesquels les législateurs devraient se pencher, notamment l’affect de l’IA sur les élections, la sécurité nationale, les contenus protégés par le droit d’auteur, and so on.
