Le Gouverneur de Californie propose un dispositif d'arrêt d'urgence pour l'IA dans l’Etat
infohightech ·
La Californie devrait formuler une recommandation dans deux mois, tandis que la Commission européenne a pu retirer du marché un modèle à usage général depuis août.
Gavin Newsom a signé un décret demandant à un groupe de travail de remettre un rapport sous deux mois sur le renforcement de la législation californienne en matière de sécurité de l'IA, notamment sur la nécessité pour les entreprises d'intégrer un mécanisme d'arrêt d'urgence aux modèles de pointe. Il avait opposé son veto au projet de loi SB 1047, qui exigeait des développeurs la possibilité de procéder rapidement à un arrêt complet du système, en septembre 2024.
Selon Bloomberg, Gavin Newsom a signé vendredi un décret ordonnant à un groupe de travail de présenter, sous deux mois, un rapport sur le renforcement de la législation californienne en matière de sécurité de l'IA . Parmi les mesures envisagées figure l'obligation pour les entreprises d'intégrer un dispositif d'arrêt d'urgence aux modèles émergents.
Il a opposé son veto à un projet de loi qui en exigeait un.
Le projet de loi SB 1047 aurait obligé les développeurs de modèles concernés à pouvoir « procéder rapidement à un arrêt complet » , interrompant ainsi leur fonctionnement et toute formation ultérieure. Le gouverneur Newsom y a opposé son veto le 29 septembre 2024, arguant qu'il réglementait les modèles en fonction de leur taille et de leur coût plutôt que de leur utilisation. Ce projet de loi était intitulé « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act ».
C'était il y a presque deux ans jour pour jour.
L'autre idée du décret est de confier la rédaction des plans de sécurité des entreprises pionnières à des tiers indépendants. « Nous n'attendons pas pour agir », a déclaré Gary Newsom. Son cabinet n'a pas précisé la composition du groupe de travail.
L'Europe n'a pas demandé aux entreprises de construire le commutateur.
Depuis le 2 août, la Commission européenne peut restreindre, retirer ou interdire la commercialisation d'un modèle à usage général sur le marché de l'UE, en vertu d'une disposition de la loi sur l'IA. Ce pouvoir appartient au régulateur et non au développeur.
Cela ne dépend pas de la mise en œuvre d'une quelconque action par une entreprise.
La loi sur l'IA exige par ailleurs qu'un humain supervisant un système à haut risque puisse l'interrompre ou l'arrêter à l'aide d'un bouton d'arrêt. Cette règle concerne les systèmes déployés et non les modèles sous-jacents. Ces obligations ne sont pas encore en vigueur.
La Californie devrait recevoir une recommandation dans deux mois.
La situation concernant les tiers semble similaire. La loi SB 813 de Californie donne à l'État jusqu'en janvier 2028 pour certifier les organisations capables de tester les modèles de pointe, tandis que le panel scientifique européen de 60 membres a été nommé le 1er juin.
Aucune des deux parties n'a encore déterminé qui prend en charge les frais de calcul. Dans le seul exemple concret à ce jour, la facture du testeur a été réglée par l'entreprise testée.
Gavin Newsom a adopté une position ambiguë sur ce sujet. Il a encouragé cet essor car il était rentable, et, plus tôt cette année, il a promu un partenariat visant à intégrer Claude d'Anthropic au sein des agences d'État. Anthropic et OpenAI sont toutes deux basées en Californie et seraient donc concernées par les recommandations de son groupe.