Vendredi, le gouverneur de Californie, Gavin Newsom, qui n’est toujours pas officiellement candidat à la présidence, a signé un décret lié à l’IA, et il explore l’idée intrigante d’un « interrupteur » pour les modèles d’IA.
Le texte du décret appelle à des évaluations liées à :
« Exiger la création d’un « interrupteur » pour les modèles de pointe, dont l’efficacité de l’interrupteur serait vérifiée en continu par une organisation indépendante chargée de la vérification. »
Dans un communiqué, Newsom a déclaré : « L’échec lamentable du gouvernement fédéral à instaurer une quelconque supervision ou responsabilité significative en matière d’IA devrait alarmer chaque Américain, d’autant plus lorsque les PDG des entreprises d’IA eux-mêmes réclament une régulation. »
Le président Trump ne semble apparemment ressentir aucune pression pour réagir face aux nouvelles peurs apocalyptiques liées à l’IA, déclenchées par les récentes déclarations alarmantes de l’ancien ingénieur d’Anthropic, Jacob Coxon. Plus tôt cette semaine, Trump a écrit que « l’IA qui prendrait le contrôle du monde, détruira l’humanité et tout ce qui est mauvais, est un HOAX », et que l’IA sera « le plus grand moteur de développement économique de l’histoire — Plus grand que le pétrole, l’or, les diamants, ou même Internet. »
Avec ce décret, Newsom, déjà connu pour ses piques envers Trump, se présente une fois de plus comme l’adversaire direct de Trump.
Pour être juste, le ton de Newsom à ce sujet est resté constant pendant des années. Depuis environ 2023, il parle de la Californie comme d’un leader en matière de sécurité de l’IA, notant que l’essentiel de l’industrie y est basé.
La Californie est le hub mondial de l’intelligence artificielle — l’État s’approvisionne en technologies plus avancées que tout autre gouvernement infranational.
Nous proposons une série de principes et de garanties pour développer une IA sûre, transparente et fiable.https://t.co/f3FsAZexLR
— Gouverneur Gavin Newsom (@CAgovernor) 22 novembre 2023
Mais le gouverneur d’un État peut-il simplement imposer un interrupteur pour l’IA en signant un décret exécutif ? Probablement pas, et ce n’est pas ce que vise ce décret. C’est plutôt une directive appelant un panel d’experts à proposer rapidement une idée liée à un interrupteur, et à le faire dans les plus brefs délais.
L’Agence des Opérations Gouvernementales de Californie et le Bureau des Services d’Urgence du Gouverneur doivent se réunir et soumettre des recommandations conformément au décret; l’une de ces recommandations portera désormais sur la possibilité d’un interrupteur pour les modèles d’IA de pointe. La mise en œuvre effective d’un tel interrupteur reviendra probablement au prochain gouverneur, qui sera probablement le candidat démocrate Xavier Becerra, puisque le mandat de Newsom se termine le 4 janvier de l’année prochaine.
« Nous avons besoin de garde-fous réels sur les entreprises qui se ruent vers une superintelligence avant que quiconque n’ait démontré qu’il peut la maîtriser », a écrit Becerra sur Threads vendredi.
Un projet de loi fédéral prévoyant un « interrupteur » a été évoqué, mais il a été effectivement bloqué la semaine dernière lorsque le sénateur républicain Rand Paul du Kentucky a bloqué son adoption par consentement unanime. Le texte mené par les Républicains mettait la plupart des responsabilités sur les entreprises d’IA de pointe pour ajouter l’« interrupteur », ce qui pourrait faire davantage figure d’une exigence de « circuit-breaker » automatisé que l’ajout d’un interrupteur externe. Un projet de loi bipartite, qui reste théoriquement en débat, serait plus proche d’un véritable « interrupteur », donnant à la Department of Homeland Security une autorité notable pour arrêter des modèles d’IA qui dévient du cadre légal.
L’essentiel du contenu du décret de Newsom est en grande partie dirigé ailleurs. Comme le note Politico, il fait gagner un an sur les calendriers de mise en œuvre de deux lois d’État — toutes deux populaires parmi les entreprises d’IA de pointe — visant à créer des entités de régulation.
