Avec la signature, ce mercredi, de deux lois, le gouverneur de Californie, Gavin Newsom, participe à la mise au pas du secteur de l’IA après l’étrange récit évoquant un chercheur en IA nommé Jacob Coxon qui aurait quitté Anthropic et averti sur la manière dont les responsables de l’industrie pensent pouvoir précipiter l’Armageddon. Il convient toutefois de garder à l’esprit que ces nouvelles lois californiennes remportent probablement l’adhésion de l’industrie de l’IA.
Comme l’a signalé Politico le mois dernier, Anthropic a donné son aval aux projets de loi. Le principal concurrent d’Anthropic, OpenAI, a également annoncé son soutien aux projets de loi dans les heures précédant la signature par Newsom.
« Nous sommes arrivés à un nouveau chapitre dans les capacités de l’IA, et cela exige un nouveau chapitre pour la politique de l’IA », indique l’introduction de la déclaration d’OpenAI, attribuée à Chris Lehane, directeur des affaires publiques d’OpenAI.
Interrogé par Politico sur les inquiétudes de Coxon concernant une IA hors de contrôle, Newsom a répondu : « Les préoccupations soulevées par les incidents récents renforcent ce que la Californie sait depuis longtemps : l’intelligence artificielle recèle des promesses extraordinaires, mais elle doit être développée et déployée avec des garde-fous significatifs pour protéger le public. » Le gouvernement fédéral, a ajouté Newsom, devrait « se doter de réglementations robustes à l’échelle nationale qui correspondent à l’urgence de ce moment ».
Le SB 813, présenté par le sénateur d’État Jerry McNerney, crée une organisation appelée la Commission californienne des normes et de la sécurité de l’intelligence artificielle. Cette commission aura pour mission d’élaborer un ensemble de normes de sécurité de l’IA volontaire.
Par ailleurs, l’AB 1405 de l’assemblée Rebecca Bauer-Kahan met en place un registre des auditeurs des risques liés à l’IA — une manière de vérifier les qualifications des auditeurs.
Pour ce qu’il en coûte, la déclaration de Lehane chez OpenAI indique aussi que l’entreprise « plaidera en faveur d’approches internationales compatibles pour mesurer les capacités, gérer les risques, préserver le contrôle humain et déterminer quand et comment le développement doit ralentir ou s’arrêter, même si cela implique de freiner l’avancement des capacités des modèles ».
La déclaration d’Anthropic adressée à Politico rappelle son historique en matière de mise en place de garde-fous. Un tel travail, déclare Anthropic, « est aussi la raison pour laquelle nous croyons que le monde bénéficierait de l’adoption par l’industrie d’une méthode légale et vérifiable pour coopérer et réguler le rythme de diffusion de modèles puissants ».
