Les démocrates au Congrès font pression pour faire adopter des lois visant à limiter l’utilisation de l’intelligence artificielle par le Département de la Défense.
Cette semaine, le sénateur démocrate Adam Schiff, de Californie, a dévoilé la loi sur l’Autorité humaine dans les Opérations Létales (HALO). Ce texte exigerait qu’un commandant humain ait le dernier mot sur toute décision prise par des systèmes d’armes autonomes. Il imposerait aussi un enregistrement détaillé des modalités selon lesquelles les décisions militaires ont été prises et les cibles choisies, afin d’être réexaminé ultérieurement, instaurerait des protections pour les lanceurs d’alerte et interdirait l’utilisation de l’IA dans certains cas impliquant des armes nucléaires et la surveillance de masse.
« Les derniers mois nous ont montré qu’il est urgent de mettre en place des garde-fous de bon sens afin de garantir que l’utilisation de l’IA par le ministère de la Défense respecte les priorités de sécurité nationale et de respect de la vie privée des Américains », a déclaré le sénateur Schiff dans le communiqué de presse. « Mon texte protégerait les Américains contre la surveillance domestique illégale, ferait en sorte que les personnes dans la chaîne de commandement assument la responsabilité de l’utilisation de toute technologie létale, et maintiendrait de solides protections éthiques dans le déploiement des armes autonomes et semi-autonomes. »
L’intelligence artificielle fait partie de la guerre depuis un certain temps déjà. Des armées du monde entier font appel à des systèmes d’IA pour la sélection des cibles lors des frappes et pour la surveillance de masse; un exemple marquant est l’utilisation de l’IA par l’armée israélienne contre les Palestiniens. Les États-Unis ont également longtemps déployé l’IA dans leurs opérations militaires, y compris dans leur dernier conflit contre l’Iran.
Mais plus tôt cette année, l’utilisation de l’IA dans le domaine militaire a été propulsée au rang de sujet majeur du débat public lorsque le partenariat entre le Pentagone et Anthropic a échoué et, de manière sans précédent, la multinationale de l’IA a été désignée comme un risque pour la chaîne d’approvisionnement. Anthropic aurait refusé de supprimer les garde-fous présents dans ses systèmes d’IA destinés à empêcher le DoD d’utiliser ses modèles pour une surveillance domestique de masse et des armes totalement autonomes, laissant peu ou pas d’intervention humaine.
Suite aux retombées de cet accord, le Pentagone a signé des contrats avec pratiquement toutes les autres grandes sociétés d’IA, notamment OpenAI, Google, Nvidia, SpaceX, Microsoft et Amazon Web Services. Pendant ce temps, Anthropic a contesté cette désignation en justice, bien que des sources indiquent que l’administration Trump se rapproche de l’entreprise à la suite de la sortie de Mythos, son dernier modèle, présenté comme un cauchemar pour l’industrie de la cybersécurité.
Suite à la rupture très médiatisée de l’administration Trump avec Anthropic, une pléiade de démocrates s’est exprimée en faveur de l’entreprise d’IA et de sa position. Cette liste incluait le sénateur Schiff, auteur de la loi HALO.
« J’aimerais qu’il y ait davantage de voix comme Anthropic » a déclaré le sénateur Schiff lors de la conférence de Punchbowl News en mars.
Schiff a présenté une série de projets de loi liés à l’IA ces derniers mois, y compris des propositions obligeant les grands centres de données à payer leur propre énergie, imposant aux entreprises d’IA de divulguer les œuvres protégées par le droit d’auteur utilisées pour former les modèles, et apportant des cours de littératie en IA dans les écoles. On dit désormais qu’il cherche à rattacher ce texte au paquet annuel de dépenses militaires, aussi connu sous NDAA, qui doit être approuvé d’ici la fin de l’année au plus tard.
Il n’est pas le seul démocrate à proposer ce genre de solution. La sénatrice Kirsten Gillibrand, de New York, a introduit plus tôt ce mois-ci un texte très similaire, imposant des restrictions à l’utilisation de l’IA dans le déploiement d’armes nucléaires, la surveillance domestique et les armes entièrement autonomes. Toutes ces « actions à hautes conséquences », comme le définit le texte, nécessiteraient l’approbation d’un haut responsable du DoD pour avancer. La sénatrice Gillibrand prévoirait également de présenter cette proposition sous forme d’amendement au NDAA.
Ensuite, il y a la loi sur les garde-fous de l’IA présentée par la sénatrice Elissa Slotkin du Michigan, en mars dernier. Visant des garde-fous très similaires à ceux des projets de Schiff et de Gillibrand, Slotkin préparerait également son introduction sous forme d’amendement au NDAA.
Bien que les trois textes visent à assurer la sécurité en imposant une supervision humaine à toute décision prise par des systèmes d’IA dans les contextes militaires, ce n’est pas là que se situent les dangers.
De nombreux utilisateurs d’IA souffrent, comme l’expliquent les experts, du biais d’automatisation, aussi appelé croire qu’un système d’IA peut prendre des jugements plus exacts que vous parce qu’il a accès à plus d’informations ou parce qu’il raisonne plus efficacement. Ce n’est évidemment pas vrai: la technologie est loin d’être parfaite, et les grands modèles de langage (LLMs) peuvent faire des hallucinations ou manifester des biais. Combiné à la nature de la « boîte noire » de l’IA, où les utilisateurs n’ont pas une vision complète de la manière dont le système raisonne ou pourquoi il agit ainsi, on obtient un plan d’IA militaire qui pourrait encore entraîner des erreurs potentiellement fatales, même avec une supervision humaine.
