Comme nous approchons du 25e anniversaire des attentats du 11 septembre, le Comité permanent des renseignements de la Chambre des représentants, aujourd’hui dirigé par le républicain de l’Arizona, Rick Crawford, a publié une nouvelle analyse du rapport de la Commission sur le 11 septembre. On peut dire que le comité est impressionné… et inquiet — par l’intelligence artificielle.
Sans les notes de bas de page, le rapport compte environ 56 pages, et environ 10 % semblent liées à l’IA. Il aborde les menaces d’assassinat visant le président Trump, évoque beaucoup la Chine, et ne traite que de questions de sécurité relativement mineures comme la menace posée par des voleurs internationaux de propriété intellectuelle diaboliques. Mais il contient aussi de longues avertissements sur l’IA et les risques de « cygne noir » associés à son avancement.
La section sur l’IA porte essentiellement sur la possibilité d’un terrorisme alimenté par l’IA. Les modèles d’IA « [ont] la possibilité de faciliter considérablement pour tout acteur répréhensible, y compris les terroristes, le développement et la conduite d’attaques plus dévastatrices », peut-on lire dans le rapport.
Cela inclut, précise le rapport, les armes biologiques. « Les connaissances et techniques qui peuvent soutenir le développement de vaccins, la détection des maladies et l’innovation médicale peuvent aussi être détournées par des États hostiles ou des acteurs non étatiques cherchant à développer, modifier ou diffuser des agents biologiques nocifs. »
Et bien sûr, il y a la menace liée au manque d’entrain dans nos propres efforts pour développer l’IA extrêmement rapidement afin de « rester en avance sur les menaces liées à l’IA ». On nous dit que la communauté du renseignement « doit aussi investir dans l’adoption de ses propres capacités d’IA avancées — afin que les États-Unis conservent leur avance sur leurs adversaires qui intègrent rapidement l’IA dans leurs propres opérations ».
L’une des sections consacrées à l’IA met en lumière le témoignage à la Chambre du professeur d’études internationales à Johns Hopkins, le docteur Benjamin Buchanan, qui évoque l’immédiat avant le 11 septembre et une « défaillance de l’imagination ». Plus précisément, Buchanan a déclaré que l’incapacité des gouvernements à « relier les informations dispersées entre les maillons institutionnels a conduit à une surprise stratégique dévastatrice ».
Vous vous souvenez sans doute de l’extrait célèbre d’une des audiences de la Commission sur le 11 septembre en 2004, où le procureur spécial Richard Ben-Veniste interroge la conseillère à la sécurité nationale de George W. Bush, Condoleezza Rice, sur le titre d’un document du President’s Daily Brief (PDB) remis à Bush un peu plus d’un mois avant les attaques.
Ben-Veniste: N’est-il pas vrai, Dr Rice, que le P.D.B. du 6 août mettait en garde contre de possibles attaques dans ce pays ? Et puis-je vous demander si vous vous souvenez du titre de ce P.D.B. ?
Rice: Je crois que le titre était Bin Laden Déterminé à Attaquer à l’Intérieur des États-Unis. Maintenant, le P.D.B.—
Et puis Ben-Veniste coupe Rice, sachant qu’il vient de sceller son immortalité par un clip.
Et à coup sûr, le rapport initial de la Commission sur le 11 septembre est assez sévère dans ce domaine. Le chapitre 8 s’intitule « LE SYSTÈME ÉTAIT EN LUMIÈRE ROUGE ». Mais la partie accablante n’est pas aussi générale que le clip de Condoleezza Rice. Ce n’est pas que Rice connaissait les intentions d’Oussama ben Laden, mais que les agents du renseignement américain savaient qui étaient ses hommes, et avaient une certaine idée de ce qu’ils faisaient, mais n’ont pas envoyé John Wick ou ce qu’ils sont censés faire lorsque quelqu’un est au courant de ce genre d’information.
Par exemple, des agents avaient suivi les pirates de l’air Nawaf al-Hazmi et Khalid al-Mihdhar, puis avaient cessé de les suivre, et avaient ensuite laissé passer des occasions de reprendre la piste. « À quatre occasions en 2001 », indique le Rapport, « la CIA, le FBI, ou les deux avaient des opportunités apparentes de recentrer l’attention sur l’importance de Hazmi et Mihdhar et de relancer les recherches à leur sujet. » Et un agent de l’État même de Crawford, l’Arizona, a rédigé une note au siège du FBI affirmant que des écoles de pilotage en Arizona étaient utilisées pour former des membres d’al-Qaida.
Quelle sorte de « manque d’imagination » le comité du renseignement est-il capable d’éprouver cette fois-ci ? Quelle mesure précise les États-Unis pourraient-ils prendre pour éviter une catastrophe liée à l’IA ? C’est un mystère. Je vous laisse, cher lecteur, avec ces deux phrases consécutives du rapport que j’ai choisies au hasard. Je suis convaincu que le secret ne se cache nulle part dans ces mots :
« Bien qu’il n’existe pas d’approche unique pour traiter cette menace, le Comité estime que la [communauté du renseignement] et les décideurs doivent envisager avec soin comment empêcher que des outils d’IA soient exploités par des acteurs déviants, y compris les terroristes. En même temps, le Comité estime que l’IC doit accélérer sa propre adoption responsable de capacités d’IA avancées afin que les États-Unis restent en avance sur ses adversaires. »
