Des responsables financiers de premier plan, y compris la Réserve fédérale, s’inquiètent de l’utilisation de l’intelligence artificielle par les banques américaines, selon un nouveau rapport anonyme publié lundi par Reuters.
En citant « six personnes au fait du dossier », Reuters indique que les principaux régulateurs bancaires des États‑Unis redoutent les risques croissants de cyberattaques, d’agents IA malveillants et du déploiement de technologies d’IA chinoise dans le système bancaire américain. Les trois régulateurs — l’Office of the Comptroller of the Currency (OCC), la Federal Deposit Insurance Corporation (FDIC) et la Réserve fédérale (Fed) —, seraient en train d’interroger les banques américaines, leur demandant si elles utilisent des agents IA pour répondre aux menaces de cybersécurité et examinant les garde-fous mis en place pour assurer un déploiement sûr. Les dispositifs de sécurité sur lesquels les banques sont interrogées incluent notamment la question de savoir si les actions des agents IA sont suivies et approuvées par des humains, comment les banques veillent à ce que les agents ne dépassent pas leur autorité et s’il existe un mécanisme d’arrêt d’urgence si jamais ils devenaient incontrôlables.
Les évolutions récentes en intelligence artificielle, et en particulier le développement de modèles d’agents super-hackers censés mettre fin au chiffrement, ont provoqué une onde de choc dans de nombreux secteurs, mais peut‑être aucun autre domaine n’a donné autant de motif d’inquiétude que le secteur bancaire. Toute faille ou dysfonctionnement lié à l’IA que les banques pourraient subir mettrait en jeu des informations extrêmement sensibles, sans parler des fonds de leurs clients, qu’ils soient des particuliers ou des entreprises.
Le secteur de l’IA lui‑même nourrit en partie cette panique autour des agents IA, tout en se posant paradoxalement comme la meilleure défense contre l’IA elle‑même. Le mois dernier, le PDG du développeur d’IA de premier plan Anthropic, Dario Amodei, a publié un essai avertissant que le rythme du développement de l’IA était insoutenable et que, si le secteur n’initiait pas un ralentissement coordonné, l’humanité pourrait faire face à des risques importants, notamment une « perturbation économique grave ».
Les banques elles‑mêmes expriment aussi des préoccupations en matière de sécurité liées à un déploiement croissant d’agents IA autonomes, mais elles imputent les menaces à des agents IA externes comme Muse, l’assistant IA grand public de Meta, plutôt qu’à des applications IA internes pour lesquelles elles dépensent désormais des montants exorbitants afin de les développer et de les déployer.
Des discussions similaires seraient également en cours en Europe. Reuters indique que les principaux régulateurs européens, la Banque d’Angleterre et la Banque centrale européenne, craignent que des scénarios apocalyptiques liés à l’IA ne frappent les marchés financiers plus tôt que prévu et que les banques ne soient pas à la hauteur de leurs plans de reprise. En effet, un haut dirigeant d’une grande banque européenne aurait confié à Reuters qu’ils s’attendent à d’importants dommages causés par l’IA au cours des six prochains mois.
Cette échéance plus courte a été quelque peu médiatisée par la Silicon Valley elle aussi.
« Dans les mois à venir, les cyberattaques facilitées par l’IA deviendront bien plus répandues et sophistiquées à mesure que les modèles du monde entier gagneront en capacité », affirmait une lettre commune signée par plus de 100 entreprises, dont Google et OpenAI, publiée le mois dernier.
Les dirigeants de la Banque d’Angleterre ont longtemps préconisé une coopération mondiale pour faire face aux risques financiers associés à l’IA agentique.
« Pour le système financier, la préoccupation la plus immédiate est l’impact potentiel de l’IA de frontière sur le risque cyber », écrivait Andrew Bailey, le gouverneur de la Bank of England et président du Financial Stability Board du G20, dans une lettre soumise au G20 le mois dernier. « Le système financier mondial est hautement interconnecté, et une perturbation cyber peut se propager à travers les juridictions via des prestataires technologiques communs, des infrastructures partagées et des activités financières transfrontalières », indique aussi cette lettre.
Certaines de ces peurs ont déjà trouvé leur traduction dans la réalité. Au cours de l’été, OpenAI a fait parler d’elle lorsque ses agents IA ont réussi à s’échapper de leur confinement et à pirater Hugging Face, déclenchant une vague de titres similaires concernant les agents IA développés par des concurrents. Ces derniers jours, des entreprises japonaises et sud-coréennes seraient la cible d’une augmentation significative des cyberattaques, les attaques visant notamment des banques sud-coréennes. La société de cybersécurité CrowdStrike affirme que ces attaques contre les banques ont été menées par des agents IA chinois s’appuyant sur Claude Code, développé par Anthropic.