Certaines banques américaines bloquent, heureusement, leurs clients afin d’empêcher que le bot Muse d’IA de Meta n’explore leurs comptes. Et, encore plus heureusement, il semble que relativement peu de personnes aient été assez imprudentes pour tenter l’expérience.
Lors d’un entretien accordé à Bloomberg TV vendredi, le PDG de Charles Schwab, Rick Wurster, a indiqué que la société de courtage bloquait activement Muse afin d’empêcher tout mouvement d’argent, car cela présente des risques inacceptables pour l’entreprise et pour ses clients.
« Nous ne voulons pas que quelqu’un donne simplement son mot de passe à Muse, puis que Muse entre et agisse au nom de ce client. Nous ne pouvons pas le contrôler, le client ne peut pas le contrôler, quelque chose pourrait mal tourner et qui serait responsable ? » a déclaré Wurster. « Pour la protection du client et pour notre propre protection, nous ne l’autorisons pas. »
Wurster a confié à Bloomberg qu’il reçoit personnellement des rapports sur les agents IA qui ont été détectés et rejetés chaque semaine, et que ce chiffre n’a pas encore franchi la barre des centaines. Étant donné que Muse collecte des dossiers complets sur les utilisateurs et toutes les personnes avec lesquelles ils interagissent numériquement, ce qui peut potentiellement les exposer à l’exploitation, et compte tenu des problèmes de confidentialité déjà signalés, comme celui qui consistait à remettre l’adresse d’un domicile à un inconnu, cela montre probablement que c’est mieux ainsi.
« Je reçois un rapport sur le nombre de fois où nous avons bloqué des clients utilisant l’un de ces agents au cours d’une semaine, et cela se chiffre en dizaines — voire en vingtaines — par semaine où les grands agents se retrouvent bloqués. Ce que cela me dit, c’est que même si les gens aiment l’IA, ils ne sont pas encore prêts à confier leurs comptes financiers à ces technologies. »
Plus tôt cette semaine, Jamie Dimon, PDG de JPMorgan Chase, a déclaré lors d’un appel aux investisseurs sur les résultats que la banque interdit les agents IA selon le critère du risque : « Nous n’allons pas autoriser n’importe quel agent externe à pénétrer au sein de l’entreprise, car cela présente tout simplement trop de risques pour les clients et pour JPMorgan ». Pour l’instant, un porte-parole a indiqué à CNBC que cela signifie qu’aucun agent externe n’est autorisé pour les clients de détail.
« Vous ne voulez pas d’agents renégats, et cela pourrait être des milliers d’entre eux », a ajouté Dimon.
Selon Bloomberg, Wurster a encouragé l’utilisation de Charley, l’assistant IA interne de Schwab dévoilé le mois dernier — Charley s’occupera, dans un premier temps, uniquement de tâches administratives et informatives, et non de trades. Wurster a indiqué à Yahoo Finance que l’IA pourrait aider les clients à rechercher des actions et à mettre en place des procédures de trading, mais autoriser des agents IA à prendre des décisions sans approbation humaine serait « un pas trop loin ».
Wurster a également déclaré à Bloomberg que Schwab se prépare à autoriser des connexions externes LLM, mais uniquement via des serveurs Model Context Protocol (MCP) avec une authentification contrôlée, et leurs actions seront restreintes : « Nous n’allons pas leur permettre de déplacer de l’argent, mais s’ils veulent accéder à leurs soldes et faire des recherches, ils pourront le faire via leurs LLM ». Lors d’un appel sur les résultats, il a mentionné qu’un sous-ensemble croissant de clients « négocie via des LLM et des API », et qu’ils ne peuvent soumettre des demandes que via les API de la firme et les serveurs MCP, où Schwab peut contrôler et vérifier les interactions.
