Supposons que vous lisiez ceci dimanche, le Président des États‑Unis serait apparemment en train de dîner avec le Président de l’IA Doomerisme en ce moment même. C’est ce qu’indique un article d’Axios, rédigé de manière anonyme, qui affirme notamment que ce dîner est « une indication d’un réchauffement des relations entre Anthropic et l’administration, dont les responsables et alliés entretiennent depuis longtemps des tensions ».
Vous avez bien entendu : Axios affirme que Donald Trump partage un repas « en tête‑à‑tête » avec le PDG d’Anthropic, Dario Amodei, réputé pour son agitation et son nervosisme, qui ne mange pas de viande sauf des invertébrés, et qui aurait tendance à « pester » et à manquer de capacité à « contrôler ses émotions ».
Comment pensez‑vous que cela se passe ? Pensez‑vous qu’Axios a raison de parler de ce « réchauffement » ?
Anthropic et l’administration Trump entretiennent une relation hasardeuse. Un responsable anonyme de l’administration aurait même qualifié Amodei de « drôle de type ». Plus récemment, Amodei fut « notablement absent » (pour reprendre l’expression du New York Post) du dîner d’État du Président avec le Président chinois Xi Jinping — où des responsables du monde entier de la tech étaient présents. Par ailleurs, séparément de Trump, Amodei entretient une relation tendue avec la Chine. Axios affirme qu’Amodei avait un conflit d’agenda qui l’en a empêché.
Cette relation tendue semble persister — malgré le fait que l’administration Trump utilisait le modèle Claude d’Anthropic dans des opérations militaires, et le trouvait même pratiquement irremplaçable — parce qu’Amodei a irrité le Pentagone de Trump en avançant des objections éthiques vagues plus tôt cette année. Le secrétaire à la Défense, Pete Hegseth, et d’autres auraient qualifié Claude de « IA éveillée » après qu’Amodei a soutenu qu’il existe des limites théoriques à ce que l’armée peut faire avec elle — aucune mise à mort autonome, et aucune surveillance de masse.
Fin février, Anthropic a été étiquetée comme risque de chaîne d’approvisionnement, une désignation qui interdit aux entrepreneurs du gouvernement américain de faire affaire avec elle. Un panel de la Cour d’appel fédérale a confirmé cette désignation tout juste la semaine dernière. Donc il y a là matière à discuter pour les deux.
« Help » pic.twitter.com/zsZzPpOZpY
— Emma Gray (@emmaladyrose) November 30, 2016
Mais les dîners passés de Trump avec ses ennemis semblent être parmi les plus étranges expériences culinaires de l’histoire. Les photos maladroites de Mitt Romney lors d’un de ces dîners, avant la première investiture de Trump, finiront peut‑être un jour dans l’exposition du Smithsonian dédiée à l’ère Trump. Dans un entretien accordé au New Yorker, l’ancien directeur du FBI James Comey a comparé son dîner en tête‑à‑tête maudit — celui où Trump demanda loyauté — à une « séduction », et a évoqué un « vide » à l’intérieur du président. Voici un extrait (avec l’emphase de Gizmodo) :
« Je pense qu’il y a un vide en lui et une faim d’affirmation que je n’ai jamais vue chez un adulte. (rires) Et je ne dis pas cela pour rire. Je pense qu’il manque de points de référence externes, et au lieu d’appeler, de prendre des décisions difficiles en faisant appel à une tradition religieuse ou à une logique ou à l’histoire, c’est tout ce qui remplit ce trou. »
Et aujourd’hui, il n’est plus vraiment prudent de dire que le Président semble combler ce vide avec l’IA — ou peut‑être devrais‑je dire le « SI », l’acronyme du terme préféré de Trump, Super Intelligence. Non seulement il utilise désormais « SI » sur des documents officiels, mais il ordonne aussi aux diplomates de le dire à l’étranger et cherche activement à ce que d’autres chefs d’État l’utilisent.
Mais quelle que soit la dénomination qu’il lui donne en ce moment, il semble l’adorer. Une récente flambée de publications sur les réseaux sociaux générées par l’IA a poussé son ancien adjoint à la porte de la porte‑parole, Sarah Matthews, à s’inquiéter auprès du New York Times de son acuité mentale. « Un président de 80 ans passe un temps ridiculement long à consommer et republier d’innombrables fanfictions générées par l’IA le présentant comme la personne la plus grande, la plus forte et la plus importante qui soit. On a vraiment l’impression de regarder son cerveau se décomposer en temps réel, » a déclaré Matthews.
Trump et Amodei, alors, se trouvent sur des deux côtés d’une frontière culturelle importante (et arbitraire) : la ligne entre les accelerationists et les doomers.
Dans l’essai désormais célèbre d’Amodei publié plus tôt ce mois-ci, intitulé « Nous devons freiner l’avant‑-garde » (We Must Pace the Frontier), Amodei expose en partie sa conviction que l’incident OpenAI–Hugging Face, ce fameux incident de sécurité de l’IA rapporté en juillet, prouve que le développement de l’IA de frontière doit ralentir. « Il est facile de rejeter cet incident car personne n’a été blessé et les dégâts économiques ont été minimes, mais à mes yeux, une nuée possédant des capacités supérieures mais avec un niveau de décalage similaire aurait pu causer des dégâts catastrophiques, » écrit Amodei.
Les opinions de Trump sont exactement opposées. Il a écrit sur Truth Social plus tôt ce mois-ci que le recul autour du centre de données était dû à une « hoax » (canular), et qu’il allait bientôt créer une Force IA (que l’on suppose avoir été renommée à présent la « Force SI »), et que le développement de l’IA ne devait pas être ralenti :
« […] de la même manière que le terme ‘Global Warming’ a été changé en ‘Climate Change’, car cela couvre un territoire d’incertitude bien plus vaste, ils s’attaquent directement à l’IA. Nous n’entraverons ni ne bridlerons en aucune manière la croissance de cette industrie incroyable. Au contraire, nous la chérirons, l’aiderons et la surveillerons pendant qu’elle grandit ! Cependant, nous rechercherons aussi le MAL, et nous pouvons le faire très facilement, avec notre système judiciaire pénal et civil déjà en place. »
Quand James Comey n’a pas dit ce que Trump voulait entendre à propos de la « loyauté » en 2017, il a presque immédiatement été renvoyé comme directeur du FBI. Près d’une décennie plus tard, Trump et Amodei ont désormais énormément de points de désaccord alors qu’ils s’installent pour discuter et mâcher leur nourriture l’un près de l’autre.
