Certaines des plus grandes figures de l’intelligence artificielle ont alarmé le pays ce week-end en évoquant des scénarios catastrophes qui pourraient se déployer si l’IA poursuit son développement sans frein et à une vitesse fulgurante.
Samedi, Dario Amodei, PDG d’Anthropic, a publié un essai mettant en garde contre des risques tels que le bioterrorisme et des « perturbations économiques majeures » liées au développement de l’IA, et suggérant que l’industrie devrait ralentir « le rythme auquel nous améliorons les capacités des modèles d’IA ». Son essai intervient quelques jours après qu’un ancien employé d’Anthropic a alarmé Internet avec des allégations selon lesquelles « les personnes qui construisent l’IA croient sincèrement que cela pourrait nous tuer tous d’ici la fin de la décennie ».
Dans un rare élan de solidarité, le PDG d’OpenAI, Sam Altman, et le PDG de SpaceX, Elon Musk, ont exprimé leur soutien à l’essai de Amodei. Altman a même déclaré que l’actuel cadre de sécurité influence la décision d’OpenAI de retarder son IPO très attendue jusqu’à l’an prochain.
Certaines des craintes évoquées par Amodei ne sont pas nouvelles : les appels à un contrôle accru et à des garde-fous plus rigoureux s’accumulent alors que l’industrie de l’IA fait face à une grave crise de relations publiques. La réputation de la technologie a connu des turbulences ces derniers mois, notamment en raison de ses retombées sur des domaines allant de la guerre au marché du travail, en passant par l’environnement et même les factures d’énergie.
Pourtant, les politiciens répondent par le **non** à la fois à un durcissement de la réglementation et à un freinage des avancées rapides dans le domaine de l’IA.
Au premier rang, le président passionné par l’IA, Trump, a pris la parole sur Truth Social lundi pour attaquer Amodei et qualifier l’opposition publique à un développement de l’IA sans frein « d’une conspiration MALADE » qui ne profite qu’à la Chine.
« Le seul contrôle ou « garde-fous » dont l’IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (Q.I. élevé !) », et les États‑Unis disposent de cela à profusion. L’administration Trump a empêché les « personnes » travaillant sur l’IA de faire du mal, ou potentiellement du mal, et nous continuerons à le faire ! » a affirmé Trump dans ce post. « QUI GAGNE EN IA GAGNE ! Nous menons la Chine et tous les autres, et nous continuerons à le faire. AUX THÉORISATEURS DU CONSPIRATIONISME, AUXTRAITRES, ET AUX FUITES, ATTENTION ! »
Le bras de fer se déroule alors que l’administration Trump cherche à alléger le fardeau réglementaire pesant sur l’industrie de l’IA. Plus tôt ce mois-ci, des responsables économiques mondiaux issus de certains des plus grands États du monde se sont réunis en Caroline du Nord pour les rencontres du G20. L’administration Trump a clôt ces réunions en dévoilant les « Carolina Principles », un document qui appelle essentiellement les grandes économies mondiales à adopter une approche plus souple face à la réglementation de l’IA. Des dirigeants de l’IA, dont Altman et Tom Brown, co-fondateur d’Anthropic, ont assisté à l’événement lors d’une présentation organisée par Howard Lutnick, le secrétaire au Commerce.
L’argument avancé est que les gouvernements devraient s’abstenir d’imposer de nouvelles répressions réglementaires et faire plutôt confiance aux entreprises d’IA pour veiller à la sécurité, car sinon la Chine les devancerait dans la course mondiale à l’IA. Mais certains experts soutiennent qu’un cadre réglementaire faible pourrait mener à des résultats pires que l’absence de régulation.
Anthropic n’est pas la seule entreprise d’IA à promettre un ralentissement du développement ce week-end. Microsoft a publié lundi un code de conduite promettant de limiter les modèles d’IA, tandis qu’Altman indiquait dans une interview samedi qu’OpenAI ferait davantage de pauses lors du développement de nouveaux modèles.
« Si vous vous dites : “Oh, OpenAI ne va pas s’arrêter parce que cela leur coûte de l’argent”, vous nous comprenez très, très mal », a affirmé Altman dans l’interview.
Au moins certains parlementaires semblent convaincus par ces promesses. Dimanche, le président de la Chambre des représentants, Mike Johnson, a pointé la concurrence avec la Chine et a déclaré que le Congrès devrait s’abstenir de réguler l’IA. À l’inverse, les régulateurs devraient simplement faire confiance aux développeurs d’IA pour prendre en charge la sécurité, estime Johnson.
Parallèlement, la Chine n’est pas du tout satisfaite de l’essai d’Amodei, notamment concernant l’avertissement sur les progrès de la Chine en matière d’IA. Dans cet essai, Amodei soutient qu’il faut ralentir le développement de l’IA, mais pas au point que les États‑Unis prennent du retard vis‑à‑vis du rythme chinois. Si la Chine venait à dépasser les États‑Unis pour devenir le leader mondial de l’IA, Amodei affirme que cela poserait un « grave danger » pour le monde entier et donnerait Pékin le pouvoir de « dominer militairement les démocraties », un argument qui trouve des partisans à Washington.
Pendant le week-end, des responsables chinois ont publié des déclarations qui minimisent les inquiétudes d’Amodei quant à un avantage chinois dans le développement mondial de l’IA, les qualifiant de « peur panique » (« fearmongering »), tout en exprimant leurs propres préoccupations sur l’usage des technologies génératives de l’IA et leur impact sur la Chine. Dans une déclaration publique dimanche, l’agence d’espionnage chinoise, le Ministère de la Sécurité d’État, a affirmé que « des forces hostiles et des personnes aux intentions malveillantes » utilisent l’IA pour concevoir une « attaque contre l’opinion publique et une guerre cognitive contre la Chine », selon le Financial Times.
Toutes ces sorties et ces codes de conduite croisés se mèneront à une sortie majeure plus tard ce mois-ci lorsque le président Trump et le président chinois Xi Jinping se rencontreront aux États‑Unis le 24 septembre. Si les deux gouvernements parviennent à conclure un accord sur le développement de l’IA, alors Xi et Trump devraient recevoir le prix Nobel de la paix, a affirmé Altman samedi. Et tout le monde sait à quel point Trump est obsédé par ce prix.
