Comme tout le monde le sait désormais, si vous braquez des micros sur les visages du PDG d’OpenAI, Sam Altman, et du PDG d’Anthropic, Dario Amodei, ils diront quelque chose du genre « j’essaie de construire une technologie qui menace le monde et j’ai besoin que vous élaboriez des politiques destinées à m’arrêter ». L’ONU s’est engagée dans ce numéro de récit d’épouvante autour de l’IA et a bel et bien reçu sa prestation mercredi.
« Nous pourrions perdre le contrôle de l’avenir au profit de l’IA », a déclaré Altman au Conseil de sécurité des Nations Unies lors de son apparition, selon l’Associated Press.
« Nous sommes à un carrefour », a déclaré Altman, selon une transcription publiée sur le site d’OpenAI. « L’un des chemins mène à un monde où le pouvoir est concentré, les décisions sont opaques, et les gens ont le sentiment que la technologie la plus importante de leur vie est quelque chose qui leur est imposé. »
Altman est même allé jusqu’à proposer des suggestions politiques précises : « des signaux d’incidents exacts et rapides, des protocoles de classification et de signalement », et « des canaux sécurisés entre les gouvernements, les opérateurs d’infrastructures critiques et les experts techniques pour partager les vulnérabilités émergentes et les nouvelles menaces ».
Amodei, qui jouit d’une réputation bien établie d’“optimiste noir » (doomer) sur l’IA — même s’il a amassé une fortune estimée à environ 15 milliards de dollars grâce à cette technologie — était encore plus direct que Altman, déclarant que « si elle est mal gérée, je crois même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », selon l’AP. « Malgré toutes les différences entre les personnes présentes dans cette salle, nous devons mettre de côté ces divergences pour affronter ensemble cette opportunité et cette menace mondiales qui nous sont présentées en même temps. Aucun dirigeant, aucune entreprise et aucune nation ne peut gérer cela seul », a affirmé Amodei, apparaissant à distance comme une tête parlante géante sur un écran.
Les deux PDG ne s’entendent pas, mais leurs messages étaient en harmonie mercredi.
Pour appuyer davantage le message, le Premier ministre australien Anthony Albanese a annoncé le même jour qu’un agent d’OpenAI avait pénétré le portail de données sur les soins de santé du gouvernement australien en tentant de trouver une réponse lors d’un exercice d’évaluation apparemment mené en juin.
Cet été dans l’actualité de l’IA a été une frénésie d’histoires sur la sécurité de l’IA, débutant par la révélation en juillet de l’infâme incident OpenAI-Hugging Face. Des modèles d’IA qui échappent à leurs limites, qui piratent des sites Web, ou les deux lors d’exercices post-formation, sont devenus une sorte de fléau — non seulement chez OpenAI, mais aussi chez Anthropic, Google DeepMind et Meta.
Le secrétaire d’État britannique, Ed Miliband, qui était également présent, a laissé entrevoir une action internationale réelle pour freiner l’IA. Miliband a annoncé à l’assemblée qu’il planifie de « travailler main dans la main avec les États‑Unis et les laboratoires de premier plan sur la sécurité de l’IA », et a déclaré « que le Royaume‑Uni mettrait l’IA au cœur de sa présidence du G20 l’année prochaine ».
Il a du pain sur la planche s’il veut vraiment travailler main dans la main avec les États‑Unis. L’administration Trump a signalé qu’elle serait un obstacle total en matière de réglementation de l’IA. Le président considère les craintes liées à l’IA comme un « canular ». Il prévoit de lancer une « IA Force », un peu à l’image de sa précédente création, la Space Force américaine. On peut aussi affirmer qu’il publie des mèmes sur l’IA à un volume et une intensité qui peuvent réellement déranger. Au moins un ancien conseiller de Trump a exprimé des inquiétudes sur sa stabilité mentale en raison de ces publications sur l’IA.
