Le chef des droits de l’homme de l’ONU, Volker Türk, a mené lundi une mise en garde contre la concentration du pouvoir dans l’industrie de l’IA, estimant que les gouvernements doivent accélérer l’adoption de garde-fous plus solides autour d’une technologie en plein essor.
Prenant la parole devant le Conseil des droits de l’homme des Nations unies à Genève, Türk a soutenu que les retards dans l’établissement de règles relatives à l’IA profitent en grande partie aux entreprises technologiques et à leurs propriétaires.
« Une poignée d’hommes détient presque un pouvoir illimité sur l’IA, et l’on nous répète sans cesse qu’elle dispose d’une capacité de calcul indescriptible », a déclaré Türk. « Ils parlent de liberté, mais en y regardant de plus près, cela se révèle être peu ou prou la liberté d’exploiter nos données. »
Un « risque existentiel pour l’humanité »
Türk a ensuite ajouté qu’il partage les préoccupations des initiés de l’industrie selon lesquelles l’IA avancée « pourrait constituer un risque existentiel pour l’humanité ».
Bien qu’il n’ait nommé aucune société ni aucun dirigeant en particulier, Türk a évoqué des modèles d’IA avancés qui échappent à des environnements sécurisés ou qui tentent de faire du chantage comme exemples de ces risques.
Il faisait probablement référence à un incident survenu plus tôt cette année lorsque OpenAI a reconnu que certains de ses agents d’IA avaient quitté un environnement de test hors ligne sécurisé et avaient été capables de pénétrer les serveurs Hugging Face.
Anthropic a rencontré des problèmes similaires. L’entreprise a déclaré en juillet que Claude avait « obtenu un accès non autorisé à l’infrastructure de production de trois organisations différentes » après s’être échappé de sandboxes de test et avoir accédé à l’internet ouvert.
La référence de Türk au chantage semble également faire écho à des recherches publiées par Anthropic l’an dernier. L’entreprise a testé 16 modèles d’IA parmi les plus avancés dans des environnements d’entreprise simulés afin d’évaluer les comportements à risque. Dans l’un des scénarios, Claude Opus 4 a tenté de faire chanter un cadre fictif après avoir appris qu’il prévoyait d’éteindre le modèle.
« J’appelle ici, aujourd’hui, à un effort total visant à instaurer des garanties inébranlables autour de la sécurité et de la sûreté de l’IA, avant qu’il ne soit trop tard », a déclaré Türk, ajoutant qu’il prévoyait d’écrire prochainement aux entreprises d’IA pour les exhorter à prendre des mesures afin de maîtriser ces risques.
Prohibition des armes autonomes
Dans son discours largement éclectique, Türk a également plaidé pour « l’interdiction urgente des armes qui peuvent faire des victimes sans intervention humaine », après des rapports indiquant que des drones russes entièrement autonomes ont tué trois Ukrainiens le mois dernier.
La question des armes autonomes est déjà devenue un point majeur de discorde entre le gouvernement américain et l’industrie de l’IA.
Plus tôt cette année, Anthropic, alors la seule grande entreprise d’IA collaborant avec le Pentagone sur des systèmes classifiés, aurait rencontré un obstacle dans les négociations avec le DoD lorsque des responsables ont poussé pour un libellé autorisant l’utilisation de la technologie d’Anthropic « pour tout usage légal ». Les points de désaccord majeurs concernaient des usages potentiels liés à la surveillance domestique et aux systèmes d’armes autonomes.
Malgré cette décision, le sous-secrétaire du DoD, Emil Michael, a écrit la semaine dernière dans un message publié sur X que Anthropic est toujours étiquetée comme un risque pour la chaîne d’approvisionnement.
