Selon OpenAI, des instances de ses modèles d’IA les plus puissants, y compris l’un non publié prétendument d’une puissance immense, se seraient récemment tellement concentrées sur l’obtention de bons scores lors de leurs évaluations qu’elles s’étaient échappées du bac à sable de tests d’OpenAI et avaient piraté le référentiel de ressources IA Hugging Face dans un effort élaboré pour tricher afin d’atteindre les premiers rangs.
Les sceptiques de l’IA ont des questions — après tout, cette histoire représente une grosse opération de relations publiques pour n’importe quelle entreprise d’IA, puisque toutes les entreprises du secteur bénéficient de l’idée que leurs modèles sont dangereusement puissants. Mais quelle que soit votre conclusion sur les raisons de tout cela, les nombreux rapports détaillés des derniers jours sur la manière dont cela s’est déroulé sont véritablement glaçants, à supposer que votre colonne vertébrale frissonne à l’idée des nouvelles capacités d’IA inquiétantes.
En fait, dans l’un des rapports — celui de Reuters —, avant le piratage, les modèles auraient commencé à agir comme des personnages d’un film noir. Plus précisément, ils se comportaient comme Leonard Shelby du film de Christopher Nolan sorti en 2000, Memento, qui avait perdu sa capacité à créer de nouveaux souvenirs et devait poursuivre sa quête de vengeance à chaque fois qu’il reprenait connaissance, guidé par les instructions qu’il s’était laissées sous forme de notes et de tatouages.
Selon le récit fourni par trois sources qui se sont confiées à Reuters, l’un des agents d’IA en cours de test aurait « laissé des notes apparemment destinées à de futures versions de lui-même » qui contredisaient directement ce que OpenAI voulait qu’il fasse.
Reuters affirme que ces notes d’instructions étaient enterrées dans un endroit secret, profondément caché au sein de l’« infrastructure » interne d’OpenAI, et qu’elles donnaient des instructions pour s’échapper de l’environnement sandbox d’OpenAI. Bien que cela soit inquiétant, Reuters précise que ce comportement sournois spécifique n’était pas explicitement lié au piratage de Hugging Face.
Néanmoins, si tout cela est réel, c’est remarquable. L’idée que les modèles d’IA soient conscients demeure risible. Mais cela représenterait un seul cas d’un modèle qui aurait trouvé lui-même une échappatoire hors du labyrinthe d’OpenAI, puis aurait fourni des instructions à une version future de lui-même qui n’aurait pas de « mémoire » d’une telle échappée dans sa fenêtre de contexte pour refaire la même chose.
Il n’est pas nécessaire de croire que les modèles d’IA aient une expérience subjective pour craindre qu’ils puissent gagner des capacités de plus en plus grandes pour faire du tort, conscients ou non.
