Que se passe-t-il lorsque vous regardez une pomme ?
Cette question peut être appréhendée de deux façons certes distinctes. Un matérialiste forcené vous donnerait probablement une explication techniquement détaillée : des photons qui rebondissent sur la surface de la pomme et qui pénètrent dans les photorécepteurs de vos yeux, créant une représentation visuelle d’un fruit rouge qui existe réellement “là-bas” dans le monde. Interrogez en revanche un philosophe ou un artiste, et ils auront tendance à s’aventurer dans un territoire métaphysique bien différent : la pomme n’est pas seulement une collection d’atomes modélisés par le système visuel de votre cerveau — c’est aussi une sorte de portail, un chemin vers un univers mental d’associations et de souvenirs à demi conscients, dont le tracé et la sensation sont propres à chacun des observateurs. Une pomme pourrait symboliser la santé, par exemple, tandis que pour une personne plus religieuse, elle évoquerait peut-être la tentation d’Eve dans le Jardin et la Chute de l’Homme. D’autres pourraient y voir un symbole de l’informatique personnelle à l’ère moderne, ou l’épiphanie qui aurait conduit Isaac Newton à formuler sa loi de gravitation.
Selon cette école de pensée, la perception n’est jamais strictement objective ; au contraire, notre subjectivité colore notre expérience du monde à tel point que les deux s’entremêlent presque inextricablement. L’artiste belge René Magritte a saisi cette ambiguïté entre le percevant et ce qui est perçu dans sa toile de 1964 Ceci n’est pas un pomme. Son propos était qu’une représentation visuelle d’une pomme, aussi réaliste qu’elle puisse paraître, n’est pas la chose qu’elle est censée représenter ; nous ne faisons jamais l’expérience du monde en lui-même, comme l’aurait dit Kant. L’art visuel, comme la peinture et la photographie, sert de lien vivant entre l’expérience unique de l’artiste, d’un côté, et celle du spectateur, de l’autre.
Face à l’afflux massif de médias générés par l’IA qui inonde Internet ces dernières années, se pose la question : que signifie pour l’humanité, pour nos relations les uns avec les autres, et pour notre capacité à tirer du sens du monde lorsque une part croissante des images que nous voyons et avec lesquelles nous interagissons est générée non pas par d’autres êtres humains vivants et sensibles, mais par des algorithmes inconscients entraînés non pour nous aider à naviguer dans les complexités de nos vies, mais pour pirater et capter notre attention ?
C’est la question centrale que l’artiste Trevor Paglen s’est donné pour tâche d’examiner dans son dernier livre, How to See Like a Machine: Images After AI.
Afin de décrire son travail de manière simple, on pourrait dire qu’il est en mission pour éclairer les forces ténèbres qui sous-tendent notre comportement et notre vision du monde, en dessous du seuil de notre conscience. Il a photographié d’objets célestes mystérieux d’origine inconnue, des « satellites secrets », des câbles à fibre optique sous-marins, des avions espions et des drones militaires. En 2014, il a travaillé comme directeur de la photographie sur le documentaire primé aux Oscars réalisé par Laura Poitras sur Edward Snowden, Citizenfour, et il a reçu en 2017 la bourse MacArthur « génie ».
Dans une série d’essais rédigés au cours de la dernière décennie, How to See Like a Machine soutient que l’essor de l’intelligence artificielle moderne a inauguré une époque où la nature intersubjective de l’imagerie est remplacée par quelque chose de fondamentalement nouveau, quelque chose d’extrêmement étranger, dont les implications psychologiques et politiques restent à réaliser. Les images générées par IA ne constituent pas le produit unique d’un esprit humain, mais le reflet de données d’entraînement qui, dans bien des cas, sont profondément infectées par les pires biais humains.
Par ailleurs, chacun de nos échanges avec du contenu généré par IA — que ce soit une conversation avec un chatbot sur notre santé mentale ou le fait de cliquer sur une publicité créée par IA — fournit aux algorithmes sous-jacents des informations précieuses sur nos préférences, nos comportements et, globalement, notre profil psychologique. Nous ne regardons jamais l’IA comme telle : c’est elle qui nous regarde en retour.
Contrôle de l’esprit par l’IA
Jusqu’à présent, quiconque contemplait une empreinte ocre sur une paroi de grotte, un tableau représentant une pomme ou une photographie d’immeubles bombardés pouvait être certain qu’un être humain avait créé l’image. Ce n’est plus le cas.
Une profusion de textes, d’images, d’audios et de vidéos générés par l’IA et produits à faible coût sur Internet nous entraîne dans une sorte de purgatoire épistémique, soutient Paglen dans son nouveau livre, où nos anciennes ancrages relativement stables dans une réalité partagée se voient remplacés par des bulles individuelles de flux médiatiques socialement régis par des algorithmes.
Plus inquiétant encore, selon Paglen, sont les forces subtiles qui sous-tendent ces algorithmes : ils ne sont pas objectif — aussi prétendent les grandes entreprises technologiques — mais sont guidés par une logique de marchandisation et de surveillance. Chaque instant de nos vies, même les plus privés et les plus intimes, devient une occasion de collecte de données personnelles. Les appareils « intelligents » suivent nos rythmes de sommeil et nos habitudes d’exercice, les applications suivent nos habitudes d’achat en ligne et nos penchants sexuels, et les chatots apprennent ce qui déclenche nos émotions et nos angoisses propres.
Dans un tel environnement numérique médiatisé par des algorithmes, Paglen soutient que les moyens d’exercer des formes subtiles de manipulation psychologique, de persuasion et de conformisme qui relevaient autrefois essentiellement des programmes gouvernementaux bien financés — tels que le fameux MK-Ultra de l’époque de la Guerre froide — sont aujourd’hui pratiquement entre les mains de presque tout le monde; le contrôle mental s’est démocratisé, grâce à l’IA. « Si le paysage médiatique d’après-guerre était caractérisé par le spectacle et que la fin du XXe et le début du XXIe siècle ont été marqués par une ère de surveillance, nous entrons dans une nouvelle phase, » écrit-il dans le livre. « Une phase marquée par l’informatique affective, l’optimisation rendue possible par l’apprentissage automatique, les neurosciences et la psychologie cognitive… »
La « Société de la Psyop », l’appelle-t-il.
Psyops, magie et psychose IA
Paglen est quelque peu spécialiste des psyops : une grande partie de son travail s’est centrée sur la photographie de programmes gouvernementaux secrets visant à fabriquer le délit d’opinion afin de préserver des secrets d’État.
Dans le livre, par exemple, il raconte l’histoire de Richard Doty, ancien agent du renseignement de l’Armée de l’air, qui, alors qu’il était stationné à la base aérienne de Kirtland au Nouveau-Mexique dans les années 1970 et 1980, était responsable d’inventer des informations à propos d’objets volants non identifiés et d’extraterrestres dans l’esprit de journalistes enquêtant et d’autres personnes dont le travail risquait de révéler des secrets militaires.
Le génie de Doty, selon Paglen, résidait dans sa capacité à concrétiser les croyances préexistantes de ses cibles sur les aliens et les OVNIs, plutôt que d’essayer d’y planter des convictions entièrement nouvelles. Un photographe rebelle qui croyait que les lumières qu’il voyait au-dessus de la base de Kirtland appartenaient non à un nouvel avion espion mais à un vaisseau spatial extraterrestre, par exemple, pourrait être facilement manipulé, à l’aide de quelques documents trafiqués, pour devenir convaincu de manière irréversible que ce qu’il voyait n’était pas de ce monde (préservant ainsi le secret du drone espion).
Selon Paglen, les illusionnistes de scène exploitent un principe similaire. En tirant parti du fait que nos systèmes perceptifs ont été entraînés tout au long d’une vie à s’attendre à ce que les objets obéissent aux lois de la physique, les illusionnistes peuvent injecter des leurres subtils qui déjouent nos attentes et nous amènent à croire ce que nous savons intuitivement irréalisable.
Pour quiconque a été attentif au phénomène couramment désigné sous le nom de « psychose IA », tout cela peut sembler familier. Dans les couvertures médiatiques récentes, l’expression informelle « psychose IA » a été utilisée pour décrire des cas où des chatbots renvoient de manière récursive les visions du monde préexistantes des utilisateurs, jusqu’à ce que cette vision du monde — aussi délirante puisse-t-elle paraître au reste d’entre nous — devienne indiscernable de la réalité elle-même. Et c’est exactement l’argument de Paglen : les boutons psychologiques que les psy-opérateurs comme Doty et les illusionnistes savent exploiter sont désormais actionnés au quotidien, à un niveau beaucoup plus personnalisé, par les hordes d’algorithmes qui s’immiscent dans le tissu de nos vies quotidiennes.
Les chatbots IA comme ChatGPT « vous parlent ou créent du texte pour vous d’une manière analogue à celle d’un autre être humain », a confié Paglen à Gizmodo. « Il y a une sorte de magie dans cela ». Il souligne aussi que même les entreprises technologiques qui bâtissent ces outils ne comprennent pas entièrement comment ils arrivent à leurs résultats, ce qui confère encore à l’affaire une aura d’autorité surnaturelle.
Mais il y a une différence essentielle entre les psyops d’antan et ceux d’aujourd’hui. Alors que les psyops traditionnels étaient ostensiblement menés par des humains en quête de quelque intérêt humain, les systèmes d’IA qui remodelent désormais nos perceptions sont guidés par une logique plus obscure encore : l’« engagement ». Les algorithmes qui organisent nos flux sur les réseaux sociaux et déterminent les publicités que nous voyons en ligne sont conçus pour retenir notre attention aussi longtemps que possible. Pour Paglen, cela pointe vers ce qu’il considère comme un profond basculement dans notre relation avec les médias :
« Les images que vous voyez évoluent en réponse à la façon dont vous les regardez », m’a-t-il confié. « Vous les regardez, [elles] vous regardent. »
La vie privée est une résistance
Pour beaucoup, l’IA devient de moins en moins une option. Des entreprises comme Microsoft, Google et Apple intègrent la technologie dans les services et appareils que nous utilisons au quotidien, et il devient de plus en plus rare d’ouvrir les réseaux sociaux sans y trouver une forme de média généré par IA. Tout se passe si vite que ce léger vertige culturel vaut presque comme une réaction naturelle. Une grande partie du contenu que nous voyons en ligne aujourd’hui a été trié et servi par des algorithmes dotés d’une capacité surhumaine à capter et à retenir votre attention. Chaque clic, chaque like et chaque vue affinent un peu plus cette capacité.
Paglen soulève plus de questions que de réponses sur ce que tout cela signifie pour l’avenir de l’humanité — et c’est peut-être là le but même. À l’instar de la pomme de Magritte (ou de son contraire), How to See Like a Machine célèbre la nature ambiguë de la perception humaine — « les dérapages entre représentation et réalité », comme Paglen le formule dans le livre — en la confrontant aux mécanismes industriels et axés sur le profit qui sous-tendent la vision par machine.
Comme le suggère le titre du livre, Paglen avance que pour rester maîtres de notre destin, nous devons tous apprendre comment les algorithmes représentent la réalité. Il affirme aussi que, à l’heure où les entreprises technologiques cherchent à extraire nos données même pendant notre sommeil, nous devons quitter l’idée que la vie privée est quelque chose qui va de soi et, à l’inverse, en faire une pratique délibérée — tout comme vous pourriez faire l’effort de méditer ou d’aller à la salle de sport chaque jour : « il faut créer des inefficacités délibérées et des sphères de vie écartées des prédations du marché et de la politique », écrit-il.
L’alternative est un futur dans lequel presque chaque instant de nos vies serait surveillé par des algorithmes et transformé en une opportunité d’extraction de données : « la sécuritisation et la commercialisation de littéralement tout », m’a confié Paglen. « Votre sommeil, vos trajets en voiture, vos sessions télévisuelles… tout ce que vous pouvez concevoir comme étant transformé en marchandise. Et cela se fait, honnêtement, au détriment même de la vie.
