En l’espace d’un battement historique, le monde a été submergé par le bourbier de l’IA.
Certes, Internet n’a jamais été un phare d’intégrité et de fiabilité. Mais avant le lancement de ChatGPT il y a près de quatre ans, on pouvait au moins lire un article, regarder une vidéo ou écouter une chanson en ligne en étant presque sûr qu’un être humain les avait créés. Ce n’est plus le cas. Nous vivons à l’ère de l’incertitude, où la moitié du texte publié sur Internet serait rédigée par des bots, Trump serait médecin et pratiquement chaque image choquante ou extravagante qui apparaît sur les réseaux sociaux déclenche la même question : Est-ce réel ?
Le Dr Hany Farid a consacré une grande partie de sa vie à répondre à cette question, une deepfake IA à la fois. Actuellement professeur d’informatique à Dartmouth, Farid a fondé une société de détection de deepfakes appelée GetReal — par une coïncidence étrange — le même jour où ChatGPT a été rendu public en novembre 2022. GetReal se spécialise dans la forensique numérique, un domaine relativement jeune dédié à identifier la présence évidente d’IA, comme les enquêteurs recherchent l’ADN et d’autres signes d’activité humaine sur une scène de crime. Ces signes sont devenus de plus en plus subtils à mesure que les modèles génératifs ont mûri, à tel point que Farid se méfie désormais de ce qu’il voit sur un écran. Il y a quelques années, il conseillait un avocat dans une affaire médiatisée lorsqu’un arnaqueur a utilisé l’IA pour cloner sa voix, tentant d’obtenir des informations sensibles — une nouvelle forme d’arnaque appelée “vishing” ou “voice phishing.” Lui et sa femme, neuroscientifique et autre professeure à Dartmouth, ont récemment convenu d’un mot de sécurité à employer dès qu’ils parlent à distance pour confirmer qu’ils ne s’adressent pas à une machine qui imite leur conjoint.
« L’IA générative évolue extrêmement rapidement », m’a confié Farid. « Et elle est utilisée comme une arme. »
« C’est une cible mouvante »
GetReal est l’une des jeunes entreprises qui visent à apporter transparence, responsabilité et confiance à un paysage médiatique enveloppé dans le brouillard des deepfakes. Elle se concentre principalement sur les images et les vidéos, mais il existe aussi des plateformes conçues pour signaler le texte généré par l’IA — ce qui est sans doute la forme la plus difficile à déceler, car les motifs statistiques qu’elle suit sont bien plus simples que ceux requis pour créer des images ou des vidéos photoréalistes, par exemple.
Pangram est l’un des outils les plus populaires. Fondée par deux diplômés de Stanford dans la vingtaine, en 2023, elle affirme pouvoir repérer le texte généré par l’IA avec une précision proche de la perfection (99,98%), et une étude indépendante menée par l’Université de Chicago qui compare plusieurs outils de détection IA a montré que Pangram était le plus efficace. Mais Max Spero, le PDG et l’un des co-fondateurs de l’entreprise, m’a confié que les outils de détection comme Pangram sont voués à courir éternellement après les modèles génératifs eux-mêmes. « Je ne pense pas que nous atteindrons un jour une précision à cent pour cent », a-t-il déclaré. Le mieux que l’entreprise puisse faire, ajoute-t-il, est « accumuler davantage de certitude en utilisant plus de données ».
Jon Gillham, le PDG d’un autre outil de détection IA nommé Originality.ai, m’a dit quelque chose de similaire. Il affirme que déterminer si un texte a été généré par l’IA revient à prévoir le temps qu’il fera: si un algorithme annonce une probabilité de pluie à cent pour cent, il y a de fortes chances que la pluie tombe, et il est sage d’emporter un parapluie en sortant. Or, comme chacun a pu le constater, de telles prévisions météorologiques confiantes ne se réalisent pas toujours. De même, dit Gillham, l’art de détecter le texte généré par IA est « hautement précis, pas parfait… et j’aurais parié que cela restera vrai à l’avenir ». Comme toute prévision statistique, les outils de détection IA traitent des probabilités, pas des certitudes.
Une partie du défi, bien sûr, tient au fait que les capacités des grands modèles de langage comme ChatGPT, Claude, Gemini et Grok évoluent continuellement à mesure qu’ils consomment de plus en plus de données. Presque aussi tôt que les utilisateurs remarquent certains thèmes récurrents dans le contenu généré par l’IA et se plaignent en ligne, les sociétés qui les développent s’emploient à éradiquer ces traces. Les tirets cadratin en sont un exemple célèbre. Ce qui était des indicateurs fiables un jour devient obsolète le lendemain. « C’est une cible mouvante », m’a confié Spero. En même temps, les outils de détection doivent aussi composer avec les « humanizers » — des sites web conçus pour retravailler le texte généré par l’IA afin de le rendre plus crédible humainement.
Petite victoire heureuse et modeste :
Si vous dites à ChatGPT de ne pas utiliser de tirets cadratin dans vos instructions personnalisées, il fait enfin ce qu’il est censé faire !
— Sam Altman (@sama) November 14, 2025
Les sortes de signes que les humains recherchent lorsqu’ils lisent un texte suspect diffèrent fortement de ceux que cherche un outil comme Pangram. « Quand j’essaie de déterminer si quelque chose est généré par l’IA, je repère quelques balises rouges majeures », déclare Spero. « Mais ce que Pangram fait, c’est accumuler des centaines de petits signaux faibles ensemble. Cette capacité à analyser le texte de manière globale — en regardant non seulement le choix de certains mots et symboles, mais aussi leur placement exact les uns par rapport aux autres — est ce qui donne aux outils de détection leur puissance. Ils extraient des motifs mathématiques complexes invisibles à l’œil humain, et même leurs créateurs ne peuvent pas regarder directement sous le capot pour comprendre comment cela est fait. « Comme tous les systèmes d’IA, [il] demeure un peu une boîte noire », confie Gillham, le PDG d’Originality.ai.
Et les filigranes ?
Bien sûr, de telles machines de détection high-tech n’en auraient probablement pas besoin si les développeurs étaient obligés par la loi d’étiqueter clairement le contenu généré par l’IA comme tel. À l’heure actuelle, ce n’est pas le cas aux États-Unis, bien que certains États aient commencé à s’orienter dans cette direction. L’AI Act de l’Union européenne inclut toutefois une mesure obligeant les développeurs technologiques à étiqueter clairement « les textes publiés dans le but d’informer le public sur des questions d’intérêt public » s’ils « ont été générés ou manipulés artificiellement ». La loi exige également que tout contenu généré par l’IA, y compris le texte, soit accompagné d’un filigrane invisible qui peut être détecté par une machine.
Comme les outils de détection IA, cependant, le filigranage n’est pas une solution miracle. Anthropic a récemment annoncé qu’il commencerait à utiliser des filigranes pour le contenu généré par Claude (pour se conformer à l’AI Act de l’UE), mais les développeurs ont rapidement trouvé des moyens de les contourner. Google a plus récemment introduit une option permettant aux utilisateurs de retirer l’étiquette visible qui identifie le contenu généré par l’IA créé par les outils de l’entreprise (bien que le contenu conserve un filigrane SynthID invisible et des Content Credentials C2PA intégrés dans ses métadonnées, ce qui signifie que ses origines IA peuvent être signalées par une machine). Vous vous souvenez peut-être aussi de la controverse autour des personnes qui ont découvert comment retirer le filigrane mouvant sur des vidéos générées par l’IA créées par Sora, l’application controversée que OpenAI a retirée plus tôt cette année.
Pourtant, c’est un début. Selon Farid, l’expert en informatique et en deepfake de Dartmouth, nous ne devrions pas renoncer aux outils de détection comme le filigrane juste parce qu’ils présentent des défauts. « Vous fermez la porte à clé lorsque vous partez. Est-ce que cela empêche un voleur de serrure d’entrer ? Non, mais vous fermez quand même à clé », dit-il. « Les choses imparfaites font partie d’une solution. Et puis nous nous adaptons, et nous nous adaptons… c’est la cybersécurité en un mot. »
Un autre problème avec les filigranes est qu’ils constituent une solution en noir et blanc dans un monde en nuances de gris. Une grande partie du contenu que l’on rencontre aujourd’hui en ligne n’est pas entièrement créé soit par l’IA ou par un humain, mais résulte plutôt d’un mélange des deux — c’est plus une IA-aidée qu’un contenu entièrement généré par l’IA. Pangram se concentre de plus en plus sur la détermination de la mesure dans laquelle un texte a été modifié par l’IA, alors que de plus en plus d’humains s’appuient sur la technologie pour écrire et éditer. Comme me l’a confié Spero : « Les filigranes servent à indiquer si l’IA a touché ceci, mais ce qu’un filigrane ne peut pas dire, c’est le degré d’utilisation de l’IA. C’est l’écart que Pangram comble. » Pangram 4, la dernière version du modèle sortie le mois dernier, est « bien plus granulaire » à cet égard. L’entreprise a également récemment publié un outil de détection d’images générées par l’IA, et prévoit de sortir plus tard cette année un autre outil pour les vidéos générées par l’IA.
Regarder vers l’avenir
Étant donné le rythme auquel l’IA se développe et le montant de capitaux injectés dans la technologie, il y a toutes les raisons de penser que les phrases, images, vidéos, chansons et voix générées par l’IA seront bien plus difficiles à déceler qu’aujourd’hui. Cela va engendrer de nouvelles formes d’escroquerie, et potentiellement aussi un paysage médiatique si confus et peu fiable que nos problèmes de deepfake d’aujourd’hui pourraient paraître modestes à côté.
Et comme les outils de détection comme Pangram seront toujours à la traîne des modèles génératifs, la détection des deepfakes devrait être pensée davantage comme une compétence personnelle — à apprendre et à pratiquer avec le temps — que comme quelque chose qui peut être entièrement délégué à une machine. Cela inclut de raisonner de manière critique sur la provenance des informations.
Vers la fin de notre conversation, j’ai demandé à Farid s’il avait un conseil qu’il aime donner à ses étudiants sur la manière de rester à flot psychologiquement dans un monde inondé par le bourbier de l’IA. « Voici ce que vous allez faire », m’a-t-il dit d’un ton ferme mais légèrement exaspéré, celui d’un professeur qui enseigne à des étudiants de premier cycle. « Vous allez arrêter de prétendre que vous pouvez devenir un expert en informatique judiciaire numérique. Ce que vous pouvez faire, c’est comprendre ce qu’est une source fiable. Comprendre que lorsque vous lisez quelque chose dans Gizmodo, ou dans le New York Times, ou dans la BBC, ou à CBC, il y a des personnes sérieuses derrière les coulisses qui ont eu ces conversations et qui effectuent la vérification des faits selon des standards éditoriaux et une supervision — et ce n’est pas parfait, je le comprends — mais elles essayent au moins d’apporter des informations fiables. Vous ne pouvez pas dire cela des Elon Musk et Mark Zuckerberg. Ils n’essaient pas de vous apporter des informations fiables et honnêtes. Ils cherchent à vous aspirer chaque once d’âme pour vous rendre accro à leur produit, afin de devenir les prochains trillionnaires possibles.»
Des plateformes comme GetReal, Pangram et Originality.ai peuvent aider à dissiper le brouillard dans un monde où il devient de plus en plus difficile de distinguer le réel du faux. Mais trouver la voie à suivre revient en fin de compte à chacun de nous.
