Faire passer le travail de ChatGPT pour le vôtre va devenir plus ardu — du moins si vous résidez dans l’Union européenne. Lundi, OpenAI a annoncé qu’il commencerait à insérer un filigrane invisible, imperceptible à l’œil nu mais détectable par machine, dans toutes les productions textuelles générées par ses modèles d’IA, y compris ChatGPT et son agent de codage Codex.
Ce filigrane poussera OpenAI à se conformer au Règlement sur l’IA de l’UE, qui exige qu’un texte produit par un modèle porte un identifiant lisible par machine signalant que le contenu est généré par l’IA. Selon l’entreprise, le filigrane sera une fonctionnalité à activer au départ, et les utilisateurs du monde entier pourront activer cette option dès aujourd’hui. Dans les semaines à venir, le filigrane sera ajouté aux « sorties textuelles éligibles de ChatGPT et de Codex dans l’Union européenne », ce qui ne sera pas optionnel — il apparaîtra automatiquement, sans bouton de désactivation.
Alors, qui sera capable de voir le filigrane ? Selon OpenAI, les chercheurs et les organisations spécialisées auront accès à un détecteur capable de repérer l’indicateur invisible. OpenAI a choisi de ne pas rendre l’outil d’identification public lors du lancement en raison du risque de faux positifs. À la place, il a été déclaré que l’accès serait accordé « au cas par cas » afin de soutenir l’évaluation.
OpenAI n’est pas la première entreprise à adopter la filigrane. Anthropic avait lancé en août dernier un marqueur lisible par machine similaire (ce qui a conduit les gens à chercher immédiatement des moyens de contourner et d’effacer l’indicateur IA de leurs textes). Et Google DeepMind a intégré un filigrane dans ses productions depuis quelques années. (Étrangement, Google est revenu en arrière sur ce point, annonçant en août que les utilisateurs pourraient retirer les filigranes des images, vidéos et chansons dans les pays où ce n’est pas obligatoire).
Fait notable : les filigranes des autres entreprises s’appliquent (ou s’appliquaient) aux utilisateurs des États‑Unis. Celui d’OpenAI, lui, n’en bénéficie pas, malgré les inquiétudes croissantes dans le pays face à la prolifération de contenus générés par l’IA. Un sondage récent du Rainey Center a montré que près de huit personnes sur dix soutiennent l’exigence de filigrane IA, comprenant 82 % des démocrates et 75 % des républicains.
Mais le soutien public ne détermine pas la politique, et les États‑Unis restent en retard sur le plan réglementaire fédéral relative à l’IA. Sans obligation pour les entreprises d’IA de pointe d’inclure un filigrane qui aide les utilisateurs et les plateformes à identifier rapidement le contenu généré par l’IA, il n’y a pas vraiment de motivation pour OpenAI à se conformer de manière proactive à une loi qui n’existe pas encore. Il s’avère que les réglementations fonctionnent si on les fait adopter et les applique.
