Le nouvel outil de détection d’IA de Meta ne fonctionne pas entièrement comme annoncé, selon un nouveau rapport.
Meta a dévoilé plus tôt cette semaine son premier modèle de génération d’images, Muse Image. Dans le cadre de ce lancement, le géant de la tech a également annoncé que toutes les images générées par le modèle seraient pourvues d’un système de filigrane invisible appelé Content Seal. Ce signal resterait intact même lorsque l’image générée par l’IA serait recadrée, compressée, redimensionnée ou capturée par capture d’écran par les utilisateurs, selon l’entreprise. Pour aider à repérer le signal Content Seal, Meta a aussi annoncé qu’elle prévisualisait un outil de détection par IA pour vérifier si une image a été générée par Muse Image.
Mais, dans un rapport publié vendredi, des journalistes de Reuters ont constaté que l’outil de détection par IA ne parvenait pas à identifier plus de la moitié des images qu’il avait générées une fois qu’elles avaient été recadrées. Au premier essai, Reuters a constaté que l’outil identifiait correctement les 40 images générées par Muse Image comme étant générées par l’IA, mais lorsque ces images ont été recadrées à la moitié ou à un tiers de leur taille d’origine, l’outil n’a réussi à les identifier comme générées par l’IA que dans 55 % des cas.
À mesure que les outils d’IA générative deviennent meilleurs pour produire des deepfakes d’un réalisme troublant, la détection devient un problème plus délicat à résoudre. Selon la société de cybersécurité DeepStrike, le volume de deepfakes générés par l’IA en ligne a connu une croissance annuelle d’environ 900 % entre 2023 et 2025. Mais les capacités de détection n’ont pas progressé aussi rapidement que cette flambée de popularité. Les outils de détection d’IA commerciaux, eux-mêmes pilotés par l’IA, souffrent encore d’erreurs, tandis que la capacité du grand public à repérer un contenu généré par l’IA n’est guère meilleure qu’un tirage au sort, selon des études antérieures.
Bien que ce ne soit pas un succès immédiat éclatant, c’est l’écart que Meta cherche à combler avec le nouveau Content Seal et son outil de détection.
Muse Image et ses produits associés avaient vocation à constituer une avancée majeure pour Meta, qui a sans doute été à la traîne par rapport à ses concurrentes dans le domaine de l’IA. L’année dernière, le PDG de Meta, Mark Zuckerberg, a estimé qu’il n’y avait pas de meilleur moment que le présent pour tenter de rattraper son retard et a annoncé une importante réorientation de l’IA. Le plan de rattrapage prévoyait d’engager des investissements de plusieurs milliards de dollars dans la recherche et le développement et de séduire les meilleurs talents des rivaux dans toute l’industrie, tout cela dans la quête de créer de meilleurs produits d’IA et l’ambitieux objectif de mettre au point une artificial superintelligence.
Quelques milliards supplémentaires dédiés à l’IA et quelques restructurations de plus plus tard, Meta a dévoilé au mois d’avril le premier grand fruit de ce travail avec Muse Spark, un modèle propriétaire qu’elle a déclaré vouloir rendre open source à l’avenir et qui a été accueilli de manière mitigée. Un autre jalon majeur a été le dévoilement de Muse Image cette semaine.
Mais le lancement du générateur d’images et des outils qui l’accompagnent a été entaché de controverses, et pas seulement à cause du rapport de Reuters. Des utilisateurs d’Instagram ont été alarmés en apprenant que le modèle d’IA pouvait utiliser des photos de n’importe quel profil public sans demander explicitement le consentement du propriétaire du profil en question. Cette fonctionnalité a depuis été retirée.
L’entreprise vise désormais son prochain grand lancement d’IA générative : un générateur vidéo nommé Muse Video. Espérons que la société parvienne à combler les lacunes des outils de détection et à répondre de manière adéquate aux préoccupations liées à la vie privée des utilisateurs avant la sortie de ce modèle.
