Le générateur de deepfakes sexuels non consensuels associée à Elon Musk, Grok, se retrouve à nouveau au cœur de litiges juridiques.
Selon une plainte déposée en début de semaine, Grok, le chatbot développé par xAI et propriété de Musk, aurait été entraîné sur du matériel d’abus sexuel d’enfants (CSAM). Le robot conversationnel a suscité une vive polémique ces derniers mois après que Musk a lui-même mis en avant la capacité de Grok à « nudifier » des photos sur son compte X, provoquant une embellie pour certains détraqués en ligne où des millions de deepfakes sexuels créés sans consentement et distribués sur le fil d’X ont inondé les réseaux. Une grande partie des victimes de cette nudification était constituée d’enfants.
De nombreuses enquêtes gouvernementales, des poursuites individuelles et au moins trois actions collectives se sont rapidement succédé. Musk a dû restreindre l’accès à cette fonctionnalité, autrement dit la placer derrière un paywall et en tirer encore davantage de revenus, mais la fonction dite « mode épicé » demeure disponible, bien que plus limitée. Le recul juridique a pris une tournure inhabituelle lorsque xAI a lui-même poursuivi deux de ses propres utilisateurs qui avaient exploité l’outil pour créer du CSAM. Dans cette plainte, l’entreprise affirme aussi avoir contribué à l’arrestation d’au moins 244 personnes qui ont créé ou diffusé du CSAM via Grok.
Toutes les actions en justice dirigées contre Grok jusqu’à présent ont visé à tenir xAI pour responsable de l’absence de dispositifs de sécurité que ses concurrents ont déjà adoptés. Cette nouvelle plainte est la première à accuser l’entreprise d’avoir entraîné ses modèles sur le CSAM qu’elle produit elle-même.
Dans la dernière action collective proposée, la plaignante, qui n’utilise que le nom de Jane Doe, est une victime précédente de pédopornographie suivie par le Programme de notification d’exploitation des enfants du FBI. Elle affirme que du CSAM représentant son enfance a été utilisé pour entraîner Grok, ce qui aurait entraîné la création d’encore plus de CSAM la représentant, ainsi que d’autres victimes, cette fois généré par l’IA.
« xAI doit être tenu responsable d’avoir sciemment entraîné ses modèles sur des images des abus horribles qu’elle a subis, et sur les images d’abus de chaque autre survivant dans cette catégorie », a déclaré Sarah London, avocate de la plaignante et associée au cabinet Girard Sharp, dans un communiqué de presse.
La plainte soutient que xAI a délibérément conçu Grok pour répondre aux demandes des utilisateurs afin de générer du contenu sexuel dans le but « d’attirer davantage d’utilisateurs à la fois de X et de Grok ». Selon la politique de xAI, tout ce qui est publié publiquement sur X et toute production générée par Grok est considéré comme un contenu éligible à l’entraînement, affirme la plainte, ce qui signifiait que chaque morceau de CSAM publié par Grok était automatiquement réintroduit dans le chatbot pour l’améliorer.
« Par conséquent, tant que Grok conserve la capacité de générer ce type de contenu, le préjudice ne peut pas être considéré comme résolu juste parce que certaines images ont été retirées ou que le contenu n’est plus publié publiquement », indique la plainte. « Si ce matériel entre dans l’entraînement, son influence aura probablement une persistance et contribuera à de futures sorties abusives, aggravant le traumatisme des survivants qui peuvent voir leur abus ou leur ressemblance reproduits, transformés et redistribués à grande échelle, les privant à nouveau de contrôle sur les images liées à leur exploitation. »
À travers cette poursuite, la plaignante demande au tribunal d’accorder des dommages et intérêts aux victimes comme elle dont les photos auraient été utilisées pour générer du CSAM, et elle sollicite la destruction de tout le CSAM généré par Grok, pas seulement les éléments accessibles publiquement mais aussi tout ce qui pourrait être utilisé pour entraîner ses modèles.
« Posséder du CSAM est un crime, produire du CSAM est un crime, et distribuer du CSAM est un crime. xAI a commis les trois », a déclaré un autre avocat de la plaignante, Margaret E. Mabie du cabinet Marsh Law Firm, dans le communiqué. « Il n’existe pas d’exception d’intelligence artificielle aux lois fédérales protégeant les enfants et xAI doit assumer les conséquences de ses actions imprudentes. »
