OpenAI affirme avoir utilisé ses propres modèles d’IA pour débusquer ce qui ressemble à une forme d’espionnage d’entreprise. Ils disent les avoir remises au FBI, qui a procédé à une arrestation le 9 octobre.
OpenAI a déclaré à Gizmodo que l’employé travaillait dans le domaine produit chez OpenAI depuis juillet de l’an dernier.
Selon OpenAI, des balayages de sécurité réguliers sont effectués, et lors d’un de ces balayages, dans une salle de conférence le 30 septembre, ses contre-mesures techniques de surveillance ont détecté quelque chose de suspect.
Une déclaration fournie à Gizmodo décrit l’appareil apparent comme un « dispositif d’enregistrement sophistiqué ».
L’appareil lui-même enregistrait l’audio et pouvait être utilisé pour transférer des données, selon OpenAI. L’entreprise affirme que l’appareil utilisait un chiffrement et avait été conçu pour rester furtif.
L’appareil stockait apparemment des données et, selon OpenAI, les enquêteurs de l’entreprise ont été capables d’alimenter des images médico-légales de ce stockage, ainsi que de certains changements de données, dans ses propres modèles d’IA, et que, combiné à l’analyse de ses enquêteurs, ce processus renforcé par l’IA aurait apparemment conduit l’entreprise à un suspect.
Selon OpenAI, il existe des éléments suggérant que ce même employé prévoyait d’installer d’autres dispositifs d’enregistrement.
La protection de la technologie IA contre les acteurs étatiques est considérée comme une priorité élevée. Le secrétaire au Trésor américain, Scott Bessent, a par exemple évoqué l’idée de sanctionner la Chine au motif d’une distillation, une méthode qui permettrait de copier les fonctionnalités des modèles d’IA et qui exige peu de secret, sans parler d’un quelconque espionnage dans un bureau d’OpenAI.
La déclaration d’OpenAI indique que l’entreprise n’a « aucune indication que cet individu ait accédé de manière inappropriée ou exfiltré des poids de modèles, du code source ou des données de clients », et qu’il a été licencié.
Selon OpenAI, le licenciement et l’arrestation du suspect ont eu lieu le 9 octobre, plus d’une semaine après la détection du bug. Entre-temps, selon l’entreprise, l’étendue du travail du suspect et son accès au système ont été progressivement réduits à mesure que l’enquête avançait. Cette réduction aurait culminé par une fermeture totale, au moment où l’équipement de la personne a été saisi et où elle a été mise en congé.
« Nous prenons très au sérieux la protection de notre technologie, de nos données et de nos collaborateurs, et cela constitue une question d’importance nationale. Notre programme de sécurité est conçu pour protéger contre une large gamme d’acteurs malveillants, allant des risques internes aux cybercriminels, en passant par les États-nations, et ce dossier illustre comment l’IA peut aider à répondre à ces menaces de sécurité sophistiquées. »
« L’enquête du FBI est en cours et nous continuerons de soutenir leur travail », indique la déclaration de l’entreprise.
