La société japonaise d’optique Nikon a indiqué qu’elle réexaminait avec soin les informations fournies par Ning Xu, ingénieur opticien à l’Université nationale de Singapour, après que des commentateurs l’aient accusé d’avoir utilisé l’intelligence artificielle dans son entrée gagnante au 16e concours Small World in Motion.
Small World in Motion se présente comme une célébration de la beauté de la microscopie optique. Selon Nature, la soumission vidéo de Xu montrait le mouvement des cils dans des échantillons de tissu pulmonaire prélevés sur un enfant souffrant d’une maladie chronique appelée dyskinésie ciliaire primaire. On pouvait lire sous les cils des structures rouges, bleues et violettes qui n’étaient pas identifiables.
Nikon Instruments, la division de Nikon qui parraine le concours, a annoncé la victoire de Xu à la mi-septembre et l’a repartagée sur LinkedIn la semaine dernière. Cette publication a rapidement suscité une avalanche de critiques de la part d’utilisateurs qui ont souligné des discordances significatives. Par exemple, le chercheur Edward Phelps, spécialiste en ingénierie biomédicale à l’Université de Floride à Gainesville, a posté sur LinkedIn: « Les structures violettes ressemblent à des mitochondries, mais une telle structure sous-épithéliale composée de mitochondries extracellulaires de la même taille que les noyaux cellulaires n’existe pas en biologie. » Phelps a ajouté que les nodules bleus ressemblaient à des noyaux mais ne se comportaient pas comme des noyaux, et qu’il n’avait aucune idée de ce que représentent les éléments montrés en rouge.
Un autre utilisateur de LinkedIn, Ian Donovan, doctorant au UT Southwestern Medical Center, a signalé que la vidéo portait un filigrane SynthID, selon CNN. Ces filigranes ont été initiés par le laboratoire de recherche DeepMind de Google et ont ensuite été adoptés par un grand nombre d’entreprises spécialisées dans l’IA. La plupart des détecteurs d’IA qui tentent d’identifier l’IA par d’autres moyens obtiennent des résultats peu fiables, et sans SynthID ou un équivalent, il peut être difficile, voire impossible, de déterminer avec certitude l’origine d’une image.
Le cinquième gagnant, Patrick Hickey, a déclaré à la BBC que les microscopistes n’obtiennent pas souvent l’occasion de mettre en valeur leur travail, qui possède souvent des qualités « très abstraites et artistiques ».
Un ensemble largement cité de directives scientifiques autorise les images d’échantillons colorés ou colorisés, tant que les modifications soient divulguées et décrites. Ce document remonte à 2010, avant l’avènement de l’IA générative qui a commencé à fabriquer des pixels de manière trompeuse.
« Il existe un ensemble de règles dans le concours, et l’une d’elles était clairement qu’il était interdit d’utiliser une IA générative pour produire des éléments, et l’autre était évidemment que l’image doit être observée au microscope », a ajouté Hickey.
Dans des mises à jour publiées sur LinkedIn ce week-end, Nikon a indiqué que Xu coopérait.
« Xu coopère avec respect et a fourni une documentation technique détaillée décrivant l’équipement de microscopie, les méthodes d’imagerie et les techniques de traitement utilisées pour créer la vidéo source », a écrit Nikon. Le groupe avait auparavant mis à jour un billet de blog sur l’entrée gagnante afin de préciser que « Une méthode de réseau neuronal non supervisée a ensuite été utilisée dans le cadre du flux de post-traitement et de visualisation afin de distinguer et de visualiser des caractéristiques dans les données en niveaux de gris, créant une vidéo plus vive et plus engageante d’un point de vue visuel. »
Xu a évoqué ces éléments dans d’autres publications LinkedIn, selon Nature, et a précisé que son équipe avait utilisé le post-traitement sur les structures situées sous les cils « sans faire d’affirmations anatomiques sur ce que représentent ces éléments rendus ». Xu a aussi affirmé que la vidéo originale des cils et de leur mouvement est réelle, et que l’IA n’a été utilisée que sur les « données en niveaux de gris reconstruites pour distinguer et colorer des structures présentant une morphologie similaire ».
À vendredi soir, le porte-parole des organisateurs du concours n’avait pas de mise à jour à communiquer à Gizmodo.
La biologiste du développement Melanie White, de l’Université du Queensland à Brisbane, a confié à Nature que les images scientifiques constituent des données et que les chercheurs « doivent pouvoir avoir confiance dans le fait que ce que nous voyons est fondé sur les mesures sous-jacentes ». L’ancien juge de Small World in Motion, Andrew Moore, a déclaré au Telegraph que l’entrée de Xu lui évoquait « de vieilles photographies restaurées à l’aide de l’IA ».
« La photo haute résolution, colorisée, peut être belle, mais si c’était votre grand-mère qui se retrouvait avec un visage remplacé par une autre image, ce serait déstabilisant », a affirmé Moore au journal.
