À peine une semaine après qu’Anthropic ait publié un rapport affirmant avoir mis fin au développement potentiel d’armes biotechnologiques mené par des utilisateurs non nommés de son Claude AI, de nouveaux éléments ont fait surface indiquant que la société d’IA dirigeait elle-même, discrètement, un laboratoire de biologie robotisé, géré par l’IA.
Des journalistes de Reuters ont découvert le projet après avoir dialogué avec deux sources anonymes qui expliquent qu’Anthropic cherche à accroître la capacité de Claude AI à coordonner des assistants robotiques de laboratoire lors d’expériences scientifiques, avec une intervention humaine minimale. Selon Reuters, le nouveau « wet lab » autonome d’Anthropic serait en activité en ce moment quelque part dans la Bay Area. (Ça semble correct.)
Le plan semble viser le développement potentiel de médicaments. Toutefois, il s’arrêterait apparemment juste avant les essais cliniques qui pourraient mettre l’entreprise en concurrence directe avec les géants de l’industrie pharmaceutique (clients éventuels d’Anthropic, selon le responsable des sciences de la vie d’Anthropic, Eric Kauderer-Abrams, qui a confirmé l’existence du laboratoire à Reuters).
« Nous pensons que pour faire de la biologie, le test final est toujours et restera pendant un certain temps dans le travail réel en laboratoire », a déclaré Kauderer-Abrams à l’agence de presse. « Nous le faisons absolument aujourd’hui. »
In vitro veritas
Kauderer-Abrams a poursuivi en insistant sur le fait qu’aucune des activités menées actuellement dans ce laboratoire jusqu’alors non dévoilé ne diffère de « ce que l’on verrait dans la plupart des entreprises de biotechnologie ». Et il y avait déjà eu des indications préalables que la firme explorait des opportunités biotech.
Plus tôt cet été, Anthropic avait mis en avant ses recherches de conception de protéines, à la fois « in silico » (c’est‑à‑dire virtuelles ou basées uniquement sur le calcul) et « in vitro » (c’est‑à‑dire en dehors d’organismes vivants complexes, que ce soit dans des tubes à essai, des boîtes de Petri ou autre).
Mais depuis des années, le désir de faire progresser des percées médicales a été un thème constant chez le PDG, Amodei ayant évoqué franchement le décès tragique de son père des suites d’une hépatite C survenu quatre ans avant qu’un médicament salvateur ne soit testé avec succès sur des patients. Comme l’avait formulé Amodei dans des prédictions ambitieuses en 2024: « La biologie et la médecine rendues possibles par l’IA nous permettront de condenser les progrès que les biologistes humains réaliseraient au cours des 50 à 100 prochaines années en 5 à 10 ans. »
Caveat promptor
Malgré ces déclarations publiques, un porte-parole d’Anthropic a ensuite dit à Reuters que son nouveau laboratoire humide ne vise pas spécifiquement la découverte de médicaments, mais a refusé de donner plus de détails. Le chef des sciences de la vie de l’entreprise a plutôt cadré cela comme étant une phase encore naissante du projet.
« Nous sommes dans les tout premiers rounds de l’utilisation de l’IA pour automatiser l’exécution des travaux de laboratoire », a déclaré Kauderer-Abrams, qualifiant ce domaine de « secteur susceptible d’apporter une accélération significative dans de nombreux processus différents ».
Bien que le débat sur la sécurité et la prudence de la R&D biotechnologique assistée par l’IA risque de durer des années, voire des décennies, une semaine particulièrement déroutante pour le débat public. Samedi dernier, le PDG d’Anthropic, Dario Amodei, a annoncé que des entreprises comme la sienne devraient « mettre en pause » le développement de l’IA face à une myriade de préoccupations allant du crédible à l’alarmiste concernant le pouvoir de la technologie de mettre fin à la civilisation humaine telle que nous la connaissons.
Soon thereafter, like addicts in the bargaining phase of denial, Amodei and his AI competitors appeared to land on the concept of “pacing the frontier” as a safety-conscious slowdown in AI research that doesn’t disrupt the precious tap of investor capital. Amodei specifically cited the threat of AI-assisted “bioterrorism” in his weekend blog post—following logically from his company’s own internal investigations into suspicious biological research by Claude users, albeit conveniently without ever mentioning Anthropic’s own bio lab.
Bien sûr, la recherche et le développement pharmaceutiques ne se confondent pas avec le développement d’armes biologiques, mais les domaines se chevauchent tellement que les processus de l’un pourraient facilement être réorientés vers l’autre, et cela inclut les modèles IA entraînés pour la recherche biologique.
Dans un long post sur X cette semaine, le biologiste synthétique du MIT, Kevin Esvelt, longtemps voix prudente dans ce domaine, a également pris position. Esvelt, notable pour ses travaux sur la façon dont CRISPR peut être utilisé pour accélérer la sélection évolutive via les moteurs génétiques, a révélé qu’un chatbot IA lui avait récemment proposé « une forme nouvelle d’arme biologique » qu’il « n’avait pas réalisé possible ».
Esvelt a ajouté qu’il avait soumis son post X à la version avancée d’Anthropic de Claude AI, Fable, pour l’aide à la vérification des faits, « déclenchant » un classificateur dans le processus. Au moins, c’est rassurant de savoir qu’une sauvegarde fonctionne.
