Certains chercheurs en IA ont déclenché des avertissements cette année, affirmant que l’IA pourrait conduire à l’extinction de l’humanité d’ici la prochaine décennie. Désormais, des grandes entreprises du secteur seraient apparemment en train d’élaborer des scénarios pour gérer les retombées d’un incident catastrophique lié à l’IA.
Axios rapporte que de nombreux initiés de l’IA estiment qu’un incident majeur lié à l’IA pourrait survenir dans les six à douze mois à venir. Ils prévoient un événement à grande échelle, tel qu’une cyberattaque pouvant perturber l’accès aux services financiers, à Internet, voire à l’électricité et à l’eau.
Qu’il s’agisse d’une IA qui déraille ou de pirates utilisant la technologie pour mener une attaque, les entreprises à l’origine de la technologie s’attendent à supporter une grande partie de la responsabilité si quelque chose tourne mal, et elles doivent savoir comment elles présenteront les retombées le cas échéant.
Bien que la gestion de crise fasse désormais partie intégrante des pratiques commerciales, Axios rapporte que de nombreux chercheurs en IA de haut niveau et des dirigeants estiment qu’un incident majeur est inévitable.
Cette semaine même, le PDG d’OpenAI, Sam Altman, a déclaré à Politico que « le monde devrait accepter que certaines choses mauvaises se produisent » en échange des avantages de l’IA.
Le rapport survient un peu plus d’une semaine après que le président Donald Trump a accueilli des dirigeants de grandes entreprises technologiques à la Maison-Blanche. Lors de la réunion du 29 septembre, des dirigeants de Google, Meta, Anthropic, OpenAI, xAI et Nvidia ont signé un accord volontaire décrivant certaines normes limitées de sécurité de l’IA. Trump a qualifié ces normes, qui n’ont pas de mécanisme d’exécution légal, de « moralement contraignantes ».
Pendant ce temps, les cadres d’OpenAI et d’Anthropic avaient déjà appelé l’industrie à ralentir le développement de modèles d’IA de plus en plus puissants. Ces appels ont émergé au milieu d’une vague d’avertissements émanant de chercheurs au sein des entreprises d’IA sur les risques d’un développement incontrôlé de l’IA, y compris la possibilité que la technologie puisse un jour conduire à l’extinction de l’humanité.
Axios rapporte également que les dirigeants de l’IA s’attendent à ce que les démocrates exigent des réglementations plus strictes s’ils gagnent en pouvoir à la suite des élections de mi-mandat de cette année, particulièrement après un incident majeur lié à l’IA.
Les préparatifs des entreprises comprendraient des exercices de red-teaming sur les pires scénarios et la formation des membres du Congrès. L’objectif est d’aider à façonner toute législation que les législateurs pourraient poursuivre après une catastrophe majeure.
OpenAI et Anthropic n’ont pas répondu immédiatement à des demandes de commentaires.
Cependant, un porte-parole d’OpenAI a confirmé à Axios que l’entreprise organise des exercices pour se préparer à divers scénarios.
« OpenAI mène des exercices de préparation où des équipes discutent et travaillent sur une gamme de scénarios potentiels », a déclaré le porte-parole. « Ces scénarios ne sont pas considérés comme inévitables, mais visent à nous aider à nous préparer à diverses circonstances. »
