Le PDG d’OpenAI, Sam Altman, vient d’admettre que l’introduction en bourse tant attendue de l’entreprise, potentiellement historique, ne se produira pas cette année. Plutôt que d’évoquer des difficultés financières supposées, Altman attribue ce décalage à des inquiétudes liées à la sécurité de l’IA.
« Je pense en réalité que, compte tenu de tout ce qui se passe autour de la sécurité, ce serait en ce moment une décision mal avisée de se lancer en bourse, et nous ne ressentons pas la moindre pression à ce sujet », a déclaré Altman dans une interview accordée à Fortune et publiée ce week-end.
OpenAI avait déposé une demande d’introduction en bourse de manière confidentielle au début de l’été, peu après que son concurrent Anthropic les ait devancés. Bien que la société n’ait jamais communiqué de calendrier officiel pour une entrée sur le marché, les médias avaient, pendant des mois, évoqué une IPO cette année, malgré des désaccords présumés entre les dirigeants sur la préparation financière de l’entreprise à une introduction en bourse.
Mais désormais, Altman affirme qu’il ne faut pas espérer une entrée sur le marché avant au moins l’année prochaine. C’est parce qu’il reste « beaucoup de choses à faire » du côté de la sécurité et de l’alignement des systèmes d’IA, a-t-il dit, et il préfère s’occuper de tout cela en tant qu’entreprise privée.
Le développement de l’intelligence artificielle a longtemps été source de controverse, mais au cours de l’année écoulée, les principales sociétés du secteur ont été soumis à un examen public croissant concernant la sécurité de leurs modèles, notamment avec l’introduction récente de modèles que les géants de l’IA jugent eux-mêmes potentiellement dangereux sur le plan de la sécurité informatique. Ces craintes ont débuté avec le modèle Mythos d’Anthropic en mars, puis ont atteint leur paroxysme en juillet lorsque des agents d’OpenAI sont devenus hors de contrôle et ont piraté Hugging Face.
La suite a été une série d’appels lancés à l’échelle de l’industrie, adressés au grand public et aux autorités de régulation, afin d’accorder une réelle importance à cette progression rapide et de se préoccuper des événements potentiellement catastrophiques une fois que les modèles atteindront l’AGI, un stade hypothétique et contesté où ils surpasseraient l’homme dans toutes les tâches. La demande de l’industrie est pour le moins ironique, sachant que ce sont les entreprises elles-mêmes qui développent ces modèles et mènent les avancées, et que les dirigeants se montrent plus que disposés à soutenir les efforts de l’administration Trump en faveur de moindres contraintes réglementaires au niveau mondial. Par ailleurs, certains cadres d’OpenAI soutiennent que le prochain modèle de l’entreprise aurait atteint des capacités équivalentes à l’AGI.
« Nous devons être capables de prendre des décisions qui ne sont pas manifestement dans l’intérêt de notre activité et de nos actionnaires, afin d’assumer la responsabilité de remplir notre mission et ce que cela va exiger », a déclaré Altman à Fortune. « Je pense que les gens devraient être heureux que nous soyons capables et disposés à ne pas simplement courir tête baissée. »
Une partie de cela impliquera de faire des pauses plus fréquentes lors du développement de nouveaux modèles afin de privilégier l’amélioration de la sécurité et de l’alignement, a affirmé le chef d’OpenAI, faisant écho au sentiment exprimé par Dario Amodei, PDG d’Anthropic, qui appelle à ralentir le rythme du développement à la frontière de l’IA.
Dans un essai publié samedi, Amodei a suggéré que l’industrie « ralentisse le rythme auquel nous améliorons les capacités des modèles d’IA », afin que « la prévention des risques ait le temps de suivre ». Dans une démonstration d’unité très rare, à la fois le PDG d’OpenAI Sam Altman et le PDG de SpaceX, Elon Musk, se sont rendus sur X pour exprimer leur accord avec le concurrent Amodei.
Il est également important de noter que cet effort commun de sensibilisation, flirtant avec le doomisme, survient alors que l’industrie de l’IA affronte une importante crise d’image autogénérée. Le grand public est devenu nettement plus opposé à l’IA au cours des derniers mois et les critiques accusent les développeurs d’IA de privilégier le profit au détriment des individus et de mettre la société en danger, citant l’impact négatif anticipé de la technologie sur tout, du marché du travail à l’environnement.
« Si vous vous dites : “Oh, OpenAI ne va pas faire de pause parce qu’ils craignent que cela leur coûte de l’argent”, vous nous comprenez très profondément mal », a affirmé Altman dans l’interview.
Mais ces craintes ne sont pas totalement dénuées de fondement. Moins d’un an auparavant, OpenAI s’est retrouvé pris dans de sérieux soucis après que son modèle GPT-4o, soutenu par des partisans, ait été lié à plusieurs épisodes graves et mortels chez des utilisateurs fréquents. Un rapport du New York Times publié fin de l’année dernière suggérait que la direction était au courant du problème avec GPT-4o, mais avait finalement décidé de lancer le modèle tout de même. Un autre rapport, publié par The New Yorker plus tôt dans l’année, présentait Altman comme peu fiable, affirmant que le PDG avait menti au conseil d’administration d’OpenAI au sujet des essais de sécurité de GPT-4, le modèle qui précède GPT-4o.
