L’internet, comme vous l’avez sans doute remarqué, est en effervescence ces derniers jours à cause des craintes d’une apocalypse déclenchée par l’IA. Pour certains — notamment Donald Trump —, tout cela relève d’un doomérisme excessif. Mais pour beaucoup d’autres, c’est un bilan nécessaire qui intervient tardivement, face à une industrie et une technologie qui ont été autorisées à partir dans tous les sens.
Parmi ce dernier groupe, les débats tournent autour de la mise en place potentielle de nouveaux cadres juridiques pour contenir le développement de l’IA avant que le secteur n’atteigne une forme complète de « auto-amélioration récursive », où les modèles d’IA affinent leurs performances de manière exponentielle sans nécessité d’un humain dans la boucle. Parallèlement, certains mettent aussi en garde contre une capture réglementaire menée par une poignée — dite « de pointe » — de développeurs d’IA: en clair, un nouveau régime techno-oligarchique où les entreprises, et non les régulateurs fédéraux, décideraient de l’avenir de leur industrie, et par extension, de celui de toute l’humanité.
Mais pour Lina Khan, ancienne présidente et commissaire de la FTC, toute cette brouille sur une nouvelle réglementation passe à côté d’un point crucial : pourquoi déployer des efforts pour créer quelque chose de totalement nouveau si une solution existante peut très bien suffire ? « Les autorités chargées de l’application de la loi disposent déjà du pouvoir de poursuivre les entreprises et leurs PDG pour la création et la mise sur le marché de produits dangereux, non vérifiés ou défectueux, » a écrit Khan dans un post sur X dimanche. « Nous ne devrions pas laisser les discussions sur de nouveaux cadres juridiques nous détourner du fait qu’il n’existe aucune exemption pour l’IA dans les lois déjà en vigueur… »
Khan était connue pour adopter une posture ferme envers la Silicon Valley pendant son passage à la FTC, débuté à la mi‑2021. En septembre de l’année passée, par exemple, l’agence a lancé une enquête sur sept entreprises technologiques, dont Meta et xAI, visant à comprendre leur protocole de tests de sécurité pour ce que l’on appelle des « compagnons IA », ainsi que les impacts potentiellement négatifs de ces outils sur les utilisateurs mineurs. La FTC sous sa direction a également coopéré avec le ministère de la Justice pour enquêter sur Amazon, Apple, Google et Meta pour des violations des lois antitrust américaines.
Dans son post sur X du dimanche, Khan a pointé du doigt le fait que les lois existantes interdisant les « méthodes déloyales de concurrence » pourraient être invoquées pour sanctionner les développeurs d’IA qui « poursuivent des comportements dangereux, conscients que cela pourrait pousser les concurrents à faire de même ». Elle n’a pas explicitly mentionné le piratage de Hugging Face ni l’un des autres incidents d’IA hors de contrôle récents, mais elle pensait probablement aux capacités avancées de cybersécurité qui ont rendu possible ce type de comportement « mal aligné » dès l’origine.
Elle a cité le verdict d’une décision emblématique de la Cour suprême, FTC c. R. F. Keppel & Bro., Inc., qui interdit explicitement une « concurrence qui impose à ses concurrentes le fardeau de la perte d’activité, à moins qu’elles ne descendent à une pratique à laquelle elles sont moralement contraintes d’adhérer, même si elle n’est pas criminelle ». Ce verdict remonte à 1934 et annonçait la dynamique de la « course vers le bas » qui est devenue un point focal des débats actuels sur la sécurité de l’IA et sa régulation.
Un autre ancien commissaire de la FTC, Álvaro Bedoya, a aussi déclaré dans un post sur X dimanche que toute tentative des dirigeants d’entreprises d’IA de contourner les lois antitrust en vigueur « devrait être accueillie avec un scepticisme profond à la lumière de l’économie du secteur et de la menace qu’ils subissent face à des modèles ouverts ». Il a en outre semblé mettre en doute les affirmations des sociétés selon lesquelles la technologie qu’elles développent pourrait anéantir toute l’humanité, la décrivant comme un « épouvantail hyperbolique… utilisé pour justifier ce qui semble être un appel à la création d’un cartel d’entreprises d’IA milliardaires. »
