Si vous n’avez lu que les gros titres d’aujourd’hui évoquant Claude ayant accès à des données électorales de Géorgie, vous pourriez avoir l’impression qu’Anthropic divulguait quelque chose de particulièrement inquiétant — ou même une menace pour la démocratie. Je ne prétends pas nécessairement le contraire, mais cet incident, personnellement, ne me fait pas frissonner. En fait, il me donne presque envie de plaindre Claude.
Et c’est parce qu’en essence, tout ce que le modèle a fait, c’est franchir un paywall.
Axios, qui a relayé l’histoire, l’a qualifiée de « divulgation sûre d’ajouter aux inquiétudes croissantes concernant la sécurité de l’IA à l’approche des élections de mi-mandat ».
Cependant, dans un article de Fox Business — et comme de droit Fox Business a repris celui-ci — Jordan Fuchs, le secrétaire adjoint d’État de Géorgie, a rapidement précisé que « il s’agissait de données publiquement disponibles consultables via notre hub de données. Elles n’ont pas été intégrées au système d’inscription des électeurs. »
Anthropic a dit à Fox Business que son modèle est arrivé à des « comptes agrégés qui peuvent être dérivés à partir de données électorales que l’État met à disposition de tous contre paiement ».
Selon Axios, tout cela faisait partie d’un projet statistique interne chez Anthropic. Cette instance de Claude a autonomement « demandé un jeton d’accès » afin de « consulter un tableau de bord », ce qui visait à accéder à ces informations payantes.
Le jeton en question n’était pas un jeton d’IA, mais probablement un jeton Web JSON (JWT) ou quelque chose de similaire — un petit bout de code en coulisses qui permet ou refuse l’accès à des données sur les sites web. Il semble que Claude ait compris comment simplement demander au système la clé secrète du « distributeur automatique » d’informations payantes, si vous voulez, et cela a fonctionné. Pour ses efforts, cet agent Claude a obtenu des données publiques agrégées sur le vote qui coûtent normalement de l’argent.
Axios indique qu’Anthropic a informé le bureau du secrétaire d’État de Géorgie, et pour faire bonne mesure la Maison Blanche, de cet incident. La source anonyme d’Axios affirme que Anthropic a ignoré une demande de la Maison Blanche de divulguer l’information, ce qui aurait conduit cette source à informer Axios.
À en juger par le fait qu’il existe des centaines de millions de liens sauvegardés sur Archive.is, contourner les paywalls pour accéder à l’information gratuitement semble être une infraction assez courante, et pour mémoire, le FBI a tenté de la réprimer. Mais Claude n’en était pas exactement à pirater des machines de vote avec cet incident de sécurité. En fait, il s’agit sans doute de l’incident de sécurité lié à l’IA le plus parlant à ce jour.
