Alors que les contenus générés par l’IA inondent Internet, il est inévitable qu’une part croissante de ces messages se retrouve dans les boîtes de réception de chacun. Pangram souhaite désormais rendre ces e-mails générés par l’IA plus faciles à repérer.
La plateforme populaire de détection d’IA, connue pour signaler les textes et les images générés par l’IA, a lancé mercredi une nouvelle intégration qui peut analyser les messages entrants sur Gmail et les étiqueter en fonction de la part qui semble avoir été rédigée par l’IA.
Une fois que les utilisateurs connectent leur compte Gmail, Pangram vérifie les nouveaux messages et étiquette par défaut tout e-mail signalé comme « IA » ou « Mixte ». Les utilisateurs peuvent aussi activer des étiquettes pour les e-mails rédigés par des humains.
« Les nouveaux messages sont vérifiés et étiquetés au fur et à mesure de leur arrivée. Mettre l’intégration en pause arrête les nouveaux balayages. Les étiquettes existantes restent dans Gmail », a expliqué la société sur son site Web.
Les utilisateurs peuvent exclure certains expéditeurs de la vérification. Un tableau de bord suit également la manière dont Pangram a étiqueté les e-mails entrants au cours des dernières 24 heures, des sept derniers jours ou des 30 derniers jours.
« J’utilise depuis environ deux mois l’étiqueteur de la boîte de réception Gmail de Pangram. C’est extrêmement utile de pouvoir voir les e-mails envoyés à froid étiquetés comme IA et d’utiliser ces informations pour orienter la façon dont je souhaite interagir », a écrit mercredi Max Spero, co-fondateur et PDG de Pangram, dans un post sur X.
Spero a ajouté qu’il y avait eu aussi une importante discussion en interne sur la vie privée en raison de la nature sensible des données contenus dans les e-mails. L’entreprise a finalement adopté une politique de rétention zéro des données, ce qui signifie qu’elle ne conserve aucune donnée d’e-mail après le traitement et ne les utilise pas pour l’entraînement.
De plus, le site de Pangram indique que son détecteur ne reçoit aucune information sur l’expéditeur ou le destinataire d’un e-mail, ni sur l’objet ou d’autres métadonnées.
Spero a aussi déclaré qu’il était important de donner aux utilisateurs le contrôle sur ce qui se passe après qu’un e-mail est signalé. Sa préférence personnelle actuelle est que l’outil se contente d’étiqueter les e-mails générés par l’IA tout en les laissant dans sa boîte de réception, même s’il a ajouté que cela pourrait changer à l’avenir « si les e-mails IA augmentent ».
En conséquence, les utilisateurs peuvent choisir d’archiver automatiquement les e-mails étiquetés IA ou de les envoyer directement en spam.
Cependant, cela comporte certains risques. Les détecteurs d’IA s’améliorent, mais les faux positifs restent possibles.
Pangram affirme que son détecteur peut identifier un texte généré par l’IA avec une précision de 99,98 %, et une étude indépendante comparant plusieurs outils de détection d’IA a conclu que Pangram était le plus efficace.
Pourtant, Spero a récemment confié à Gizmodo que les outils de détection d’IA devront toujours courir après des modèles d’IA générative de plus en plus performants.
« Je ne pense pas que nous atteindrons jamais une précision à 100 %. » a déclaré Spero. « Tout ce que l’entreprise peut faire, c’est accumuler davantage de certitude en utilisant plus de données. »
