Le groupe ByteDance, propriétaire de TikTok, pourrait écoper d’une amende pouvant atteindre 6% de son chiffre d’affaires mondial s’il refuse une injonction de l’Union européenne visant à corriger les algorithmes dits « en puits sans retour » conçus pour inciter les utilisateurs à regarder des contenus de plus en plus ciblés, rapporté par The Guardian.
Vendredi, la Commission européenne (CE, l’organe exécutif de l’UE) a déclaré que son enquête avait déterminé que l’algorithme de recommandation de TikTok enfreint le Digital Services Act (DSA), qui impose aux grandes entreprises technologiques de prendre des mesures pour protéger les utilisateurs contre certains types de préjudices. Bien qu’il n’y ait pas de contestation sur la légalité du contenu en question, la CE soutient que TikTok n’a pas suffisamment évalué ni atténué les dommages qui résultent de la diffusion continue de ce contenu auprès des utilisateurs, comme l’aggravation des troubles mentaux ou des troubles alimentaires. Pensez à « thinspo » ou « SkinnyTok », ce dernier que TikTok avait interdit l’année dernière.
Les régulateurs ont pointé TikTok du doigt en particulier pour orienter les jeunes et/ou les utilisateurs vulnérables vers des contenus traitant de sujets tels que l’image corporelle et l’isolement. The Guardian a rapporté une enquête récente menée par la Molly Rose Foundation, nommée d’après une adolescente de 14 ans dont le père a affirmé que son suicide en 2017 avait été suscité par Instagram, qui a révélé que près de la moitié des filles et un tiers de tous les adolescents au Royaume-Uni avaient vu, au cours de la semaine écoulée, des contenus sur le suicide, l’automutilation et les troubles alimentaires sur les réseaux sociaux. Un nombre croissant de recherches associe la rumination, c’est-à-dire des boucles de pensée répétitives autour d’expériences et d’émotions négatives, à divers effets psychologiques nocifs sur les réseaux sociaux.
Les recherches ne sont pas encore tranchées. Une étude du Computational Social Science Lab de l’Université de Pennsylvanie, qui cherchait à modéliser l’impact de YouTube sur les utilisateurs et publiée l’année dernière, suggérait que ce sont peut-être les utilisateurs, et non les algorithmes, qui conduisent les effets de « bulle filtrante » (exposition à des chambres d’écho de contenus), et que les rabbit holes n’incitent pas les spectateurs à adopter des opinions politiques plus extrêmes. Cette étude n’a pas cherché à mesurer si des rabbit holes sur d’autres sujets, tels que l’image corporelle, pourraient pousser les utilisateurs vers des perceptions de soi plus extrêmes et négatives.
The Record a noté qu’un examen interne de TikTok, obtenu par Bloomberg l’année dernière, avait révélé que Chase Nasca, un Américain de 16 ans qui s’était donné la mort en 2022 après avoir regardé des flux de vidéos sur la tristesse et l’automutilation, avait été classé dans les 10% des utilisateurs de TikTok d’un groupe témoin qui n’avait pas reçu de mises à jour destinées à prévenir les rabbit holes nuisibles.
La CE a clairement indiqué qu’elle considérait les recommandations en mode rabbit hole comme un moyen pour TikTok d’accroître ses revenus.
« Nous traitons d’un modèle économique », a déclaré un responsable de la CE à des journalistes, selon The Guardian.
« Chaque fois qu’un utilisateur fait défiler ou apprécie une vidéo sur TikTok, l’algorithme sert davantage le même type de contenu, conduisant les utilisateurs dans des rabbit holes dont ils ne peuvent pas sortir facilement », a déclaré Henna Virkkunen, la principale responsable de la politique technologique de la CE, à The Guardian dans un communiqué. « TikTok doit intensifier ses efforts pour protéger le bien-être des utilisateurs, y compris ceux des mineurs. »
« La Commission a formulé une série de déclarations fondamentalement inexactes et déforme l’architecture de notre plateforme et notre engagement envers la sécurité des utilisateurs », a répliqué un représentant de TikTok au journal. « Nous avons un solide bilan de protection de notre communauté tout en donnant aux utilisateurs un contrôle direct et intuitif sur leur expérience de contenu. »
Les conclusions de l’enquête ne surprennent pas, puisqu’elles ne constituent qu’une étape d’un effort plus large des autorités européennes visant TikTok. La CE avait émis des décisions préliminaires selon lesquelles le défilement infini, le mode autoplay, les notifications push et l’algorithme de recommandation personnalisé de TikTok violaient vraisemblablement le DSA dès février 2026. (À l’époque, Reuters notait que TikTok qualifiait les conclusions de « catégoriquement fausses ». )
Vendredi, TikTok s’est joint à Google et à Meta pour déposer des plaintes séparées contre l’État américain de Californie au sujet d’une loi qui interdit aux plateformes de réseaux sociaux d’offrir des « fonctionnalités psychologiquement exploitées » aux utilisateurs de moins de 16 ans.
Cet article contient des discussions sur le suicide. Si vous ou quelqu’un que vous connaissez traversez une crise, veuillez appeler la ligne nationale de prévention du suicide au 1-800-273-8255 ou envoyer un SMS à Crisis Text Line au 741-741.
