Sur TikTok (ailleurs qu’en Chine), les contenus liés aux désordres alimentaires et au suicide sont davantage proposés aux personnes les plus vulnérables
L’application chinoise de défilement ininterrompu de vidéos ultracourtes TikTok, reposant sur des algorithmes de recommandations opaques, fait l’objet de critiques de plus en plus intenses de la part des pays occidentaux (voir La rem n°63, p.70). Alors que TikTok compte plus d’un milliard d’utilisateurs dans le monde, dont plus de 22 millions en France, une étude menée à l’échelle internationale par Qustodio (une application de contrôle parental) et publiée en 2022 révèle que les mineurs de 4 à 18 ans passeraient, en moyenne, une heure et quarante-sept minutes par jour sur le réseau social chinois. La nature addictive du réseau social semble tellement néfaste que l’usage de la version réservée à la Chine, nommée Douyin, est limité pour les moins de 14 ans à quarante minutes par jour et impraticable de 22 heures à 6 heures du matin. Alors que des pays, comme les États-Unis, le Canada et certains pays européens, interdisent l’application sur les appareils des fonctionnaires, des voix se sont élevées pour, selon le Sénat, dénoncer le réseau social comme « un instrument potentiel de désinformation ou de manipulation au profit de régimes non démocratiques » et affirmer « que son utilisation n’est pas sûre au regard de la nécessaire protection des données ». La commission d’enquête nommée par le Sénat, dont le rapport a été rendu public le 4 juillet 2023, visait à enquêter sur ces affirmations et à formuler des recommandations.
Selon la commission d’enquête, les liens avec la Chine peuvent être établis de manière évidente, même si les représentants du réseau social le nient toujours formellement. L’analyse du montage fiscal de ByteDance, immatriculée aux îles Caïmans, ne laisse aucun doute sur la mainmise du gouvernement de Pékin. En France, TikTok n’a pas souhaité rendre public le nom de sa présidente, remplacée à la suite de la commission d’enquête sénatoriale. De nombreuses fuites de données révélées par la presse internationale ont clairement montré « des faits d’espionnage et de géolocalisation à distance de journalistes enquêtant sur TikTok, des transferts de données d’utilisateurs de TikTok vers la Chine et vers des ingénieurs basés en Chine, des mesures avérées de censure et de désinformation au bénéfice de la Chine, de ses priorités géopolitiques et des intérêts du Parti communiste chinois ». Pourtant, les représentants de l’application sociale réagissent invariablement de la même façon : d’abord en niant les faits, puis en les minimisant et, enfin, en promettant des solutions qui n’arrivent jamais.
Il est également avéré que l’application procède, selon la commission d’enquête, à « une large collecte de données dont l’utilisation demeure opaque », et dont la circulation est largement mondialisée entre des serveurs installés notamment aux États-Unis, en Malaisie, à Singapour, et en Chine. Cette collecte concerne non seulement les données techniques des utilisateurs mais également, et surtout, « les données via le profilage algorithmique, lui-même issu de l’interaction permanente et très rapide de l’utilisateur avec le fil « Pour Toi » ».
Le Center for Countering Digital Hate, organisation américaine non gouvernementale, spécialiste de la haine et de la désinformation en ligne, a livré en 2022 les résultats de son enquête, après avoir créé plusieurs profils, dont les utilisateurs étaient censés avoir 13 ans, en faisant varier leurs marques d’intérêt aux contenus liés à l’image de soi et aux enjeux de santé mentale. Il en ressort qu’« au bout de 2,6 minutes en moyenne, TikTok recommandait à ces comptes [ceux ayant manifesté un intérêt pour les contenus liés à l’image de soi et aux enjeux de santé mentale] des vidéos sur le suicide. Au bout de 8 minutes, l’application proposait des contenus sur les troubles alimentaires (eating disorders). Enfin, toutes les 39 secondes, des recommandations de vidéos sur l’estime de soi et la santé mentale apparaissaient. Par rapport à des utilisateurs standards, les profils se voyaient proposer douze fois plus de vidéos liées aux suicides. Cette étude semble ainsi bien établir le fait que les personnes vulnérables se voient proposer davantage de contenus dangereux ».
De plus, l’application lance des challenges qui, s’ils étaient consacrés à la danse au départ, portent dorénavant sur des pratiques dangereuses comme les « Momo Challenges », qui poussent les enfants à des actions violentes, les « Labello Challenges », qui incitent à la scarification, ou encore les « Blackout Challenges », qui consistent à retenir sa respiration jusqu’à l’évanouissement, ou encore le défi de la cicatrice, amenant à se pincer très fort la joue pour laisser une trace – un challenge populaire en France en 2023, qui compte des centaines de milliers de vues. En Italie, en janvier 2021, une fillette de 10 ans est morte asphyxiée en participant à un Blackout Challenge, ce qui a fait vivement réagir l’autorité italienne pour la protection des données personnelles, sans que rien ne soit fait pour autant du côté de TikTok.
S’il subsistait encore un doute sur la mauvaise influence de cette application sur les plus jeunes, le rapport de la commission d’enquête du Sénat a le mérite de totalement le dissiper. TikTok est addictif et dangereux by design (par conception) et la Chine, qui édulcore, régule et limite une version pour sa propre jeunesse, le sait pertinemment.
Commission d’enquête sur l’utilisation du réseau social TikTok, son exploitation des données, sa stratégie d’influence, rapport du Sénat, président Mickaël Vallet, rapporteur Claude Malhuret, 4 juillet 2023.
