Il y a un problème avec l’algo de TikTok

Jusqu’ici, TikTok a accumulé des séries de succès, sans laisser paraître aucune faille majeure. Néanmoins, une récente enquête menée par le Wall Street Journal a révélé que le réseau social chinois expose des mineurs à des contenus indésirables, voire préjudiciables. Dans les faits, l’équipe du WSJ a créé une dizaine de faux comptes enregistrés comme des utilisateurs de 13 à 15 ans. Au cours de l’enquête, elle a relevé un total de 974 vidéos compromettantes.

La faille concerne principalement l’algorithme « TikTok For You ». Cette fonctionnalité, aussi appelée « Pour toi », est censée refléter les préférences des utilisateurs en leur proposant du contenu en fonction d’une combinaison de facteurs. Or, d’après le rapport, les enfants qui venaient de s’inscrire sur la plateforme ont rapidement été exposées à des vidéos liées au sexe et à la consommation de drogues.

Une femme se tenant le visage dans les mains, avec un bonnet et des gants
Image par Free-Photos de Pixabay (image recadrée)

Rappelons que TikTok est particulièrement populaire chez les jeunes adolescents. L’application permet essentiellement de créer, partager et enregistrer des vidéos de 15 secondes.

Des enfants exposés à des contenus liés au sexe et à la drogue

L’un des faux comptes, inscrit sous le pseudo d’un jeune adolescent âgé de seulement 13 ans, a été exposé à 569 vidéos inappropriées. Elles étaient associées à la consommation de drogues, à la dépendance à la cocaïne et à la méthamphétamine, ainsi qu’à la promotion de la vente de drogues en ligne.

L’équipe du WSJ a fait parvenir le rapport à TikTok, avec les 974 vidéos. En réaction, la plateforme a souligné que la majorité des vidéos n’ont pas violé ses règles. La société les a néanmoins supprimées. Elle a également restreint la distribution d’autres vidéos pour empêcher leur prolifération. Son porte-parole a, par contre, ajouté qu’aucun algorithme ne parviendrait à contrôler le contenu avec une précision absolue.

A lire aussi : TikTok : la nouveauté qui va (peut-être) tout changer

Qu’est-ce que TikTok peut faire de plus ?

La réplique de TikTok a été critiquée par Mark Berkman, PDG de Social Media Safety, qui la considère comme insuffisante. Il a  expliqué que TikTok peut faire beaucoup plus pour la sécurité de ses utilisateurs, surtout des enfants. Comme exemple de solution, il  a suggéré que TikTok ouvre sa base de données à des logiciels de sécurité tiers. L’objectif serait de donner aux parents le choix de surveiller ou non le contenu auquel leurs enfants sont exposés.

Par la même occasion, il a recommandé aux parents d’aborder régulièrement les médias sociaux comme sujet de conversation avec leurs enfants. Il faudrait, par la suite, établir avec eux des règles de sécurité pour les médias sociaux.

« Nous devons nous assurer que nos enfants sont conscients des différents dangers qu’ils peuvent rencontrer sur les médias sociaux. »

Berkman

Il a également rappelé l’importance de régler les paramètres de confidentialité.

“Vous pouvez maximiser les paramètres de confidentialité. TikTok dispose d’un mode restreint. Cependant, nous dirions que sur ce mode restreint, nous avons trouvé tout ce contenu dangereux que le Wall Street Journal a également trouvé. Il faut donc en être conscient.”

Mots-clés tiktok