YouTube pèse lourd. La plateforme compte en effet plus d’un milliard et demi d’utilisateurs actifs et elle est en plus à la tête d’un catalogue de plusieurs centaines de milliers de chaînes thématiques. Le truc, c’est que les débordements sont aussi nombreux.
YouTube a été la cible de vives critiques ces derniers mois. Le service a en effet été accusé tour à tour de favoriser la propagande extrémiste et la diffusion de contenus à tendance complotiste.
Face à la situation, de nombreux annonceurs se sont désengagés de la plateforme et l’entreprise a donc été obligée de modifier son système de monétisation afin de rentrer dans le rang.
YouTube, un service de plus en plus populaire
En parallèle, le géant de la vidéo en ligne a également été obligé de supprimer certains contenus des tendances, notamment après la fusillade du lycée Parkland en Floride, pour éviter leur propagation.
Il semblerait malheureusement que les mesures prises ne suffisent pas.
En explorant les méandres du contenu du service, Motherboard est en effet tombé avec surprise sur plusieurs chaînes néo-nazies, des chaînes relayant notamment le contenu de la division Atomwaffen.
Très présent aux États-Unis, ce groupe extrémiste a été fondé en 2013 en Floride, mais ses membres sont présents à travers tout le territoire américain et il possède ainsi des succursales dans plusieurs états. Particulièrement remonté contre le pouvoir en place, il encourage ses membres à brûler le drapeau américain, à attaquer les minorités et à mener des opérations visant à déstabiliser les administrations.
Atomwaffen a notamment été accusé d’avoir projeté de faire exploser des centrales nucléaires et de mener des opérations portant atteinte aux réseaux de distribution d’eau et d’électricité. Durant ces cinq dernières années, le groupe a également été mêlé à plusieurs meurtres et il se trouve par conséquent dans le collimateur des autorités.
Le groupe est très présent sur les réseaux sociaux et il était notamment à la tête d’une chaîne assez populaire sur YouTube, une chaîne qui a été suspendue le mois dernier suite à plusieurs signalements.
Toutefois, par la suite, le contenu du groupe a été repris par plusieurs autres chaînes et Motherboard a ainsi réussi à trouver plusieurs copies en explorant le catalogue du service. Pire, se faisant, nos confrères ont également découvert de nombreuses autres chaînes extrémistes, des chaînes diffusant des discours extrêmement haineux.
Un système de modération encore imparfait
Ils ont alors eu l’idée de développer un outil afin de surveiller ces contenus. L’idée était en effet d’évaluer l’efficacité des systèmes de modération mis en place sur la plateforme, notamment par rapport aux contenus pro-Daech.
Si l’on en croit cet outil, alors YouTube serait plus prompt à détecter et à supprimer ces contenus et les vidéos néo-nazies auraient ainsi la fâcheuse tendance à passer davantage entre les mailles du filet.
Le plus étrange, c’est que les chaînes pro-Daech utilisent des procédés visant à dissimuler leur contenu, soit en supprimant la piste audio des vidéos, soit en modifiant les fichiers vidéos pour échapper aux algorithmes de détection de la plateforme. Les chaînes néo-nazies se contentent pour leur part de reprendre des vidéos de grosses chaînes, comme celles de la division Atomwaffen, sans leur apporter le moindre changement.
Dans ce contexte, ces séquences et ces chaînes devraient logiquement être plus faciles à détecter. C’est en tout cas ce que pense Motherboard.
Maintenant, il faut tout de même noter que l’algorithme parfait n’existe pas et Susan Wojcicki l’avait rappelé en fin d’année dernière en disant que les outils de détection mis en place sur YouTube évoluent en permanence.