MAJ : Google nous a fait parvenir le communiqué suivant ““Nous ne pouvons pas commenter un litige en cours. Nous avons recours à une combinaison de revue humaine et de technologies pour supprimer les contenus qui enfreignent notre règlement de la communauté YouTube, et nous nous engageons à soutenir les personnes qui accomplissent ce travail vital et nécessaire. Nous choisissons avec précaution les entreprises avec lesquelles nous collaborons, et travaillons avec eux sur des ressources complètes pour nous assurer du bien-être et de la santé mentale des modérateurs, notamment en limitant le temps passé chaque jour à réviser le contenu. “
Avec la pandémie de coronavirus, de nombreuses entreprises technologiques, notamment Facebook, YouTube et Twitter, ont dû fermer leurs bureaux et compter sur des technologies d’intelligence artificielle pour poursuivre la modération de contenus. À noter que ces entreprises ont auparavant déclaré compter à la fois sur l’intelligence artificielle et le contrôle humain pour identifier et supprimer les contenus à caractère violent et inapproprié.
Cependant, comme nous le rapporte The Verge, la pandémie de coronavirus a démontré que confier les rênes de la modération de contenus n’est pas une si bonne idée que ça. Du moins, le Financial Times a déclaré qu’environ 11 millions de vidéos ont été supprimées de YouTube entre avril et juin, soit le double environ du nombre habituel, que 320.000 de ces retraits ont suscité des contestations et qu’au final, la moitié de ces vidéos ont été rétablies.
Mais si la pandémie a permis de prouver la nécessité d’avoir des humains dans la modération de contenus, deux procès intentés par des modérateurs ont mis en lumière les conséquences tragiques que le visionnage quotidien de vidéos violentes peut avoir sur la santé mentale des modérateurs.
Facebook a dû payer 52 millions de dollars à ses modérateurs américains
Selon James Vincent, de The Verge, un grand nombre de modérateurs sur Facebook et sur YouTube souffrent de troubles de stress post-traumatique. L’un d’entre eux, Peter (nom fictif) a confié avoir perdu des cheveux, pris du poids, être plus irritable et sujet à des palpitations lorsqu’il passe devant son lieu de travail depuis qu’il a commencé à modérer des vidéos extrémistes.
Facebook a d’ailleurs fait l’objet d’une poursuite judiciaire dans laquelle des modérateurs américains affirmaient avoir développé une dépression et des symptômes de trouble de stress post-traumatique. Des entrepreneurs avaient également soutenu l’action en justice et le géant des médias sociaux a fini par reconnaître les méfaits de la modération des contenus extrémistes si bien qu’il a accepté de verser la somme de 52 millions de dollars aux modérateurs américains.
YouTube suivra-t-il les pas de Facebook ?
Justement, YouTube est en passe de vivre le même problème que Facebook puisqu’une ancienne modératrice de contenus l’a poursuivi pour les mêmes raisons. Selon la plainte, elle a développé ce syndrome de stress post-traumatique en traitant entre autres des vidéos de décapitations et d’abus d’enfants.
La plainte atteste qu’ « elle a du mal à dormir et quand elle dort, elle fait des cauchemars horribles. Elle reste souvent éveillée la nuit en essayant de s’endormir en rejouant des vidéos qu’elle a vues dans son esprit (…) Elle a également du mal à être avec des enfants et a maintenant peur d’avoir des enfants». À noter que la plainte a été déposée le lundi 21 septembre 2020 devant une cour de justice californienne et que la plaignante est représentée par le même cabinet d’avocats qui a gagné le procès contre Facebook.
La question qui se pose maintenant est de savoir si YouTube acceptera aussi de payer.