Sarah Katz est une ancienne modératrice de Facebook. Pour ce poste, elle devait vérifier 8000 messages par jour. Avec la pression et le volume de travail, elle est devenue insensible à la violence ainsi qu’à la pornographie juvénile. Cela dit, la modération des contenus est essentielle afin de créer un environnement sain sur le réseau social.
Katz travaillait à Menlo Park, au siège de Facebook en Californie. Les consignes étaient simples : elle devait vérifier les messages postés sur la plateforme. Bien entendu, elle a vu des images qui ne sont pas conformes aux normes communautaires du service. Victime de son succès, Facebook a dû recruter 4 500 modérateurs en 2017.
La firme de Zuckerberg n’hésite pas à investir des millions en vue d’éradiquer les posts montrant de la nudité ou encore des activités sexuelles.
Un métier monotone
Avant d’intégrer l’équipe de modérateurs chez Facebook, Sarah Katz a signé un contrat qui l’engageait à visionner des contenus « hors-normes », voire offensants. L’ambiance au bureau était conviviale et des collations étaient disponibles gratuitement. Toutefois, le flux de messages à vérifier ne cessait d’augmenter et le « laisser-aller » n’est pas toléré.
Avec le temps, Katz est devenue insensible aux contenus immoraux. Les sanctions sont pourtant strictes pour les utilisateurs irrespectueux.
Les comptes de moins de 30 jours sont systématiquement désactivés. Au-delà, les contenus illicites sont simplement supprimés, mais le compte reste actif. Au final, Katz a déclaré que les tâches étaient rébarbatives.
Protéger les utilisateurs de Facebook
Malgré les inconvénients du travail de modérateur, Katz avoue qu’elle se devait de le faire pour protéger les utilisateurs du réseau social. Cette tâche ne pouvait pas être réalisée par une intelligence artificielle. Dans ce sens, Facebook a même déclaré : « Notre équipe mondiale de réviseurs de contenus joue un rôle crucial pour aider à créer un environnement sûr pour la communauté Facebook. »
Katz s’est depuis reconvertie en analyste en cybersécurité pour une start-up en informatique. L’ancienne modératrice a partagé son expérience dans un roman de science-fiction : « Apex Five. » Facebook compte actuellement plus de 2 milliards d’abonnés. Inutile de préciser que les modérateurs ne manquent pas de travail.
Malheureusement, des images, des vidéos ainsi que des posts non conformes arrivent encore à filer entre les mailles des modérateurs humains.