Facebook et ses algorithmes auraient la cote chez les pédophiles

Facebook est à l’heure actuelle le réseau social le plus populaire au monde. Il attire en effet des centaines de millions d’internautes chaque semaine et il est plus populaire que tous ses concurrents. Il semblerait cependant que la plateforme soit aussi très appréciée des pédophiles. C’est en tout cas ce que révèle l’enquête de fond menée par deux médias suédois.

SvD et Aftonbladet ont effectivement joint leurs efforts afin de mener une enquête portant sur la célèbre plateforme sociale, et plus précisément sur les dérives de ses utilisateurs.

Facebook Pédopornographie

Facebook serait aussi très apprécié des pédophiles.

La police suédoise mène depuis plusieurs années une lutte acharnée contre les réseaux pédophiles. Elle publie fréquemment des rapports d’activité et le dernier en date a fait beaucoup de bruit dans le pays.

La Suède lutte depuis longtemps contre les réseaux pédophiles

Il révélait en effet que 15 000 habitants du pays avaient été pris en train de télécharger des photos et des vidéos impliquant des agressions sexuelles sur personnes mineures en s’appuyant sur des sites et des plateformes ouvertes.

Pire, d’après le document, ces plateformes ne seraient pas toutes issues du darknet et certaines seraient ainsi extrêmement accessibles, même pour les internautes les moins chevronnés.

Intrigués par la teneur de ce rapport, nos confrères ont donc eu envie d’approfondir le sujet et ils ont alors entrepris de fouiner sur Facebook pour déterminer si de tels contenus existaient sur la plateforme.

Après avoir lancé plusieurs recherches, ils ont découvert plusieurs groupes aux noms très ambigus. Ces derniers sous-entendaient effectivement qu’ils avaient été créés pour apporter du soutien aux victimes d’abus, mais les journalistes ont très vite réalisé que ce n’était pas tout à fait le cas.

En réalité, en lisant les messages publiés dans certains de ces groupes, ils ont remarqué que certains membres avaient pris l’habitude de partager des photos d’enfant. En apparence anodines, ces dernières s’accompagnaient souvent de commentaires déplacés et même dans certains cas de liens pointant vers des forums plus secrets.

Certaines photos allaient plus loin. Une d’entre elles, notamment, mettait en scène un enfant en train d’être violé par un adulte.

L’image était publique et elle se trouvait en accès libre. Pire, elle totalisait plusieurs likes et des commentaires de plusieurs hommes, dont un qui trouvait la scène magnifique. Dans un autre groupe, les journalistes sont même tombés sur un homme proposant des photos… de son propre enfant.

Ils ont immédiatement porté l’affaire à la connaissance de la police.

Facebook est victime de ses algorithmes

Les autorités ont immédiatement contacté Facebook et la photo incriminée a été supprimée le lendemain même. De même pour toutes les autres images du groupe, à l’exception de celles présentant des adultes.

Nos confrères n’en sont pas restés là cependant. Ils ont effectivement créé dans la foulée un autre profil, cette fois pour tester la pertinence des algorithmes de la plateforme. Dans les centres d’intérêt de ce faux profil, ils ont inscrit plusieurs éléments, dont « enfant » et « pornographie infantile ».

Les algorithmes de Facebook ont fait le reste. Très vite, ce faux profil a reçu d’innombrables invitations envoyées par des groupes à caractère pédophile.

Afin d’en savoir plus, ils ont contacté Dhiraj Murthy, un professeur travaillant pour l’Université du Texas à Austin. Pourquoi lui ? Tout simplement parce qu’il étudie depuis plusieurs années les algorithmes sociaux. Après un bref échange, le chercheur a confié aux journalistes que les résultats de cette expérience n’avaient rien d’étonnant.

Les algorithmes ont effectivement une valeur neutre. Ils sont tout à fait incapables de faire la distinction entre le bien et le mal, le légal ou l’illégal. Leur seul objectif est de permettre aux internautes de trouver le contenu le plus pertinent possible en fonction de son activité. En l’état actuel des choses, ils ne peuvent donc pas juger les recherches.

Mark Zuckerberg lui-même semble avoir conscience du problème. Il a effectivement annoncé la semaine dernière que ses équipes étaient en train de travailler sur une intelligence artificielle capable d’analyser les contenus partagés sur la plateforme et de déterminer leur degré de moralité.

Pour l’heure, cette IA est loin d’être finalisée, mais elle pourrait à terme permettre à Facebook d’éviter ces dérives. Des dérives qui ne touchent d’ailleurs pas uniquement à la pédopornographie. La plateforme compte en effet de nombreux groupes spécialisés dans le revenge porn.

Mots-clés facebook