IGTV aurait recommandé des vidéos d’enfants exploités et de pénis mutilés

IGTV se trouve dans une situation pour le moins embarrassante. Selon Business Insider, la plateforme aurait en effet proposé par le biais de ses recommandations des vidéos d’enfants exploités et d’organes génitaux mutilés. Ambiance.

Encore peu connu des profanes, IGTV est en réalité un tout nouveau service de télévision lancé par Instagram un peu plus tôt dans l’année.

Facepalm

Totalement autonome, la plateforme est accessible par le biais d’une application mobile proposée à la fois sur iOS et Android.

IGTV a un problème de recommandations

Assez différente d’Instagram, IGTV offre un accès à un catalogue composé de plusieurs dizaines de vidéos longues réalisées par les utilisateurs, des vidéos dont la durée peut atteindre dans certains cas les 60 minutes.

Comme beaucoup d’autres plateformes du même genre, IGTV intègre un module de recommandations et le service est donc capable de faire remonter des vidéos populaires ou pertinentes aux utilisateurs.

Business Insider a eu l’occasion de s’intéresser de près à ce module et nos confrères ont alors réalisé que les algorithmes du service avaient la fâcheuse tendance à faire remonter des contenus dérangeants, perturbants et même potentiellement illégaux.

Parmi ces contenus se trouvait notamment une vidéo mettant en scène l’agression sexuelle de plusieurs jeunes filles. Une autre vidéo montrait pour sa part un pénis mutilé.

Des contenus dérangeants et malsains

Business Insider a immédiatement signalé ces contenus aux modérateurs de la plateforme et ils ont été supprimés… cinq jours plus tard. De son côté, Instagram a tenu à présenter ses excuses aux utilisateurs confrontés à ces vidéos tout en rappelant que l’entreprise s’est donné pour objectif de faire de la plateforme un espace à la fois plus sûr et plus sécurisé.

En soi, ces débordements n’ont rien de surprenant. Il est extrêmement difficile de contrôler les contenus partagés par les utilisateurs, et encore plus lorsque ce sont des vidéos. Facebook lui-même est souvent confronté à ce genre de débordement et Mark Zuckerberg lui-même a reconnu l’ampleur du problème lors de plusieurs allocutions.

Ici, cependant, la problématique est un peu différente dans le sens où IGTV a littéralement fait remonter ces contenus dans ses recommandations, exposant de ce fait ses utilisateurs à la violence de ces vidéos.

Ce n’est cependant pas le pire. Durant ces trois semaines de test, BI s’est appuyé sur plusieurs comptes et l’un d’entre eux était un compte fictif créé pour les besoins de l’opération, un compte ne présentant aucune activité et dont l’âge était volontairement défini sur treize ans.

IGTV a fait remonter sur ce compte une vidéo montrant une fillette âgée de onze ou douze ans se trouvant dans sa salle de bain, une fillette commençant à se dévêtir devant la caméra.

L’UGC*, véritable boîte de Pandore 2.0

Business Insider a bien entendu tenté d’en savoir plus sur le fonctionnement des algorithmes utilisés par la plateforme, mais IGTV a refusé de répondre aux questions de nos confrères.

De leur côté, ces derniers ont transmis les vidéos à la Société nationale pour la prévention de la cruauté envers les enfants. L’association les a signalées à la police après les avoir attentivement examinées.

Comme évoqué plus haut, les vidéos incriminées ont été supprimées de la plateforme cinq jours après avoir été reportées par nos confrères… et après que Business Insider ait directement contacté le service presse d’IGTV pour attirer son attention sur l’affaire.

En revanche, et comme le précise l’article, la vidéo montrant le pénis mutilé a été rapidement supprimée par les modérateurs. Toutefois, le compte qui l’a partagé n’a pas été fermé.

*UGC : User Generated Content, ou contenu généré par les utilisateurs.

Mots-clés igtvinstagram