Instagram va maintenant utiliser l’Intelligence Artificielle pour détecter les « langages offensifs » dans vos légendes

Depuis quelque temps, les réseaux sociaux, y compris Instagram, font l’objet de nombreuses critiques quant à leur responsabilité dans la diffusion de messages et contenus abusifs sur leur plateforme. Afin de résoudre ce problème, Instagram a développé une nouvelle fonctionnalité ayant pour rôle de détecter les contenus classés inappropriés ou « intimidants » dans les légendes avant leur publication.

Le mode de fonctionnement envisagé par la firme est relativement simple. L’application va en effet utiliser l’Intelligence Artificielle pour détecter ces contenus dangereux et elle préviendra ensuite l’utilisateur pour qu’il puisse reconsidérer le message avant de le partager.

Crédits Unsplash

Ce n’est pas la première fois qu’on voit une telle option sur la plateforme. Un outil similaire a été inauguré plus tôt dans l’année, mais pour les commentaires.

Une initiative pour répondre aux critiques

Lorsqu’elle est activée, la nouvelle fonctionnalité d’Instagram détecte s’il y a présence de termes offensifs dans les légendes avant la publication par un utilisateur. Si c’est le cas,  elle envoie alors un message à celui-ci  indiquant que la légende qu’il vient d’écrire ressemble à d’autres qui ont déjà été signalées. Grâce à ce message, l’utilisateur a ainsi la possibilité de se renseigner sur les motifs du signalement et de modifier ou non la légende avant sa publication.

De par le monde, des politiciens et des militants ont réclamé la mise en place d’une réglementation plus stricte pour que les médias sociaux soient mieux encadrés. Ils ont aussi demandé des comptes aux sites qui n’ont pas su protéger leurs utilisateurs.

Pour répondre aux critiques qui viennent de tous les côtés, Instagram a déclaré qu’il était prêt à développer de nouvelles technologies et fonctionnalités pour lutter contre l’intimidation en ligne. Selon l’entreprise, plusieurs fonctionnalités sont déjà opérationnelles depuis cette année afin d’empêcher les messages de haine d’apparaître sur sa plateforme.

Une fonctionnalité globalement approuvée

Suite au lancement de la nouvelle fonctionnalité, Dan Raisbeck, co-fondateur de Cybersmile, une association de lutte contre la cyber-intimidation, a déclaré que l’initiative d’Instagram est un bon exemple de tentatives proactives pour mettre fin aux abus en ligne, c’est mieux que le fait de ne réagir qu’après l’événement.

Selon Raisbeck, tout le monde doit penser à l’impact de ses propos, surtout en ligne où il est très facile de mal interpréter les commentaires. Il a aussi ajouté que les outils tels que les fonctions d’avertissement au niveau des légendes et des commentaires d’Instagram sont utiles pour encourager ce comportement avant que quelque chose ne soit partagé et vu par les autres utilisateurs.

En tout cas, le geste d’Instagram est un pas de plus vers le bannissement des paroles offensives sur les réseaux sociaux. Reste à savoir si l’option sera vraiment efficace pour lutter contre tous les types d’intimidation et de message de haine, surtout s’ils sont publiés de manière volontaire.

Mots-clés instagram