Tinder a trouvé une idée pour réduire le nombre de messages de haine

Tinder, comme toutes les plateformes sociales, n’a rien d’un endroit tranquille et apaisant. Les frictions sont nombreuses, de même pour les insultes et les messages haineux. Ce qui est bien entendu un problème pour une application axée sur la rencontre – et donc sur le rapprochement.

Face à la situation, l’éditeur de la solution semble avoir trouvé une solution, une solution tenant en seulement trois lettres : AYS.

Crédits unsplash

Inutile de vous amuser à changer leur ordre, ces trois lettres n’ont aucun sens et il s’agit tout simplement d’un acronyme pour “Are You Sure ?”, le nom complet de la nouvelle fonction imaginée par Tinder.

“Are You Sure ?”, l’arme anti-haine de Tinder

Une fonction qui porte finalement bien son nom puisqu’elle consiste à responsabiliser l’utilisateur en lui demander s’il est réellement sûr de vouloir tenir des propos offensants, vulgaires ou tout simplement méchants à l’égard de ses semblables.

Comme souvent maintenant, cette fonction repose sur une intelligence artificielle entraînée pour repérer tous les contenus textuels offensants.

Chaque message envoyé sera donc automatiquement traité par cette IA. Lorsqu’elle détectera des éléments de langage offensant, elle déclenchera automatiquement une alerte et un message s’affichera alors sur le smartphone du contrevenant pour lui demander s’il est réellement sûr de vouloir envoyer ce message. Il aura alors le choix entre le modifier ou confirmer son envoi.

10 % de discours haineux en moins

D’après les premiers tests menés par Tinder, les résultats semblent être en demie teinte. L’entreprise a effectivement fait savoir que AYS avait permet de réduire les messages offensants de l’ordre de 10 %. Rien de fou, donc, mais il y a tout de même un détail intéressant. Une source a en effet indiqué que les messages offensants étaient aussi signalés par l’IA. Ce qui pourrait potentiellement conduire à des mesures de suspension.

Tinder n’a cependant fait aucune annonce allant dans ce sens, pas plus que Match Group, son propriétaire.

Il est en tout cas positif de voir Tinder prendre ce problème à bras le corps. La haine en ligne est un véritable problème, et encore plus lorsqu’elle touche aux sentiments et à l’intimité. Trop de gens pensent en effet que la toile et les plateformes sociales sont une zone de non droit où ils peuvent tout se permettre. Ce qui est bien entendu loin d’être le cas. Chacun reste en effet responsable de ses propos devant la loi, et même lorsque les propos en question prennent la forme de quelques mots tapés au clavier.

Mots-clés tinder