Il y a maintenant une IA capable de lutter contre les Dick Pics

L’IA est absolument partout. Elle anime nos smartphones, elle conduit nos voitures, elle pilote nos ampoules connectées et elle peut même dans certains cas nous aider à trouver l’amour. Oui, et maintenant elle peut aussi faire la chasse aux dick pics partagées sur les réseaux sociaux.

Comme souvent, tout est parti d’une mauvaise expérience. Kelsey Bressler, une chercheuse travaillant pour l’Université de l’État de Washington était en train de vaquer à ses occupations lorsqu’une notification lui a appris qu’elle avait reçu un nouveau message privé sur Twitter.

Crédit Pixabay

Intriguée, elle a alors ouvert le message et elle a eu la désagréable surprise de se retrouver face à une image présentant un sexe masculin. Une dick pic.

Une IA capable de repérer et de filtrer les dick pics

Interviewée par la BBC, la chercheuse a expliqué que ces photos non sollicitées étaient une véritable forme de violence. L’échange n’est en effet pas consenti, mais imposé.

Cette photo a cependant donné des idées à la chercheuse. Avec ses collègues, elle a en effet entrepris de créer une intelligence artificielle capable de repérer et de filtrer ces contenus non sollicités.

Une fois l’IA développée, Bressler et les autres membres de l’équipe ont créé un nouveau compte sur Twitter et ils ont ensuite invité tous les utilisateurs du service à leur envoyer des photos de leurs attributs afin de tester leur programme et de déterminer s’il avait le bon comportement.

Les premiers essais ont été couronnés de succès. L’intelligence artificielle a en effet réussi à repérer les photos de dick pics et à les bloquer. Le calme a cependant été de courte durée. Un homme a en effet réussi à tromper le système en posant une cage sur son pénis. De même pour un autre qui a recouvert ses attributs de paillettes. Dans ces deux cas, l’IA n’a pas été en mesure de détecter la photo et elle l’a donc laissé passer.

Quelques limites

Toutefois, Kelsey Bressler estime que le test a été concluant. Elle ne comprends d’ailleurs pas comment les plateformes spécialisées peuvent encore laisser passer ce type de contenus. Toujours à l’occasion de son interview, elle a en effet indiqué que si elle avait réussi, avec ses collègues, à créer une IA bloqueuse de dick pics en quelques jours, alors Twitter, Facebook et tous les autres devraient être en mesure d’en faire autant.

Alors bien sûr, beaucoup lui objecteront que le meilleur moyen de se prémunir de ce genre de photos est de fermer les messages privés. Cependant, de son point de vue, ce n’est pas vraiment une solution.

Personne ne devrait en effet se sentir obligé de se fermer au monde parce que certains individus ne savent pas se comporter avec décence.

Dans le fond, la chercheuse n’a pas forcément tort. Il faut néanmoins noter que protéger un seul compte contre les dick pics est plus facile que d’en faire de même avec des dizaines ou des centaines de millions de profils différents. Dans ce cas, la masse d’informations à analyser est bien plus conséquente, ce qui exige aussi une puissance de calcul accrue. Encore plus lorsque l’opération doit se faire en temps réel.