Elle trouve une vidéo d’elle sur Pornhub et développe une application pour aider les autres victimes

Une femme vivant en Chine a eu la désagréable surprise de découvrir une vidéo d’elle mise en ligne sur le site Pornhub. Elle a alors commencé à développer une application pour aider les autres victimes de revenge porn.

La femme en question a la vingtaine bien entamée et elle a été prévenue par une de ses amies. En parcourant Pornhub, cette dernière est en effet tombée sur une vidéo où son amie était mise en scène.

Une femme se tenant le visage dans la pénombre
Photo de Juan Pablo Serrano Arenas provenant de Pexels

Après vérification, la femme a découvert que cette vidéo avait été tournée à son insu par un ancien amant. Elle s’est alors lancée dans un projet pour le moins étonnant, à savoir développer une application basée sur une IA et capable d’aider les femmes à retrouver du contenu pornographique non consensuel partagé en ligne.

A lire aussi : Le Royaume-Uni renforce son arsenal contre le revenge porn

Alectro AI, une IA capable de retrouver des contenus assimilables au revenge porn

L’outil a été baptisé Alectro AI, en homme à la déesse grecque de la fureur et elle s’appuie en réalité sur un système de reconnaissance faciale.

Relativement simple d’utilisation, elle fonctionne en scannant le visage de l’utilisateur et en utilisant ensuite cette image pour tenter de retrouver des photographies ou des vidéos pornographiques non consensuelles partagées en ligne.

Lors d’une entrevue menée par le South China Morning Post, cette femme qui se fait appeler Tisiphone (la déesse grecque de la vengeance) a expliqué que la reconnaissance faciale était actuellement le moyen le plus efficace de répondre aux nombreux problèmes posés par le revenge porn.

A lire aussi : Delete Me, une série sur le revenge porn

Un outil s’appuyant sur la reconnaissance faciale

Selon elle, la principale difficulté, c’est en effet d’identifier ce contenu répréhensible, dans la mesure où il est la plupart du temps hébergé sur diverses plateformes.

Pornhub n’est en effet pas le seul acteur du marché à pointer du doigt et tous les sites pour adultes sont concernés par ce problème. D’ailleurs, le revenge porn n’est pas qu’une affaire de sites pour adultes.

Ces contenus sont aussi partagés sur des forums ou même par le biais des réseaux sociaux.

Chercher ces contenus revient donc à chercher une aiguille dans une botte de foin et c’est précisément ce qui a poussé Tisiphone à se tourner vers la reconnaissance faciale. Une tâche particulièrement difficile, dans la mesure où les algorithmes existants offrent un taux de précision inférieur pour les femmes et hommes de couleur.

A lire aussi : Du ransomware au revenge porn

Un abonnement pour commencer

Pour mener à bien son projet, elle a donc réuni une équipe de développeurs et de développeuses, des développeurs et développeuses qui sont actuellement en train de travailler sur un nouvel algorithme plus performant et fonctionnant avec toutes les couleurs de peau.

Alecto AI devrait ainsi être lancé en fin d’année. En revanche, dans un premier temps, l’outil sera uniquement disponible sur abonnement. Tisiphone espère cependant pouvoir le rendre gratuit, mais elle aura besoin du soutien de sponsors pour changer de modèle économique.

Toujours à l’occasion de son entretien, elle a également fait savoir que la priorité était mise sur la protection de la vie privée. Elle n’a cependant pas détaillé les mesures prises par ses équipes.

Pour en revenir sur la vidéo qui a tout déclenché, la femme a indiqué durant son entretien que la séquence avait été enregistrée alors qu’elle n’avait que 18 ans, et sans son consentement. Après cette découverte, elle a sombré dans une profonde dépression et elle a failli mettre fin à ses jours. Alecto AI l’a, d’une certaine manière, sauvée.

Mots-clés nsfy