Avec juste quelques photos et quelques logiciels téléchargeables gratuitement sur internet, il est maintenant possible de greffer rapidement le visage de n’importe qui sur des images et des vidéos pornographiques. Les résultats sont encore loin d’être convaincants, mais les technologies s’amélioreront rapidement. L’un des exemples les plus récents est l’intégration du visage de Gal Gadot, l’interprète de Wonder Woman, dans des séquences destinées aux adultes.
Une nouvelle vidéo troublante est en effet apparue sur la toile en début de semaine et elle semble montrer Gal Gadot dans un film pour adultes.
La vidéo, créée par un certain deepfakes de Reddit, ne met cependant pas en scène la célèbre actrice, mais une femme dont le visage a été remplacé par le sien. Bien que le résultat ne soit pas encore parfait, cette vidéo est suffisamment aboutie pour semer le doute.
Gal Gadot dans un film pour adultes ? Pas vraiment.
Toutefois, ces images mettent en lumière ce qui pourrait arriver lorsque les algorithmes d’apprentissage automatique seront accessibles à tous.
Selon les premières investigations de Motherboard, un utilisateur de Reddit nommé « deepfakes » a donc utilisé des outils disponibles en téléchargement libre pour créer du contenu pornographique mettant en scène des célébrités.
MPour se faire, deepfakes a utilisé une combinaison de logiciels basés sur plusieurs IA open source dont TensorFlow de Google.
Il a ensuite collé les visages de plusieurs célébrités comme Scarlett Johansson, Taylor Swift et Maisie Williams sur des GIFS classés X. L’utilisateur a même créé une vidéo complète avec le visage de la star de Wonder Woman, Gal Gadot, insérée dans une scène porno.
L’implication de telles pratiques
La vidéo amateur a des implications inquiétantes. Elle montre comment des ressources librement disponibles pourraient être utilisées pour créer de faux films en quelques jours ou même quelques heures.
Avec la tendance actuelle qui amène les gens à publier constamment leurs photos, le danger n’en est que plus grand. De plus, ces outils étant tous open source, ils sont également accessibles au plus grand nombre.
Il est certainement vrai que la technologie utilisée est simple. Snapchat fait des échanges de visages depuis des années. Les informaticiens utilisent depuis longtemps l’apprentissage automatique et Photoshop pour assembler des visuels. Le danger de la généralisation de ces outils est évident. Ils pourraient être utilisés pour créer de fausses informations suralimentées ou pour du harcèlement et de l’intimidation.