Vice a publié un rapport le lundi 23 avril 2018 dans lequel il rapporte que Google n’avait pas encore supprimé les vidéos deepfake de la Première dame Melanie Trump dans ses résultats de recherche.
Le rapport démontre que si l’on effectue une recherche préliminaire sur le moteur en tapant le nom de l’épouse de Donald Trump et en y rajoutant le mot deepfake, Google afficherait alors plusieurs vidéos fake porn mettant en scène la Première dame US.
Outre le problème d’éthique que pose cette situation, le géant du web n’a pas encore répondu à la demande de commentaire de Bustle. Dans l’un de ces clips, le visage de Mélanie Trump est superposé sur celui d’une actrice de film pour adulte alors que celle-ci se masturbe devant la caméra.
Ce film a été téléchargé il y a deux mois et il est apparu sur le site communautaire de l’extrême droite ainsi que sur Voat.
Melania Trump et Ivanka Trump prises pour cibles
La première dame n’est pas la seule cible de ces deepfake puisque selon Vice, le visage de la fille de Donald Trump, Ivanka Trump, a également été utilisé par les créateurs de ces fake porn.
Vice rapporte que ces fausses vidéos porno peuvent être créées par n’importe qui grâce à application basée sur l’intelligence artificielle, application dont nous avons eu l’occasion de parler dans cet article.
C’est au mois de janvier 2018 que Vice a publié un article détaillant ces outils de création de fausses séquences pour adultes. Cette application est en open source. Elle permet aux utilisateurs d’échanger les visages des acteurs et actrices des clips pornographiques avec des visages de célébrités sans aucune connaissance technique particulière.
Les politiques de Google remises en question
Alors que Reddit a rapidement banni le subreddit, Google n’a pas encore pris de mesures face à ces vidéos truquées. Dans sa page de « Demandes de suppression de données légales, » le moteur de recherche a indiqué qu’il examinerait attentivement le contenu et qu’il envisagera ensuite de bloquer, de supprimer ou de restreindre l’accès à ce contenu.
Pour ce qui est du contenu abusif, Google affirme que le contenu abusif des services de Google pourra aussi enfreindre ses propres politiques. La firme de Mountain View conseille ainsi à ses utilisateurs d’envoyer une demande légale, de signaler l’article, l’image ou la vidéo par l’une de ses équipes.
Pour Hany Farid, président du département informatique de Dartmouth College, le problème des deepfakes va au-delà de la pornographie seule. Dans de mauvaises mains, ces technologies pourraient également avoir un impact sur la vie politique et peut-être même déstabiliser certains états.