Quand le deepfake est utilisé dans une guerre entre pom-pom girls

Est-ce que tous les moyens sont vraiment bons pour gagner ou pour faire gagner ses enfants ? C’est la question que l’on se pose à la suite de cette affaire insolite en Pennsylvanie. Les deepfakes et leurs ravages ne sont effectivement plus à présenter. Récemment, nous vous avons rapporté que le deepfake s’invite sur TikTok avec le visage de Tom Cruise et que le deepfake porn pourrait bientôt constituer un crime au Royaume-Uni.

Mais, dimanche 14 mars 2021, Engadget nous rapporte un nouveau fait insolite sur cette technique d’images basée sur l’intelligence artificielle. En effet, une femme du nom de Raffaela Spone, a été appréhendée par la police dans sa résidence en Chalfont, en Pennsylvanie pour avoir eu recours à cette technologie.

Image par kbrady de Pixabay
Image par kbrady de Pixabay 

Son délit ? Avoir utilisé des deepfakes pour exclure les rivales de l’équipe de pom-pom girls de sa fille.

Des deepfakes pour salir la réputation des rivales de sa fille

Les autorités ont effectivement soutenu que Raffaela Spone s’était servie de deepfakes pour salir la réputation de l’équipe de pom-pom girls en concurrence avec celle de sa fille, les Victory Vipers. Pour ce faire, cette mère de famille a envoyé aux entraîneurs des photos et vidéos modifiées par l’intelligence artificielle où on voyait les adolescentes en train de boire, de fumer ou encore en étant nues.

La police a été alertée pour la première fois en juillet 2020 lorsqu’une des victimes de Spone a déclaré avoir reçu des messages provenant d’un numéro anonyme. Plusieurs autres plaintes ont suivi par la suite. Les autorités ont réussi à lier les messages à Spone en traçant les numéros vers un site orienté télévendeur puis en les identifiant à une adresse IP utilisée au domicile de Spone.

A lire aussi : Le Deepfake porn, bientôt un crime au Royaume-Uni ?

Même interdits sur les réseaux sociaux, les deepfakes causent toujours autant de ravages

C’est au cours d’une fouille du smartphone de la mère de famille qu’il a été démontré que l’adresse IP émanait bien de son appareil. Actuellement, Raffaela Spone est accusé de plusieurs délits de cyber-harcèlement sur un enfant et d’autres infractions connexes. Quant à la fille de Raffaela Spone, les autorités n’ont trouvé aucune preuve suggérant que la fille était au courant des agissements de sa mère.

Néanmoins, cette affaire nous rappelle à quel point les deepfakes peuvent causer d’innombrables dommages. Bien que les réseaux sociaux comme Facebook, TikTok et Twitter ont pris des mesures pour les interdire, cela n’empêche pas encore leur divulgation sur Internet qui sert de campagnes de harcèlement. Bien que les systèmes de détection de deepfakes existent déjà, ces méthodes ne sont utiles que quand les destinataires de ces fichiers ont conscience que c’est un faux et peuvent agir avant que la réputation et même la vie des victimes en soient détruites.