Face à la prolifération inquiétante des deepfakes sur les réseaux sociaux, Twitter a mis en place un nouveau règlement qui permettra d’identifier et de supprimer les médias manipulés pouvant porter un préjudice sérieux à autrui. Cette démarche s’aligne dans le prolongement de l’effort mené par le réseau social contre la désinformation sur internet.
La nouvelle politique de Twitter s’appliquera aux médias, photos, vidéos ou sons, intentionnellement modifiés pour changer leur sens ou leur objectif. Ces médias contrefaits seront étiquetés et seront supprimés s’ils présentent le risque de causer un dommage sérieux comme une menace sur la sécurité des personnes ou un risque de violence de masse.
La nouvelle règle est déjà entrée en vigueur depuis le 5 mars 2020 et permettra, entre autres, de gérer le flux de désinformation sur la plateforme lors de la campagne électorale de 2020.
Les médias manipulés, indésirables sur la plateforme
Concrètement, lorsque Twitter détectera un deepfake, la plateforme appliquera une étiquette « trompeur » à côté du tweet contrefait, affichera un avertissement à l’endroit des utilisateurs, réduira la visibilité du tweet en le supprimant des moteurs de recommandation et fournira un contexte supplémentaire (précisions, explications, référence à un article d’actualité ou à Twitter Moment) pour dévoiler la supercherie.
D’autre part, si le tweet représente une menace réelle sur la sécurité publique ou si celui-ci peut causer du tort à un tiers, alors Twitter se réserve le droit de supprimer intégralement le tweet.
Les mesures de Twitter permettront donc aux utilisateurs de discerner le réel du modifié et réduira par la même occasion, la viralité des deepfakes sur la plateforme. Il en découlera certainement une prise de conscience et un questionnement auprès des utilisateurs lorsqu’il s’agira de partager ces informations manipulées.
Mieux lutter contre la désinformation
Pour identifier les deepfakes, Twitter a indiqué dans un billet d’information qu’il tiendra compte : du fait que le « contenu a été considérablement modifié d’une manière qui altère fondamentalement sa composition, sa séquence, son rythme ou son cadrage ; de toute information visuelle ou auditive ayant été ajoutée ou supprimée [et] si les médias représentant une personne réelle ont été fabriqués ou simulés. »
Le réseau social considérera également le contexte (métadonnées, sous-titres…) de la publication afin de déterminer si celle-ci a bien été partagée dans le but d’induire les utilisateurs en erreur. Néanmoins, un vrai jugement de fond devra encore être fait pour discerner ce qui est préjudiciable de ce qui ne l’est pas. Le but est bien évidemment de dissocier ce qui a été fabriqué de manière trompeuse de ce qui ne l’est pas.