D’après un article de TechCrunch, ByteDance, la compagnie mère de TikTok, aurait développé une technologie qui permet d’insérer le visage d’un utilisateur dans une vidéo, sur le corps de quelqu’un d’autre. La fonctionnalité en question n’a pas encore été dévoilée par ByteDance, mais elle utilise la technologie « deepfake » que les codes de l’application appellent Face Swap.
Selon les informations, le code dans TikTok et sa version chinoise Douyin demande aux utilisateurs de faire un scan biométrique multi-angle de leur visage. Puis, ceux-ci peuvent choisir une vidéo parmi la liste proposée et y incruster leur visage.
Si cette fonctionnalité est lancée par TikTok et Douyin, elle établira un environnement mieux contrôlé où la technologie de face swapping ainsi qu’une sélection limitée de vidéos pourront être utilisées pour s’amuser et non pas pour faire de la désinformation.
Cela pourrait aussi sensibiliser les usagers sur le fait de ne pas croire tout ce qu’ils voient sur Internet. Toutefois, cela va aussi augmenter l’inquiétude sur ce que ByteDance pourrait faire avec des données biométriques aussi sensibles.
Une fonctionnalité découverte dans le code de l’application
Selon TechCrunch, c’est la startup israélienne Watchful.ai qui les aurait mis au courant sur la nouvelle fonctionnalité. La compagnie Watchful.ai a en effet découvert les codes correspondant à la fonction deepfake dans les dernières versions des applications Android de TikTok et Douyin. La startup a pu activer le code dans Douyin pour générer des captures d’écran de la fonction, même si celle-ci n’est pas encore accessible au public.
Ainsi, pour utiliser la nouvelle fonction, les utilisateurs doivent tout d’abord scanner leur visage sur TikTok. Ce scan servira également de vérification de l’identité pour être sûr que l’utilisateur en question utilise son propre visage et non celui de quelqu’un d’autre. L’application va ensuite demander à l’usager de cligner des yeux, hocher la tête, et enfin ouvrir et fermer la bouche. L’appli peut ainsi reconnaître qu’il s’agit bien d’une personne réelle.
Il suffira ensuite de choisir une vidéo dans la liste proposée et y insérer son visage. La vidéo finale pourra être partagée et téléchargée et présentera une marque qui va indiquer qu’il ne s’agit pas d’une vidéo réelle.
Pas sur TikTok ?
Lors de son investigation, Watchful.ai a aussi découvert des mises à jour non publiées des conditions d’utilisation de TikTok et Douyin couvrant la confidentialité et l’utilisation de la fonctionnalité deepfake. Dans la version américaine de l’appli Android de TikTok, un texte en anglais explique la fonction et certaines de ses conditions d’utilisation. Un texte en chinois plus long a également été trouvé pour Douyin.
Cependant, selon TechCrunch, TikTok a refusé de répondre à des questions sur la nouvelle fonction comme la date de sortie ou encore la confidentialité en ce qui concerne les données biométriques. Un porte-parole de l’entreprise a ensuite confirmé qu’il ne s’agissait pas d’une fonction de TikTok et qu’ils n’avaient aucune intention de l’introduire. Il a ajouté que c’est plutôt une nouveauté de Douyin et qu’eux-mêmes ne travaillaient pas sur la version chinoise. Un peu plus tard, TikTok aurait aussi déclaré avoir supprimé les fragments de code inactifs pour éviter toute confusion.
Douyin, de son côté, a expliqué qu’ils suivaient les régulations en vigueur en Chine et a aussi nié que des conditions d’utilisation du Face Swap sont présentes sur TikTok.
En tout cas, cette découverte montre que ByteDance s’intéresse à cette technologie qui reste quand même assez controversée. L’avenir nous dira si oui ou non la nouvelle fonctionnalité sera introduite sur TikTok.