L’IA de FaceApp serait-elle raciste ?
FaceApp fait beaucoup parler d’elle depuis le début de la semaine et pas forcément dans les meilleurs termes. L’application est en effet taxée de raciste par de nombreux utilisateurs à travers le monde. En cause, un filtre qui a la fâcheuse tendance à blanchir un peu trop les personnes noires.
FaceApp, comme son nom l’indique plutôt bien, se positionne sur le segment de la retouche de selfies.
Pour se distinguer de ses concurrents, il fait la part belle à l’intelligence artificielle et aux réseaux neuronaux afin de proposer des filtres extrêmement élaborés.
FaceApp taxé de raciste à cause d’un filtre assez particulier
Grâce à l’outil, il est par exemple possible de changer virtuellement de sexe ou même de changer d’âge, le tout en quelques instants et sans avoir à fournir le moindre effort.
FaceApp est arrivé sur le marché au début de l’année et il marche très très fort depuis. Il marche même tellement bien qu’il apparaît régulièrement dans la liste des applications les plus populaires du Play Store ou même de l’AppStore. C’est le cas en ce moment et il devance ainsi Facebook et Instagram d’une courte tête.
Parmi ces nombreux filtres, il en proposait un dont le seul but était de nous rendre plus “hot” et donc plus séduisants. Comment ? En appliquant des traitements très spécifiques à nos portraits. Il affinait notamment notre visage et il était également capable de gommer nos rides ou même de remonter nos pommettes de quelques centimètres.
Seul problème, le filtre en question appliquait également un traitement supplémentaire aux personnes noires… en éclaircissant leur peau. Pour ne rien arranger, le traitement appliqué par l’intelligence artificielle était très marqué, sans doute autant que les diverses opérations de décoloration subies par Michael Jackson durant ses jeunes années.
On l’imagine sans peine, mais ce traitement n’a pas franchement fait l’unanimité et il a même valu à l’intelligence artificielle de l’application d’être taxée de raciste par de nombreux utilisateurs.
Un problème lié au réseau neuronal
Face à la situation, son éditeur a donc décidé… de renommer son filtre : “Hot” est donc devenu “Spark”. Le traitement, lui, n’a pas changé en revanche et il a donc toujours tendance à éclaircir la peau de l’utilisateur.
Il faut d’ailleurs signaler que les noirs ne sont pas les seuls à avoir une dent contre ce fameux filtre. Les personnes d’origine asiatique se plaignent aussi du traitement appliqué à leurs portraits, des traitements qui éclaircissent leur peau et qui ont aussi tendance à rendre leur visage moins rond et leurs yeux un peu plus grands.
D’après l’intelligence artificielle de FaceApp, il faudrait donc être d’origine caucasienne pour être séduisant.
Wirelass Lab OOO, l’éditeur de l’outil, ne s’est pas dérobé en tout cas et il a ainsi présenté ses excuses à tous ses utilisateurs par le biais d’un commentaire laissé sur les boutiques citées un peu plus haut. Il a également déclaré que ses ingénieurs travaillaient sur un correctif afin de régler le problème.
Ils auront cependant besoin d’un peu de temps pour le faire. Ce blanchiment inopiné proviendrait en effet du réseau neuronal lui-même.
