Dans un contexte où la question des genres et de l’égalité hommes / femmes fait couler beaucoup d’encre, les pronoms typés masculins ou féminins sont plus que jamais à prendre avec des pincettes pour Google. Ainsi, sur le service de messagerie Gmail, la nouvelle IA de Google ne propose désormais plus de pronoms « genrés » dans ses réponses automatiques, nous explique The Verge. Il faut dire que l’ancienne IA chargée de prédire des réponses sous Gmail avait tendance à enchaîner les maladresses. De quoi pousser Google à limiter les risques d’offenser ses utilisateurs.
En début de semaine, Reuters pointait par exemple que, jusqu’à présent, l’intelligence artificielle employée sur Gmail générait souvent des réponses à connivence masculine lorsque le message portait par exemple sur le monde des affaires.
Par peur de proposer le mauvais pronom de genre à ses utilisateurs dans les réponses automatiques de Gmail, Google a décidé de les supprimer purement et simplement des suggestions de sa nouvelle IA.
Un chercheur de Google avait ainsi repéré en janvier dernier que pour le message : « Je rencontre un investisseur la semaine prochaine » (en anglais, cette phrase – « I am meeting an investor next week » – ne renvoie ni au masculin, ni au féminin), l’IA de Gmail comprenait par erreur qu’il ne pouvait s’agir que d’un homme et omettait donc de proposer à l’utilisateur une alternative féminine en réponse. Une bête maladresse de deep learning qui aurait bien du mal à passer en 2018.
Google cherche avant tout à éviter un éventuel bad-buzz
Approché par Reuters Paul Lambert (Manager produit de Gmail) a expliqué que Google avait tenté de résoudre le problème de bien des manières, mais que les solutions trouvées n’étaient jamais suffisamment fiables pour permettre à l’IA de ne jamais se tromper de genre. La firme de Mountain View a donc préféré contourner (pour l’heure tout du moins) l’obstacle en supprimant les pronoms « genrés » du lexique de Gmail en matière de réponses automatiques. Une suppression qui ne concernerait, toujours d’après Paul Lambert, que 1% des réponses proposées par l’IA de la célèbre messagerie. Se tromper de genre « est une très très grave erreur« , a-t-il estimé auprès de l’agence de presse britannique. Google cherche par conséquent à ne prendre aucun risque.
Au travers de cette affaire, ce sont toutefois les limites inhérentes au deep learning que Google semble mettre en exergue. Dans l’exemple cité plus haut, l’intelligence artificielle de la firme a dû apprendre de son analyse de données que les investisseurs étaient plus souvent des hommes que des femmes… et en a tiré des conclusions tout autant tronquées que maladroites.