Clicky

Amazon met fin à une intelligence artificielle « sexiste »

Le sexisme ne concernerait-il pas seulement les êtres humains ? Apparemment, le problème peut également toucher les intelligences artificielles. C’est en tout cas ce qu’Amazon a découvert avec un de ses programmes intelligents.

Développée pour faciliter le processus de recrutement au sein de la firme, l’IA avait la fâcheuse tendance de privilégier les dossiers de candidature des hommes.

Reuters rapporte que ce programme « sexiste » avait pour tâche de trier les Curriculum Vitae déposés chez Amazon. L’IA était chargée d’étudier chaque CV, puis de le « noter » en lui attribuant 1 à 5 étoiles. Les dossiers faiblement notés étaient mis de côté au moment d’embaucher. Il se trouve que la grande majorité des CV avec une faible note appartenaient à des femmes.

Le programme a finalement été désactivé par Amazon, trois ans après son lancement, soit fin 2017.

Une IA qui n’aime pas les femmes

Après l’avoir peaufiné durant plusieurs années, Amazon a commencé à utiliser son programme intelligent en 2014. Un an plus tard, des responsables ont remarqué que l’IA avait tendance à pénaliser les dossiers de candidature qui contenaient le mot « women’s. »

Par exemple, si une candidate mettait « women’s football team captain » (capitaine d’une équipe de foot féminine) dans son CV, elle était aussitôt faiblement notée par l’intelligence artificielle. Les responsables ont aussi découvert que le programme pénalisait également les CV qui mentionnaient des universités uniquement réservées aux femmes.

Un problème de conception

Au fait, le problème viendrait de la création même de l’algorithme. Il s’avère que pendant 10 ans, soit entre 2004 et 2014, la technologie a été testée sur des profils majoritairement masculins. C’est donc tout naturellement que le programme a développé une préférence pour les dossiers de candidature déposés par des hommes, au détriment de ceux de la gent féminine.

Après avoir tenté de la reprogrammer, Amazon a finalement décidé de ne plus utiliser l’IA. Le géant du e-commerce n’a cependant pas souhaité faire de commentaires sur le sujet. Le groupe s’est simplement contenté d’affirmer soutenir pleinement la diversité et l’égalité entre les hommes et les femmes, contrairement à ce que laisseraient penser les agissements de son désormais « ancien » programme.

Mots-clés amazon

Andy

Passionné de NTIC, sportif et à ce que l'on dit, un bon vivant !