L’outil de recrutement sexiste d’Amazon pourrait il évoluer ?

L’outil de recrutement d’Amazon n’est encore qu’au stade expérimental, mais il présente déjà des défaillances. Du coup, le géant de la vente en ligne a décidé de le suspendre. Pour cause, l’intelligence artificielle discriminait les femmes et elle délaissait systématiquement leurs candidatures lorsqu’il s’agissait de postes techniques comme celui de développeur de logiciels.

Amazon a essayé, en vain, d’améliorer son algorithme.

Il faut savoir qu’un algorithme se doit d’être impartial et de ne pas se baser sur les préjugés. Néanmoins, il tient compte de différents critères, des données et des tendances. Celui créé par Amazon a pris en compte les candidatures sur dix ans. C’est sans surprise que le logiciel a été sélectif puisqu’il a décelé que les hommes prédominaient chez Amazon.

L’algorithme a donc juste suivi une tendance résultant d’une politique RH menée par des êtres faits de chair et de sang.

Un algorithme trop proche des humains ?

Comme celui d’Amazon, les algorithmes ne sont pas parfaits.

Ces programmes ont été conçus pour prédire des résultats en se basant sur des données et des faits antérieurs. Seul problème, ces données n’ont rien d’objectif et elles sont le simple reflet de leur contexte. Le marché du recrutement, par exemple, ne repose pas sur des éléments concrets et facilement quantifiables. Il est le résultat des politiques menées par des hommes et des femmes au sein de leurs entreprises.

Or pour qu’une IA soit efficace, elle doit nécessairement s’appuyer sur des ensembles de données structurées. L’IA développée par Amazon avait beau ne pas être sexiste par nature – un programme ne peut effectivement pas raisonner en termes de genre – mais elle a été influencée par les données qui lui ont été soumises.

Les algorithmes rythment notre quotidien et nos décisions

C’est évidemment un problème. Sans le savoir, notre quotidien est rythmé par les algorithmes. Nous comptons sur l’IA pour choisir des films sur Netflix et même pour trouver les bons plans sur Amazon.

Néanmoins, dès qu’une erreur survient, les utilisateurs doutent systématiquement de leur fiabilité. C’est le cas d’Amazon qui a fini par suspendre son outil de recrutement.

Dans tous les cas, les algorithmes se baseront toujours sur notre manière de vivre et tiendront compte de notre façon de penser.

Il se pourrait donc que l’adage « l’erreur est humaine » soit aussi valable pour l’intelligence artificielle.

Mots-clés amazon