Clicky

Les législateurs se méfient du logiciel Rekognition d’Amazon

Huit législateurs ont adressé une lettre à Amazon pour lui demander de fournir plus d’explications sur la manière dont fonctionne Rekognition, son logiciel de reconnaissance faciale. Depuis le départ, ce logiciel a suscité la controverse tant du côté des employés de l’entreprise elle-même que du côté des législateurs.

Pour ces derniers, Amazon « omet de fournir des réponses suffisantes » sur le fonctionnement et l’utilisation de ce logiciel.

Si les législateurs sont si inquiets, c’est en grande partie parce que la firme dirigée par Jeff Bezos a signé de nombreux contrats d’envergure avec le gouvernement américain ainsi qu’avec au moins une grande métropole, notamment la ville d’Orlando, en Floride. Ces contrats s’axent principalement sur la surveillance.

Parmi les législateurs signataires de cette lettre figurent les représentants John Lewis, Judy Chu et le sénateur Edward Markey.

Le logiciel présente encore de nombreuses imperfections

Les législateurs affirment que Rekognition souffre encore actuellement de nombreux problèmes d’exactitude, particulièrement à l’endroit des gens de couleur. Leur affirmation se base sur le constat de l’ACLU qui a testé le fonctionnement du logiciel. Ce dernier n’a pas réussi à reconnaître 28 membres du congrès et son taux d’échec était plus élevé quand il s’agissait de personnes de couleur.

« Nous craignons sérieusement que ce type de produit pose d’importants problèmes de précision, impose une charge disproportionnée aux communautés de couleur et puisse étouffer la volonté des Américains d’exercer leurs droits de Premier Amendement en public », écrivent les législateurs dans la lettre.

Amazon insiste pour commercialiser son logiciel

Malgré le fait que les propres salariés d’Amazon soient dubitatifs quant au bon fonctionnement de ce logiciel en temps réel, l’entreprise continue de faire la sourde oreille. Toutefois, ce qui a le plus alerté les législateurs, ce sont les contrats et rapports qui attestent qu’Amazon conclut des partenariats avec des services du gouvernement et des villes tout en tenant les responsables de l’application des lois à l’écart.

De ce fait, les législateurs font part de leur « inquiétude face aux récentes informations selon lesquelles Amazon commercialiserait activement sa technologie biométrique auprès des services de l’immigration et de la douane des États-Unis ainsi que d’autres rapports signalant que les programmes pilotes manquaient de formation pratique de la part d’Amazon pour les responsables de l’application des lois ».

En d’autres mots, les législateurs craignent que ce logiciel de reconnaissance faciale présente un préjugé racial et porte atteinte à la liberté d’expression. En tout cas, Amazon dispose de deux semaines pour éclaircir les choses, rassurer les législateurs et trouver un moyen de former les responsables de l’application des lois à cette nouvelle technologie.

Mots-clés amazon

Andy

Passionné de NTIC, sportif et à ce que l'on dit, un bon vivant !