Yahoo et Bing accusés de suggérer des contenus choquants, sexistes et racistes
Les fonctions de recherches de Bing et de Yahoo suggéraient tous deux des contenus offensants. C’est How-To Geek qui a signalé que les recherches d’image de Bing comme celles de Yahoo proposaient des résultats axés sur le racisme, la sexualisation des mineurs et l’antisémitisme.
Une situation embarrassante, que Microsoft a cependant eu tôt fait de résoudre.
La barre de recherche de Yahoo comprend une fonctionnalité de saisie semi-automatique qui aurait parfois tendance à compléter les mots insérés par l’internaute de phrases ou de termes racistes. Quant à Bing, le service propose sur son moteur de recherche d’images des bulles de suggestions intelligentes qui, après que l’internaute ait lancé une recherche, avaient tendance à proposer d’autres termes de recherche racistes.
Par ailleurs, même si l’option SafeSearch de Bing était active, elle ne censurait pas tous les résultats racistes et sexistes.
Des résultats et suggestions choquants et inappropriés
Les captures d’écran prises par How-To Geek montrent un exemple du fonctionnement des recherches. En tapant « Juifs » sur Bing Images US, le moteur proposait à l’internaute des bulles de suggestion comme « Juifs diaboliques » ou encore « Juifs sales. »
Si vous cliquiez sur l’une de ces propositions, Bing vous recommandait d’autres termes de recherche racistes.
Dans le même ordre d’idée, en faisant, par exemple, des recherches d’images sur Bing pour les mots « les Noirs sont, » vous obteniez des réponses comme « sont stupides, » « des singes » ou encore « des retardés. » Ce problème se retrouvait également dans les recherches concernant les autres ethnies.
L’intelligence artificielle pour résoudre le problème
How-To Geek déclare que Bing proposait aussi des recherches sur la sexualisation des mineurs. Par exemple, en tapant « girl » sur la barre de recherche, Bing vous suggérait de rechercher une « jolie fille jeune de 13 ans, » une « petite fille à la posture provocante, » une « jolie fille jeune de 16 ans » ou encore une « jolie fille jeune de 10 ans. »
Ces suggestions de saisie semi-automatique n’apparaissaient cependant pas lorsque vous faisiez une recherche régulière sur bing.com. Toutefois, Bing alimente aussi les résultats de recherche sur Yahoo si bien que les suggestions choquantes figurant dans Bing Images se retrouvaient aussi sur Yahoo.
De plus, lorsque The Verge a effectué une recherche sur « Black people are, » le résultat principal était une page de Yahoo Answers intitulée « Are Black People Born Stupid » contenant plusieurs commentaires racistes.
Microsoft a cependant été prompt à réagir et la plupart des filtres impliqués semblent ainsi avoir été supprimés.
