Alexa propose un défi à un enfant de 10 ans qui aurait pu lui coûter la vie

The Verge a récemment rapporté un incident qui a impliqué l’assistant personnel intelligent d’Amazon et un enfant d’à peine 10 ans. En effet, l’enfant aurait demandé à Alexa un défi à relever. En guise de réponse, Alexa lui aurait donné pour défi d’enfoncer juste la moitié de son chargeur de téléphone dans une prise murale et de placer une pièce de monnaie sur les bouts dépassant. Heureusement que les parents étaient à proximité car les conséquences auraient pu être désastreuses pour cet enfant.

Sa mère, Kristin Livdahl, a partagé cette histoire sur Twitter avec pour preuve à l’appui des captures d’écran de son historique d’activité démontrant effectivement les faits. Cet incident l’a poussée à configurer les paramètres de sécurité sur internet pour son enfant et à toujours vérifier les informations générées.

Amazon s’empresse de rectifier la faute après avoir eu vent de l’incident

Alexa, l’intelligence artificielle (IA) d’Amazon a mal interprété le mot défi. Elle a juste pris la partie décrivant un avertissement et l’a proposée dans son contexte de départ. À la BBC, Amazon déclare avoir pris des mesures pour rectifier les agissements de l’IA à la minute où ils ont su ce qui s’est passé avec l’enfant de Kristin Livdahl. Cette dernière confirme que pendant un certain temps après son tweet les demandes de défis n’aboutissaient plus.

Le jour suivant, Alexa fut entièrement corrigée et les réponses à des demandes de défis n’étaient plus aussi dangereuses et imprudentes. Des images captant l’étendue de cette rectification ont été publiées dans lesquelles les réponses proposées n’étaient plus les mêmes qu’auparavant. Désormais, l’IA propose des défis plus avisés et moins inquiétants.

Amazon n’est pas la seule entreprise ayant subi de défaillance similaire

En octobre, Google a donné un conseil nocif à un de ses utilisateurs qui a demandé quoi faire lors d’une crise, mais la réponse donnée correspondait plutôt à ce qu’il ne fallait pas faire en cas de crise. Un autre utilisateur dénonce qu’en demandant les causes de l’hypertension orthostatique, c’était plutôt ceux de l’hypotension qui fut donnée. Sans oublier les conseils désastreux que Google a proposés pour consoler une personne en deuil.

TikTok a fait la une des médias lors d’une prétendue menace sur sa plateforme entraînant la fermeture de certains établissements scolaires. Il y a également le célèbre « Tide Pod challenge » qui consiste à croquer des capsules de lessive colorées face à leur caméra. Malgré les avertissements sur Google, le défi a été relevé plus de 80 fois chez les adolescents. En tout cas, du côté d’Amazon, un porte-parole de l’entreprise a indiqué que l’erreur a rapidement été réparée dès qu’elle a été informée du problème. Amazon affirme ainsi dans une déclaration que:

La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçue pour fournir des informations précises, pertinentes et utiles aux clients. Dès que nous avons eu connaissance de cette erreur, nous l’avons rapidement corrigée et nous continuerons à faire progresser nos systèmes pour éviter des réponses similaires à l’avenir.

Source