Andrea Keay se passionne pour la robotique depuis plusieurs années maintenant et elle se trouve à la tête d’une association d’industriels en lien avec ce secteur. Elle a profité d’une entrevue menée par 20 Minutes pour proposer cinq nouvelles lois de la robotique afin de compléter celles édictées par Isaac Asimov en 1942.
La robotique est un secteur en pleine expansion, qui attire de plus en plus d’industriels. Même Google a succombé pendant un temps à ses charmes avec Boston Dynamics.
Passionnée par le sujet, Andra Keay est très investie par toutes les questions entourant les robots et nos liens avec eux.
La robotique, un secteur porteur de plus en plus apprécié des industriels
C’est précisément ce qui l’a poussé à fonder un hacklab consacré à cette question, le Robot Garden, mais aussi à organiser une compétition de star-ups axée sur la robotique, le Robot Launch. Accessoirement, elle est aussi à la tête d’un site d’actualités entièrement dédié à la chose et elle dirige en plus la Silicon Valley Robotics.
Créée en 2010, cette association d’industriels a pour mission de promouvoir toutes les technologies liées à la robotique, mais également d’aider les start-ups à concrétiser leurs projets. Pour se faire, elle organise de nombreux événements ciblés afin de mettre en relation les entreprises du milieu avec des influenceurs et des investisseurs.
Andrea Keay ne se focalise pas uniquement sur la partie technique et elle s’intéresse aussi beaucoup à l’impact sociologique que vont avoir ces machines intelligentes dans nos vies et dans nos sociétés.
Afin d’éviter l’écueil, elle estime qu’il est indispensable de mettre en place des règles simples que chacun devra respecter à la lettre, des règles qui viennent compléter les lois formulées par Isaac Asimov au début des années 40 dans sa nouvelle Cercle Vicieux.
Si vous n’avez pas lu le livre, alors sachez que ces règles sont au nombre de trois : “Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger”, “Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi”, et “Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec une des deux premières lois.”
Cinq lois pour aller plus loin et éviter les dérives
Andrea pense pour sa part que ces lois ne vont pas assez loin et qu’il est impératif de mettre en place cinq autres règles afin de prévenir d’éventuels abus :
- Les robots ne doivent pas être utilisés comme des armes.
- Les robots doivent se conformer aux lois, notamment celles sur la protection de la vie privée.
- Les robots sont des produits ; en tant que tels ils doivent être sûrs, fiables et donner une image exacte de leurs capacités.
- Les robots sont des objets manufacturés ; l’illusion créée ne doit pas être utilisée pour tromper les utilisateurs les plus vulnérables.
- Il doit être possible de connaître le responsable de chaque robot.
Dans les faits, ces règles risquent évidemment d’être difficiles à respecter. Preuve en est, l’été dernier, la police de Dallas a utilisé un robot afin d’abattre un sniper qui avait ouvert le feu sur la foule.
Mais elle ne s’arrête pas là. Andrea estime aussi qu’il faut à tout prix limiter la fabrication de robots humanoïdes. A ses yeux, en cherchant à produire des robots ressemblant à des êtres humains, les industriels ne font que se compliquer inutilement la tâche. Elle pense en effet que les robots n’ont pas forcément besoin d’avoir des yeux ou de parler pour se montrer utiles.
Plus intéressant, toujours de son point de vue, il est impératif de prendre garde à la manière dont nous sexualisons les robots. Selon elle, limiter des robots “féminins” à des tâches d’accueil et des robots “masculins” à des tâches d’autorité est dangereux, car cela nous pousse à raisonner en termes de castes et à véhiculer des stéréotypes conduisant vers une société inégalitaire.
Enfin, le terme approprié serait “encore plus inégalitaire”…
hahahaha j’ai bien ri. cette dame à t’elle lu asimov ?
1 – « Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger » il NE PEUT donc pas être utilisé comme une arme.
2 – Au vu de la complexité déja induite par les 3 lois les exemples de problèmes engendrés par les paradoxes sont vu et revu dans les livres d’asimov. Demander aux robots de respecter les lois (d’un pays je suppose) les ferais disjoncter direct vu les lois parfois contradictoires.
3 – L’état d’un robot ou sont fonctionnement ne peut pas lui être imputé. Cela est du ressort des fabricants : ce peut être une loi pour le fabriquant, mais aucunement un loi ‘de la robotique’ !
4 – Retour à la première loi, un robot ne peut porter préjudice à un humain. cette loi est fonction de l’apparence éventuel du robot.
Reste que l’analyse d’un ordre, ne semblant pas porter atteinte à un humain mais pouvant le tromper, du fait que le robot ressemble trop à un humain, et donc amener l’humain à faire des choses qui lui sont préjudiciable, ne doit pas être des plus simple.
Mais créé de nouvelle loi car une deja existante n’est pas simple à respecter, rend souvent les choses encore plus compliqué.
5 – il suffit de lui demander.
Encore une fois je pense que soit elle n’a pas lu Asimov, soit elle n’a pas compris ses écrits.
Il est évident qu’un robot ne peut être définit que par ces 3 lois. mais l’avantage des ces lois (tel que vu par asimov) est qu’elle sont mis au plus haut niveau de priorité.
Ces lois ne sont que théorique et lié à l’existence de cerveau positronique (ou equivalent)
ce qui n’est pas encore le cas, et qui explique qu’aujourd’hui les robots et IA ne sont soumis à aucune lois de base !
Donc dire qu’il faudrait rajouter 5 loi au 3 loi de la robotiques alors que ces 3 lois ne sont pas mis en place….. comment dire……