La démission retentissante de Geoffrey Hinton de Google a mis en évidence les préoccupations éthiques croissantes concernant l’avenir de l’intelligence artificielle (IA). Surnommé le « parrain de l’IA », Hinton a consacré sa carrière à l’étude des réseaux neuronaux et a claqué la porte du géant technologique en raison d’une recherche de plus en plus axée sur la performance, au détriment de la retenue et de la responsabilité.
Hinton estime que Google s’oriente vers une course aux modèles d’IA les plus puissants, tels que ChatGPT ou Bing Chat, au risque de voir émerger une vague de désinformation incontrôlable. Il craint également que cette frénésie ne conduise à la suppression de nombreux emplois. Le scientifique tire la sonnette d’alarme sur les risques éthiques de l’IA et appelle à une réglementation urgente pour éviter l’apparition d’armes autonomes ou de comportements bizarres issus de modèles trop optimisés.
Geoffrey Hinton et des leaders d’opinion appellent à suspendre le développement de l’IA pour régler ses problèmes éthiques
Hinton n’est pas le seul à s’inquiéter de ces problèmes éthiques. De nombreux universitaires et leaders d’opinion, tels qu’Elon Musk et Steve Wozniak, ont récemment appelé à suspendre le développement de l’IA pendant six mois pour régler ces enjeux. La voix de Hinton est particulièrement importante, car il a révolutionné l’apprentissage profond et la reconnaissance d’image, technologie vendue à Google en 2013.
Dans un communiqué, Google assure rester engagé dans une approche responsable et consciente des risques émergents. Cependant, l’entreprise a récemment abandonné son chatbot Bard après des mois d’incertitude quant à sa réputation et a refusé de publier certains modèles, tels que Imagen, de crainte qu’ils ne génèrent du contenu toxique ou n’enfreignent le droit d’auteur.
La démission de Hinton doit interpeller les GAFAM et les décideurs sur l’urgence de réguler l’IA avant que ses dérives ne déstabilisent nos sociétés. L’intégrité physique et mentale de millions d’individus en dépend. Il est temps d’agir rapidement pour éviter des conséquences désastreuses.
Pourquoi tant de recul devant le développement de l’IA
Bien que l’intelligence artificielle (IA) offre des perspectives fascinantes, de nombreuses personnes sont réticentes à son développement en raison des craintes liées à son utilisation. Cependant, il existe des idées innovantes qui pourraient aider à surmonter ces craintes.
Par exemple, il est important de définir les règles de l’utilisation ainsi que de l’usage de cette technologie. On ne pourra pas le freiner mais il est indispensable de mettre en place des normes spécifiques.