Il a fallu juste 6 heures à cette IA pour générer 40 000 armes biologiques hypothétiques

De nos jours, l’Intelligence Artificielle (IA) est un outil devenu indispensable dans certains domaines, notamment la recherche scientifique. Le niveau de certains systèmes d’IA est tel qu’ils sont capables de détecter précocement les maladies, ou encore de gérer les réactions chimiques complexes. Cependant, entre de mauvaises mains, cette technologie pourrait aussi causer beaucoup de torts, comme le montre cette expérience effectuée par des chercheurs de Collaborations Pharmaceuticals.

La nouvelle étude a montré qu’il était très facile d’entraîner une IA à mener des actions malveillantes, notamment à concevoir des armes biologiques hypothétiques.  Un essai mené avec une IA existante a en effet pu identifier 40 000 armes biologiques chimiques en l’espace de seulement six heures.

Intelligence Artificielle
Crédits 123RF.com

Ainsi, si l’IA est incroyablement efficace pour former des combinaisons chimiques et des composés médicamenteux pour améliorer notre santé, la même capacité peut être utilisée pour imaginer des substances potentiellement dangereuses et mortelles.

Une expérience révélatrice

Lors d’une conférence sur la sécurité internationale, l’équipe de recherche a tenté une expérience en utilisant le système d’IA dénommé MegaSyn. Dans son mode de fonctionnement normal, cette technologie permet de détecter la toxicité dans les molécules afin de les éviter. Cependant, au cours de l’expérience, le système a été programmé pour faire le contraire, c’est-à-dire garder les molécules toxiques identifiées au lieu de les éliminer. De plus, le modèle a été formé pour combiner ces molécules, d’où l’identification d’une multitude d’hypothétiques armes biologiques en si peu de temps. Les chercheurs ont notamment programmé l’IA pour produire des combinaisons similaires à l’agent neurotoxique VX. Il s’est avéré que de nombreux composés générés étaient plus dangereux que ce dernier.

Les auteurs de l’étude ont décidé de garder secret certains détails de leurs recherches. Ils ont même beaucoup débattu concernant le fait de rendre publics leurs résultats.  

Un signal d’alarme

Fabio Urbina, auteur principal du nouvel article et scientifique senior chez Collaborations Pharmaceuticals où l’expérience a eu lieu, a expliqué dans une interview qu’il ne faut pas grand-chose pour « basculer » d’une bonne IA à une mauvaise IA. Même si aucune des armes biologiques de la liste n’a été réellement explorée ou assemblée dans un laboratoire, les chercheurs indiquent que leur expérience constitue un avertissement sur les dangers de l’Intelligence Artificielle. En effet, même s’il fallait de l’expertise pour réaliser cette expérience, une grande partie du processus est relativement simple et utilise des outils accessibles au public.

Ainsi, les chercheurs appellent à la vigilance concernant la manière d’utiliser les systèmes d’Intelligence Artificielle. Ils appellent à une plus grande sensibilisation, et des directives et une réglementation plus strictes au sein de la communauté scientifique. Les chercheurs expliquent que leur étude a mis en évidence le fait qu’un créateur autonome non humain d’une arme chimique mortelle est tout à fait possible.

SOURCE: Sciencealert

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.