Google Brain est une étude sur l’Intelligence Artificielle lancée en 2011 et dirigée par les chercheurs Martin Abadi et David Andersen. Le but était de créer des réseaux neuronaux capables de concevoir et de développer leur propre moyen de communication. Des réseaux totalement autonomes, et faisant donc la part belle au “machine learning”.
Les deux chercheurs n’en sont pas restés là et ils ont ainsi donné un nom à ces réseaux neuronaux : Alice et Bob. Ils ont aussi mis au point une troisième intelligence artificielle baptisée Ève et ils lui ont donné pour mission de déchiffrer les échanges faits entre ses deux homologues.
Tout ne s’est cependant pas passé comme prévu. Alice et Bob ont en effet créé un langage tellement complexe que ni Ève ni leurs propres créateurs ne sont plus aptes à les comprendre. Ce qui n’avait pas été prévu.
Objectifs et intérêts de l’étude
Le but initial de la recherche était d’apprendre “à protéger les communications à travers le chiffrement neuronal”. Pour se faire, les deux chercheurs ont créé des réseaux neuronaux dont le mécanisme est inspiré des réseaux neuronaux biologiques. Alice et Bob pouvaient donc coopérer ensemble afin de trouver des moyens d’induire Ève en erreur.
Ce projet est important pour évaluer les protocoles de sécurité et développer la recherche sur le chiffrement RSA. L’utilité de l’Intelligence artificielle consiste surtout en un gain de temps et d’énergie pour l’homme dans l’accomplissement de ses activités.
Au fil du temps, Alice et Bob ont pu se protéger de toute autre intelligence artificielle, mais aussi humaine, en utilisant des techniques de chiffrement évolutives et élaborées. Alice a ainsi commencé par envoyer plusieurs messages chiffrés en 16 bits à Bob. Lui seul détenait la clé de chiffrement.
Elle utilisait à chaque fois une technique différente afin d’induire Ève en erreur. Au bout de 15 000 messages échangés, cette dernière n’a plus été en mesure d’écouter la conversation.
Un résultat inattendu perturbant
Le fait que ces intelligences artificielles inventent elles-mêmes des langues secrètes dépassant pour le moment l’entendement humain représente un grand danger. Cela signifie en effet que ces entités numériques immatérielles sont capables de travailler en toute confidentialité.
Elles pourraient alors, à l’insu de l’humanité, la protéger, mais aussi la détruire, si elles se sentent menacées. Un scénario digne des pires dystopies, donc. En lisant ce rapport, il est en effet très difficile de ne pas penser à des films comme Terminator et à des intelligences artificielles comme Skynet.
Il faut avouer que cela fait froid dans le dos et c’est finalement à se demander si l’être humain a réellement intérêt à poursuivre ses travaux sur l’intelligence artificielle.
L’étude complète se trouve à cette adresse.