Elon Musk a peur de voir une IA se transformer en dictateur immortel
Alors que la majorité des personnes s’évertuent à cacher leurs doutes, leurs peurs et leurs craintes, Elon Musk, lui, dévoile au monde entier sa plus grande hantise : les intelligences artificielles.
Selon le milliardaire, le monde court un très grand danger avec les IA. Si les humains ne limitent pas dès à présent le champ d’apprentissage et d’actions de ces technologies, non seulement elles prendront le dessus sur les êtres humains, mais elles causeront également leur perte.
Elon Musk a à cœur de faire passer ce message et il s’est d’ailleurs associé au réalisateur Chris Paine pour le faire. Ensemble, les deux hommes ont en effet présenté la semaine dernière la première de « Do You Trust This Computer », un documentaire traitant de tous les dangers liés à l’intelligence artificielle.
Ce documentaire, réalisé par Chris Paine en 2006, a pu être visionné gratuitement en ligne jusqu’au dimanche 08 avril 2018.
Les IA : une épée de Damoclès
Dans un tweet posté le vendredi 6 avril 2018, Elon Musk déclare que rien ne va plus affecter l’humanité que les intelligences artificielles.
Bien entendu, cela n’a rien d’une prédiction joyeuse, mais plutôt d’une prédiction apocalyptique. Le fantasque personnage tire la sonnette d’alarme sur l’importance que l’on accorde actuellement aux intelligences artificielles.
Bon nombre d’IA se sont déjà introduites aussi bien dans nos vies privées que dans nos vies professionnelles. Nous confions de plus en plus de tâches aux intelligences artificielles et celles-ci, de jour en jour, récoltent nos informations personnelles. La question qui brûle les lèvres d’Elon Musk est : qu’adviendrait-il si de telles machines autonomes et intelligentes étaient utilisées pour la guerre ?
La fin de l’humanité
Bien que la question en effraie plus d’un, la réponse en est d’autant plus troublante : cela signerait la fin de l’humanité. C’est d’ailleurs le cauchemar d’Elon Musk : le règne dictatorial des intelligences artificielles sur la race humaine. Le pire dans l’histoire c’est que certains pays fabriquent déjà de telles armes en prévision d’une troisième guerre mondiale.
Inquiétant, d’autant plus que les IA sont, en principe, immortelles.
C’est pourquoi Elon Musk fait appel à la raison des gouvernements et appelle ainsi à faire interdire la production, l’utilisation et la propagation de telles armes. Dans le documentaire, de nombreux dirigeants d’entreprises conceptrices d’intelligence artificielle témoignent de l’ampleur et de la dangerosité de l’utilisation des IA et de la dépendance naissante des êtres humains envers cette technologie.
Ce point de vue d’Elon Musk, le dirigeant de Facebook, Mark Zuckerberg, ne le partage pas. Selon ce dernier, les prévisions du dirigeant de Tesla sont irresponsables et l’avenir offert par l’intelligence artificielle aux humains ne peut qu’être rayonnant.
Je pense qu’Elon et Mark, sont tous les 2 dans le vrai.
Pour que ca marche, la vérité est toujours un compromis des extrêmes … donc un sage et savant équilibre … “au milieu”.
Mark Z. a raison de dire que cela peut-être rayonnant, car en effet, si cela n’a pas pour but d’être développé comme une arme, ca peut devenir un allier/partenaire (“atout irremplacable”).
Elon M. a raison de mettre en garde les hauts décisionnaires politiques, car en effet, développé à des fins malveillantes, c’est une technologie qui peut priver l’être humain de ses libertées fondamentales, et voire même de créer l’extinction de la race humaine.
La règle fondamentale de base en IA, c’est que la machine ne doit jamais prendre une décision face à une situation inconnue, mais toujours demander la validation humaine.
Elle peut apprendre, mais c’est simplement dans le but de pouvoir proposer à l’utilisateur, lors d’une itération ultérieure, le/les choix appris lors des itérations similaires précédentes ; mais elle ne peut en aucun cas (ca doit être “encré en basic dans son BIOS”) prendre la décision de validation.
L’être humain, pour assurer sa survie, doit rester maitre de toutes les situations qui s’offrent à lui.