Le président de Microsoft a déclaré sur BBC que le roman 1984 de George Orwell pourrait devenir une réalité en 2024. L’ouvrage relate la vie d’une communauté vivant constamment sous surveillance et censure. L’histoire se déroule en Grande Bretagne, dans un contexte où l’État s’en remet à l’utilisation croissante de l’Intelligence Artificielle (IA) afin de mieux contrôler ses citoyens.
Selon Brad Smith, le scénario pourrait devenir une réalité si l’on tient compte du plan de la Chine, présenté en 2017, qui ferait d’elle le leader mondial de l’IA.
Dans ce livre publié en 1949, l’auteur imagine ce que ferait un dictateur s’il savait ce que les gens font et se disent à tout moment. Celui-ci pourrait alors facilement contrôler et manipuler la vie de ses sujets en usant de la surveillance gouvernementale et du totalitarisme. Face à ce qu’il considère comme une réelle menace, Brad Smith a fait appel aux dirigeants du monde entier pour adopter des lois plus strictes sur l’IA.
L’ouvrage a donné naissance à des expressions comme « Big Brother » ou « Thought Police ». Il a également inspiré la série Room 101, dont le nom est tiré de celui de la salle de torture de 1984.
Un gouvernement qui manipule excessivement l’IA devient dangereux
En 2019, la Chine a pris la tête du classement mondial en matière de dépôt de brevets d’IA. Par conséquent, les États-Unis ont quitté la place qu’ils occupaient depuis la création du système, il y a environ 40 ans. Cette année-là, ils n’ont déposé que 57 840 demandes contre 58 990 pour la Chine.
En outre, d’après Comparitech, les villes chinoises sont les plus surveillées au monde, avec environ 770 millions de caméras de surveillance réparties dans tous les recoins.
Bien entendu, l’inquiétude de Brad ne concerne pas uniquement la Chine. Une enquête menée en 2018 a dévoilé que Google Maps continue d’enregistrer les mouvements des utilisateurs même si l’option permettant de stocker l’historique de leur localisation est désactivée.
« Je me souviens constamment des leçons de George Orwell dans son livre. C’est l’histoire d’un gouvernement qui pouvait tout le temps voir tout ce que chacun faisait et entendre tout ce que chacun disait. Eh bien, cela ne s’était pas produit en 1984, mais si nous ne faisons pas attention, cela pourrait se produire en 2024. »
Brad Smith
Des lois plus strictes afin de réguler l’usage de l’IA
George Orwell a montré que le contrôle total d’une nation par l’intelligence artificielle sous un régime totalitaire est possible. Le CEO de la firme de Redmond estime que, de plus, la course technologique entre les nations rendra le contrôle de celle-ci de plus en plus difficile. La promulgation de lois plus strictes sur son usage serait alors une urgence planétaire.
« Nous allons constater que la technologie est en avance sur son temps. Le monde dystopique dépeint par George Orwell dans 1984, où la surveillance totalitaire fait partie de la vie, pourrait devenir une réalité dès 2024, si l’IA n’est pas régulée. »
Brad Smith