Attention aux bots qui pourraient vous rendre fous

Les réseaux sociaux ne sont plus des endroits sûrs. Lorsque vous êtes sur ces plateformes, prudence est de mise. En effet, vous n’êtes pas à l’abri d’une arnaque ou d’un catfish. Par exemple, vous pouvez croire que vous êtes en train de parler à une fille ou à un garçon, mais il peut s’avérer qu’il ou elle est en fait du sexe opposé.

Dans certains cas, il arrive même que la personne à laquelle vous croyez parler soit un bot. Actuellement, de plus en plus de gens se font avoir par cette technologie. Récemment, le site Futurism a dédié un article à ce phénomène qui inquiète de plus en plus les experts.

Photo de Clint Patterson – Unsplash.com

Pour en savoir plus, nos confrères se sont entretenus avec le chercheur Simon DeDeo de l’Université Carnegie Mellon.

Un véritable cauchemar

Pour Simon DeDeo, l’avènement de ces bots est un véritable cauchemar. Le pire serait l’apparition d’une application qui utilise le GPT-3, la technologie GAN et la synthèse vocale comme le programme ELIZA, créé par le chercheur Joseph Weizenbam. ELIZA a été conçu pour simuler un psychothérapeute qui répète les propos de son interlocuteur sous forme de questions.

D’après Simon DeDeo, une telle application pourrait « rendre les personnes vulnérables littéralement folles. » Il est à noter que le GPT-3 est le langage de traitement naturel le plus puissant du moment. Le GAN pour « Generative adversarial networks », quant à lui, est généralement utilisé pour inventer de vrais visages. Simon DeDeo craint que cette application ne devienne bientôt une réalité.

Des bots qui manipulent les internautes ?

Selon lui, ce genre d’outils pourraient être utilisés pour manipuler les opinions des internautes. À travers un profil créé de toutes pièces, les créateurs de cette application pourraient aussi influencer leurs décisions politiques, personnelles ou financières. Simon DeDeo a déclaré que le plus grand danger réside dans les bots utilisant le GPT-3.

« Je peux vous escroquer sans avoir besoin de simuler une vidéo. Et je ne vous arnaque pas en exploitant votre système visuel, comme le font les vidéos deepfake. Je vous arnaque en trompant votre système rationnel. Je vous escroque à un niveau beaucoup plus élevé dans votre cognition sociale. »

À en croire Simon DeDeo, les utilisateurs de réseaux sociaux tels que Facebook seraient les plus vulnérables à cette technologie.