AI Dungeon, le jeu dont vous êtes le héros, pose un problème de confidentialité grave

AI Dungeon s’est fait une jolie réputation auprès des joueurs. Un jeu de niche que certains vidéastes ont présenté auprès du public français, comme le célèbre Joueur du Grenier sur sa chaîne secondaire Bazar du Grenier. Le concept est simple : il s’agit d’un titre open-source qui vous place dans une aventure textuelle dont vous êtes le héros. Un univers sans limite qui répond à chacune des actions que vous tapez à l’écran et basé sur l’intelligence artificielle GPT-3. Le scénario se déroule sans cesse en fonction de vos choix. Si le créateur de AI Dungeon, Nick Walton, a promis que les joueurs ne feraient face à aucune restriction, l’homme a dû changer de fusil d’épaule. Et pour cause : certains « s’amusent » à générer des histoires mettant en scène de très jeunes filles.

Nick Walton a donc mis en place une modération du contenu pour éviter que les joueurs ne développent des histoires douteuses…

Crédit : Nick Walton

Une décision qui, par extension, révèle que AI Dungeon met en danger la confidentialité des joueurs, Nick Walton ayant très peu protégé les scénarios développés par les joueurs dans ses serveurs.

Les histoires privées de certains joueurs sur des serveurs peu protégés

IA Dungeon a décidé de restreindre certaines histoires pour éviter le contenu douteux mettant en scène des personnes mineures.

Une modération qui s’accompagne de la découverte d’un gros problème de confidentialité. Car le jeu déroule des scénarios infinis que vous générez en fonction de vos choix rédigés et stocke ces derniers sur des serveurs. Des serveurs dont l’accès n’est pas bien protégé selon un hacker du nom de AetherDevSecOps.

Vulnérables aux attaques, les serveurs contiennent des données sensibles pour beaucoup de joueurs qui préfèrent sans doute que leurs histoires générées par GPT-3 restent secrètes, comme dans le cas d’actes sexuels (entre personnages majeurs et consentants)… Le bridage pour éviter les récits mettant en scène des mineurs aura eu pour effet de mettre en lumière ce problème.

Mais ce n’est pas tout puisque si IA Dungeon est accessible gratuitement, le jeu reste limité par cette version. Il faut sortir sa carte bancaire pour avoir accès à l’ensemble du titre et les failles des serveurs donnent un possible accès aux données bancaires des joueurs.

Deux problèmes se présentent donc. Des données bancaires piratées puis en circulation et des joueurs qui pourraient potentiellement être victimes de maîtres chanteurs, menaçant de révéler leurs histoires peu avouables mises en scène par le jeu. Pour le moment, le développeur de IA Dungeon ne s’est pas exprimé. Mais nul doute que l’homme va rapidement le faire et corriger les failles.