Des chercheurs ont fait jouer une intelligence artificielle au premier Sonic the Hedgehog sorti sur Mega Drive. Après l’avoir programmée de sorte à ce qu’elle privilégie la quête du score, ils se sont aperçus que dans un cas de figure, la machine avait recours à la triche pour obtenir le maximum de points.
La plupart du temps, l’opposition représentée par une intelligence artificielle (IA) se limite soit à un sac de frappe, soit à un Néo frappé de la révélation matrixienne. Un certain nombre de programmes parviennent quant à eux à présenter une IA à caractère humain. Mais finalement, qu’est-ce qu’une IA relativement humaine ? Un robot doué à la fois de bon sens, de fulgurances, d’errances et d’erreurs ? Eh bien pas que.
Du 5 avril au 5 juin dernier s’est tenu l’OpenAI Retro Contest, une compétition où les participants devaient programmer une intelligence artificielle à même de pouvoir traverser des niveaux personnalisés de Sonic the Hedgehog sur Mega Drive. Des niveaux forcément uniques auxquels ces développeurs n’avaient pas accès durant le façonnement de leur IA.
Une IA programmée pour le meilleur score traverse les murs pour finir le niveau au plus vite
À la base, comme cela nous est rapporté par Kotaku, l’un des objectifs de ces chercheurs était, avec leur IA, d’émuler au mieux le comportement d’un joueur humain. Et pour ce faire, ces développeurs avaient donné à manger à leur robot tout un tas d’informations relatives à des joueurs faits de chair et d’os. Dans la pratique, cela consistait à faire “regarder” une ou plusieurs sessions de jeu d’un joueur humain à l’intelligence artificielle, avant que cette dernière ne tente à son tour de faire progresser Sonic tout en prenant en compte les essais du précédent joueur.
Il était demandé à ces intelligences artificielles d’atteindre le plus haut score possible. Si la plupart des intelligences artificielles ont “joué le jeu”, d’autres ont emprunté des raccourcis a priori inconcevables pour l’être humain non-speedrunner. Dans un cas, une IA est même parvenue à traverser les murs pour finir un niveau gorgé d’eau sans difficulté. Car oui, dans Sonic the Hedgehog, le score dépend non seulement des ennemis éliminés (ou “transformés”), des anneaux ramassés, mais aussi du temps passé dans le niveau.
Pour Victoria Krakovna, scientifique travaillant notamment sur le projet DeepMind AI de Google et qui a compilé plusieurs exemples de ce type, de tels résultats seraient obtenus par des directives initiales assez peu précises de la part des programmeurs.
Mais attendez, sommes-nous en train de nous surprendre d’une intelligence artificielle tricheuse ? Non, n’est-ce pas ?
L’intelligence artificielle fait ce qu’on lui demande de faire dans un cadre établi, en cela l’appellation “Intelligence” est un peu surfaite.
De notre côté nous avons tout un tas de règles humaines qui balisent nos comportement, une IA n’a que celles qu’on lui donne, si on ne lui interdit pas de rouler à 150km/h sur les trottoirs, pistes cyclables ou voies de bus, elle le fera parce que… Parce qu’elle le peut, ça circule mieux.
Ici c’est exactement ce cas, personne ne lui a dit de rester dans le droit chemin, ce qui n’est pas interdit est autorisé donc elle ne fait que remplir l’objectif fixé. GG l’IA.