MIT : le réseau neuronal TbD-net désormais capable d’expliquer son raisonnement

Le groupe des technologies de renseignement et de décision de Lincoln du MIT a dévoilé le 12 septembre 2018 un nouvel outil de lutte contre l’IA biaisée. Il s’agit du TbD-net, un réseau de transparence par conception ou, autrement dit, un réseau neuronal capable de répondre à des questions complexes basées sur des images et d’expliquer le processus lui ayant permis de trouver les réponses.

Le MIT a déclaré dans un communiqué de presse que lors de l’évaluation du TbD-net sur un ensemble d’images et de question, celui-ci avait eu un taux de précision de 98,7% sur ses réponses.

Grâce aux explications du raisonnement fourni par la technologie, les chercheurs ont pu l’améliorer et lui faire atteindre un taux de précision de 99,1%.

Selon les experts, le TbD-net est la création d’intelligence artificielle la plus compréhensible et la plus fiable à l’heure actuelle.

Le raisonnement du TbD-net

Si vous demandez à ce réseau neuronal de déterminer la couleur du grand carré qui se trouve dans une image pleine d’autres formes avec des tailles et des couleurs différentes, TbD-net décomposera la question et traitera spécifiquement chaque partie avec des modules différents.

Un module permettant de rechercher les gros objets cherchera les formes volumineuses dans l’image. Le logiciel affichera une carte thermique pour déterminer laquelle de ces grandes formes est carrée. Le programme utilisera un autre module pour identifier la couleur et sortir la réponse. Plus important encore, l’IA présentera une représentation visuelle du raisonnement qu’elle a effectué pour arriver à cette conclusion.

Un réseau neuronal quasi parfait

Les scientifiques ont testé le TbD-net avec un ensemble de données visuelles comportant 70 000 images de formation et 700 000 questions ainsi que des ensembles de tests et de validation de 15 000 images et 150 000 questions. Le réseau de neurones a donné un taux de précision de 98,7%. C’est le taux de précision le plus élevé parmi toutes les autres approches effectuées sur d’autres réseaux neuronaux.

Selon les experts du MIT, l’IA biaisée fait partie des principales préoccupations technologiques de notre époque. Ils déclarent également que ces créations d’IA, telles que le TbD-net, permettront d’accroître les niveaux de transparence et de prévenir les dangers technologiques qui peuvent nuire à l’être humain.