De l’interprétation du langage des réseaux neuronaux en langage naturel
L’équipe d’Evan Hernandez du MIT a mis au point une méthode qui permet d’éclairer le fonctionnement interne des réseaux neuronaux de la boîte noire. Calqués sur le modèle du cerveau humain, les réseaux neuronaux sont organisés en couches de nœuds interconnectés. Appelés « neurones », ces nœuds traitent les données. Le nouveau système peut reproduire automatiquement des descriptions de ces neurones individuels, générées en anglais ou dans un autre langage naturel.
Les réseaux neuronaux sont parfois appelés « boîtes noires ». Ces dernières ont la capacité de surpasser les humains dans certaines tâches. Cependant, même les concepteurs ne comprennent souvent pas comment ou pourquoi ils fonctionnent si bien. En dehors du laboratoire, la connaissance du fonctionnement du modèle aide les chercheurs à prédire son comportement dans la pratique.
Les chercheurs ont appliqué leur méthode pour auditer un réseau neuronal afin de déterminer ce qu’il a appris. Par ailleurs, leur système permet même de modifier un réseau en identifiant, puis en désactivant les neurones inutiles ou incorrects.
MILAN
Hernandez et ses collaborateurs ont baptisé le système MILAN (annotation linguistique des neurones guidée par l’information mutuelle). Contrairement à la plupart des intelligences artificielles, il ne nécessite pas au préalable une liste de concepts à l’avance. Il peut produire automatiquement des descriptions en langage naturel de tous les neurones d’un réseau.
Une des attributions de MILAN concerne la reconnaissance d’objets et la synthèse d’images.
« Dans un réseau neuronal entraîné à classer des images, il y aura des tonnes de neurones différents pour détecter les chiens. Mais, il y a beaucoup de types de chiens différents et beaucoup de parties différentes de chiens.
Hernandez
Il a insisté sur la nécessité de descriptions très spécifiques de ce que fait ce neurone.
« Il ne s’agit pas seulement de chiens ; il s’agit du côté gauche des oreilles des bergers allemands. »
Analyse, vérification et modification des réseaux neuronaux
Les chercheurs ont analysé l’importance des neurones pour le réseau neuronal. Les neurones dont les descriptions contenaient deux mots très différents présentent une faible influence.
Ensuite, appliqué aux visages humains, MILAN a surpris l’équipe de Hernandez. À l’inverse d’autres systèmes, il est capable de produire toutes sortes de traitements faciaux d’images floutées.
Hernandez et son équipe ont également utilisé MILAN pour modifier un réseau neuronal. La découverte et la suppression des neurones qui détectent de mauvaises corrélations dans les données ont conduit à augmenter la précision du réseau de 5 %.
Toutefois, le modèle émet parfois des descriptions trop vagues. Sinon, il fait une supposition incorrecte lorsqu’il ne connaît pas le concept qu’il est censé identifier. L’équipe prévoit de s’attaquer à ces limitations dans des travaux futurs.
SOURCE : Scitechdaily
