Des mathématiciens ont formulé un problème que l’intelligence artificielle ne pourrait jamais résoudre malgré le potentiel apparemment illimité de l’apprentissage automatique. Selon les scientifiques, le résultat d’une étude a démontré que même les algorithmes les plus intelligents sont limités par des contraintes mathématiques.
Il s’agit d’un problème qui ne pourrait pas être résolu avec une réponse vraie ou fausse.
La conscience de ces limitations mathématiques serait liée aux « théorèmes de l’incomplétude » du célèbre mathématicien autrichien Kurt Gödel, développé dans les années 1930. L’illustre scientifique estimait que toutes les questions mathématiques ne peuvent pas être réellement résolues.
« Les mathématiques ont parfois un coût… tout n’est pas prouvable », ont écrit les chercheurs dirigés par l’informaticien Shai Ben-David de l’Université de Waterloo. « Ici, nous montrons que l’apprentissage automatique partage ce destin ».
Une impasse permanente
Les chercheurs ont commencé par enquêter sur un problème d’apprentissage appelé EMX ou « estimation du maximum ». Ils l’ont expérimenté à travers un site Web qui cherche à afficher une publicité ciblant les visiteurs de la plateforme sans les connaitre à l’avance.
Ce problème présente des similitudes avec un cadre nommé PAC ou « apprentissage approximativement correct ».
En plus, la question est similaire à un paradoxe appelé « hypothèse du continuum », un autre champ d’investigation pour Gödel. Ce sont des énigmes mathématiques qui ne peuvent pas être prouvées par des réponses définitives. Dans ce cas, l’apprentissage automatique pourrait se retrouver dans une impasse permanente.
L’aptitude d’une machine à apprendre peut ainsi être limitée par des mathématiques impossibles à démontrer. Les théorèmes d’incomplétude et l’hypothèse du continuum seraient loin de prouver « la véracité ou la vérité ». En outre, le développement de l’IA pourrait, hypothétiquement, se contenter d’une réponse approximative.
L’apprentissage automatique est un sous-domaine des mathématiques
« Pour nous, c’était une surprise », a confié Amir Yehudayoff, un mathématicien de l’Institut de technologie d’Israël.
« Les chercheurs ont identifié un problème d’apprentissage automatique dont le sort dépend de l’hypothèse du continuum, laissant sa résolution hors de portée », a écrit le mathématicien et informaticien Lev Reyzin de l’Université de l’Illinois à Chicago.
Reyzin n’a pas participé aux recherches, mais a tenu à émettre son avis. « L’apprentissage automatique a mûri en tant que discipline mathématique et a rejoint maintenant les nombreux sous-domaines des mathématiques qui traitent du fardeau de l’improbabilité et du malaise qui l’accompagne », a-t-il expliqué.