L’IA est partout et elle ne se limite plus à nos ordinateurs ou nos smartphones. Elle est également présente dans nos voitures, nos frigidaires ou même dans nos villes. Le milieu scientifique ne fait pas exception à la règle et les astronomes font ainsi souvent appel à ses services.
Et parfois, elle peut même s’avérer très utile. En 2018, une IA développée par Google a ainsi permis à la NASA de détecter une nouvelle exoplanète.
Crédits Pixabay
Mais voilà, le recours à ces intelligences artificielles ne semble pas être dépourvu de risque et c’est ce qui transparaît de cette étonnante expérience menée par une équipe espagnole.
Un motif étrange repéré par une IA sur Cérès
L’équipe en question était dirigée par Gabriel G. De la Torre, un chercheur travaillant pour l’Université de Cadix en Espagne. Avec ses confrères, l’homme a réuni une sélection de photos de la planète naine Cérès, des photos fournies par l’agence spatiale américaine.
Il a ensuite utilisé une IA développée spécialement pour l’occasion afin d’analyser ces images. La mission de cette intelligence artificielle était de pointer du doigt les éventuelles incohérences de ces images. L’expérience a été fructueuse et cette dernière a ainsi mis en évidence un motif étrange ressemblant à un triangle présent à l’extérieur d’un carré.
Après analyse, les chercheurs ont pu déterminer que la forme en question n’avait rien d’artificiel. Il s’agissait en réalité d’une formation rocheuse complexe comme on en voit très souvent sur ce type de corps.
Les chercheurs ont cependant voulu mesurer l’impact d’une telle découverte sur le public. Ils ont donc réuni un panel de 163 volontaires, des volontaires ne disposant d’aucune formation en astronomie.
L’IA, cette influenceuse qui s’ignore
En analysant l’image incriminée, 93 % d’entre eux n’ont vu que la partie carrée de la formation rocheuse.
Jusque là, rien d’anormal, mais la seconde partie de l’expérience est plus intéressante, puisque les chercheurs ont alors révélé aux volontaires les découvertes réalisées par leur intelligence artificielle. Ce qui a eu un impact direct sur le panel puisque le nombre de personnes voyant à la fois le carré et le triangle est passé de 7 % à 56 %.
Que peut-on en déduire ? Tout simplement que l’IA peut directement influencer le jugement humain. Et c’est évidemment un problème comme le souligne Gabriel G. De la Torre :
“Les participants [de l’étude] et l’intelligence artificielle ont détecté une structure carrée dans les images, mais l’IA a également identifié un triangle. Malgré ses applications multiples, l’intelligence artificielle pourrait nous embrouiller et nous dire qu’elle a détecté des choses impossibles ou fausses.
Nous devons [donc] être prudents avec sa mise en oeuvre et son utilisation dans la recherche de l’intelligence extraterrestre.”
De la nécessité de faire preuve d’esprit critique
Dans ce cas précis, la forme détectée par l’intelligence artificielle des chercheurs espagnols n’en est pas vraiment une. Cérès est en effet une planète naine assez complexe. Pendant longtemps, des éclats lumineux inexpliqués ont été détectés à sa surface, des éclats qui ont donné vie à des théories très farfelues au cours de ces dernières années. Et ce jusqu’à ce que la NASA découvre la présence de glace volcanique et de sels à la surface de la planète.
Et une fois encore, le motif à l’origine de cette étude ne semble pas avoir d’existence réelle. D’après les chercheurs, il aurait été généré par des effets d’ombres et de lumière. Le site où il se trouve est en effet connu de longue date et il s’agit de Vinalia Faculae.
Alors bien sûr, De la Torre ne considère pas les IA comme inutile, mais il appelle simplement à la prudence. Aussi évoluées soient-elles, les intelligences artificielles ne sont pas encore capables de faire preuve d’esprit critique et c’est précisément pour cette raison qu’il ne faut pas leur accorder trop de crédits.