Mark Zuckerberg souhaite empêcher les gens de diffuser leur suicide sur Facebook Live et il a même une idée assez nette de la stratégie à adopter pour éviter ce type de dérapages.
Facebook Live est un service redoutable, c’est indéniable. Grâce à lui, les internautes peuvent en effet partager ce qu’ils sont en train de vivre en un instant avec leur smartphone et s’improviser ainsi reporter. Le problème, bien sûr, c’est qu’il est extrêmement difficile de modérer ces contenus. Ils sont en effet diffusés en direct et ils échappent par conséquent à toute forme de contrôle.
Facebook compte confier la gestion des contenus à une IA.
L’entreprise américaine s’est donc retrouvée au cœur de plusieurs polémiques depuis le lancement de cette fonction.
Facebook Live, une véritable Boîte de Pandore numérique
Comme cette fois où une femme a diffusé son suicide en direct en s’immolant par le feu après avoir fait une halte à une station essence située à La Rochelle, par exemple.
Mark Zuckerberg a parfaitement conscience du problème et il l’a reconnu dans une longue lettre publiée cette nuit sur la plateforme.
Il n’évoque pas seulement les suicides dans cette publication par ailleurs. L’homme évoque également d’autres contenus dérangeants. Les exemples ne manquent pas, de toute manière.
Les modérateurs ont beau faire preuve de zèle, ils ne sont pas suffisamment nombreux pour contrôler les publications et les vidéos partagées par les deux milliards de personnes qui fréquentent régulièrement la plateforme. Dans ce contexte, Mark Zuckerberg et ses ingénieurs envisagent donc de confier la modération de leur service à une intelligence artificielle.
D’après lui, seule une IA sera réellement en mesure de vérifier les contenus partagés par les internautes et de comprendre ce qui se passe au sein de cette communauté riche de plusieurs centaines de millions de personnes.
Comme il l’indique lui-même dans sa lettre, Facebook voit passer chaque jour des milliards de messages et de commentaires. Il est évidemment impossible de tous les vérifier manuellement et c’est d’ailleurs ce qui a poussé l’entreprise à mettre en place son système de signalement, un système repris d’ailleurs pour faire face à l’épineux problème des fake news.
Une IA pour faire le ménage et éviter les débordements
Ce système s’est montré plutôt efficace par le passé, mais il n’est pas parfait pour autant. Le problème des signalements, c’est qu’ils doivent eux aussi être étudiés par les modérateurs de la plateforme.
Mark Zuckerberg estime donc que ce mécanisme n’est pas suffisant. Bien au contraire. Pour lui, la seule solution viable consiste donc à s’appuyer sur une intelligence artificielle.
Il n’en reste cependant pas là dans son message. En réalité, Facebook est actuellement en train de tester une première version de cette fameuse IA, une version gérant à l’heure actuelle environ un tiers des signalements faits aux modérateurs de la plateforme.
Alors bien sûr, il faudra encore quelques mois, ou même quelques années, avant que cette intelligence artificielle ne fonctionne au summum de sa capacité, mais elle devrait à terme être capable de remplacer les modérateurs de la plateforme.
Mais ce projet a aussi un autre intérêt évident pour l’entreprise. Pour se perfectionner, une intelligence artificielle a besoin d’énormes quantités de données. Les milliards de messages partagés quotidiennement sur Facebook pourraient donc être extrêmement profitables à cette fameuse IA… et par extension à l’entreprise elle-même.