L’intelligence artificielle contre l’apologie du terrorisme sur Facebook

Facebook est très apprécié des groupes terroristes. Nombre d’entre eux utilisent ainsi la plateforme pour promouvoir leurs opérations ou trouver de nouvelles recrues. Les États font donc pression sur l’entreprise américaine. En avril dernier Emmanuel Macron avait d’ailleurs affirmé son intention de soumettre les géants de l’internet à une obligation absolue de résultats en matière de terrorisme.

En interne, les employés du groupe sont également soumis à de fortes pressions. Six d’entre eux courent même un risque élevé, car elles appartiennent au service antipropagande djihadiste de la firme.

IA Facebook

L’un d’entre eux a d’ailleurs choisi de quitter l’Irlande pour se sentir en sécurité. Facebook se devait donc de réagir.

Une IA pour lutter contre le terrorisme

Sans surprise, la firme a décidé de se tourner vers l’intelligence artificielle pour accentuer la lute contre ces contenus et dispenser  du même coup les modérateurs humains de cette tâche périlleuse.

Depuis un certain temps, des modérateurs de Facebook surveillent des diffuseurs d’images violentes ou pornographiques. Ils essaient également de contrôler les activités de potentiels terroristes au sein du réseau social. Ceux-ci seraient probablement associés à Daech, au Hezbollah et au Parti des Travailleurs du Kurdistan.

Néanmoins, cette disposition est facilement contournée par les agents de communication de ces groupes. Récemment, des données personnelles des modérateurs de Facebook ont été notifiées aux personnes qu’ils surveillaient. C’est pourquoi Monika Bickert, directrice de la politique publique de la société, préconise l’utilisation d’une IA adaptée.

Un plan d’action précis pour limiter les contenus de propagande

Facebook a présenté le contenu de son plan d’action dans un communiqué. Au lieu de chercher à supprimer les contenus violents, le réseau social a décidé d’éviter leur publication.

Pour ce faire, la firme emploie une intelligence artificielle basée sur la correspondance d’images et la compréhension du langage.

La première se fonde sur une base de données rassemblant toutes les informations qui ont été classées comme à caractères « terroristes ». Toutes les images ou vidéos nouvellement postées doivent désormais y passer. La seconde passe par un algorithme qui s’efforce de comprendre les textes publiés, a expliqué Brian Fishman, le manager de l’équipe antiterroriste du réseau social.

Il faudra cependant attendre encore quelques mois pour pouvoir juger de l’efficacité réelle de cette IA.

1 réflexion au sujet de « L’intelligence artificielle contre l’apologie du terrorisme sur Facebook »

  1. je n’ai aucune sympathie pour la propagande de haine, et de fausse nouvelles, mais c’est une pente glissante.
    LA première est la définition des propos à interdire :
    – le jihadism il y a consensus
    – le nazisme aussi
    mais que penser des mensonge que propage le monde sur le glyphosate ? de la propagande communiste ? des climatosceptiques ? des antivaccisn ? des opposants à l’avortement, ou des supporters ? de lafusion froide, ou de ceux qui en nient les preuves ? de l’Emdrive ? de la phytothérapie ? des blogs pro-OGM qui tachent les anti-OGM ? les mensonges du bio, ou de ceux qui le dénoncent contre l’opinion général et les agence de pub?

    ou mettre la limite ? que doit t’on décider comme toxique ?
    quand le défend le glyphosate j’ai plein de chercheurs derrières moi, et plein de politiciens contre moi…

    qui va décider de l’Index de l’Eglise?

    l’IA je le sais à une puissance incroyable pour détecter même les subtiles tentative de la contourner. elle est plus maline qu’une loi, et s’adapte à l’intelligence humaine…

    elle peut vraiement nous réduire en dessous de la liberté d’expression de la Corée du Nord, du Meilleur des Monde, de 1984..
    elle peut aller bien plus loin…
    veux t’on de ca?

    au final la liberté d’expression, sous la condition de la liberté de critiquer, et de condamner les actes, ca me semble moins risqué.
    paradoxalement je sous bien moins opposé aux écoutes, qu’a la censure…

    Répondre

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.