L’IA pour combattre la violence à l’école ?

L’IA sert à pas mal de choses différentes. Elle peut conduire nos voitures à notre place ou même nous aider à prendre de plus belles photos. La Shawsheen Valley Technical High School du Massachusetts a pour sa part décidé de l’utiliser pour combattre la violence à l’école.

Beaucoup l’oublient en grandissant, mais l’école élémentaire, le collège ou même le lycée n’ont rien d’une sinécure. Entre le harcèlement scolaire, le racket et les violences infligées entre camarades de classe, ces années peuvent parfois être difficiles.

WebTorrent Desktop 1

En dépit de toutes les réformes mises en place, la violence, la dépression et l’isolement forment le quotidien de nombreux étudiants.

L’IA à la rescousse des établissements scolaires

Fermement décidée à améliorer la situation, la Shawsheen Valley Technical High School du Massachusetts a donc eu l’idée de faire appel aux services d’une entreprise spécialisée dans l’analyse de données pour s’assurer du bien-être de ses étudiants.

Social Sentinel, c’est le nom de l’entreprise en question, a ainsi développé une intelligence artificielle capable d’analyser les interactions entre les étudiants sur les réseaux sociaux afin de repérer les comportements à risque, des comportements susceptibles de déboucher sur des relations conflictuelles ou même sur l’isolement des élèves.

Pour en arriver là, les ingénieurs de l’entreprise ont travaillé en étroite collaboration avec des linguistes et des psychologues afin de dresser une liste des indicateurs pouvant révéler une situation à risque.

En tout, Social Sentinel et ses partenaires ont ainsi identifié un peu plus de quatre cent cinquante milles indicateurs capables de prévenir des comportements potentiellement malveillants, et ils les ont utilisés pour constituer une base de données de référence.

Une IA entraînée pour repérer les comportements à risque

Afin de mettre au point l’outil le plus précis et le plus pertinent possible, les ingénieurs de l’entreprise ont également pris en compte le langage utilisé par les  auteurs des tueries de masse survenues dans les établissements scolaires américains ces dernières années afin de repérer des similitudes et de créer des modèles.

Contrairement à ce que l’on pourrait penser, la Shawsheen School n’est pas la seule à travailler sur une solution de ce type. Miami a en effet débloqué trente millions de dollars de fonds publics pour améliorer son système de sécurité et recruter du personnel formé pour suivre les interactions entre les élèves sur les réseaux sociaux.

Au Tennessee, une autre école a mis en place un outil de surveillance des réseaux sociaux capable de générer des alertes lorsque certains termes sont utilisés par les élèves.

Si ces mesures sont parfaitement compréhensibles compte tenu du contexte actuel et des fusillades qui se sont déroulées ces dernières années sur le sol américain, elles ne sont pas sans soulever d’épineuses questions. Beaucoup s’inquiètent en effet de voir émerger des solutions de surveillance de masse, des solutions susceptibles de porter – à terme – atteinte aux libertés individuelles.

Mots-clés insolite