Microsoft s’est engagé dans une véritable chasse aux sorcières. Le 09 janvier 2020, la firme de Redmond a annoncé qu’elle avait développé un outil destiné à analyser les chats en ligne pour repérer les prédateurs sexuels qui chercheraient à exploiter des enfants. Microsoft se sert déjà de la même technologie sur les services de gaming Xbox pour analyser les messages des utilisateurs et détecter les pédophiles.
L’éditeur ne limite plus l’utilisation de ce système d’analyse aux services de gaming de Xbox. Désormais, les entreprises œuvrant dans la tech peuvent également y avoir accès. Microsoft a indiqué que cet outil sera également intégré à ses services de chat comme Skype.
Baptisé « Projet Artemis, » cet outil analyse les données dans l’historique des messages des utilisateurs pour essayer de déterminer s’il s’agit d’une discussion à risque.
Un outil qui facilitera la modération de certaines plateformes
A l’issue de son analyse, le Projet Artemis classera les discussions selon une échelle de probabilité. Courtney Gregoire, responsable de la sécurité numérique au sein de Microsoft, a expliqué que les entreprises qui utiliseront l’outil pourront se servir de cette échelle pour déterminer si un modérateur humain doit intervenir pour donner son avis sur la conversation.
Dernièrement, la pornographie infantile et l’exploitation de mineurs en ligne a connu une hausse alarmante. Les entreprises technologiques essayent par tous les moyens d’endiguer la propagation de ce type de contenus, mais le nombre d’images et de textes circulant quotidiennement sur les applications de chats privées rend la modération plus difficile.
D’après le New Yort Times, les entreprises technologiques ont signalé 45 millions d’images d’abus sexuels sur des enfants en 2018.
Un outil accessible gratuitement
Courtney Gregoire a déclaré que le Projet Artemis représentait « un pas en avant significatif », mais que ce n’était pas encore la réponse à tous nos problèmes. Microsoft n’a pas travaillé seul sur cet outil.
Pour perfectionner ce dispositif, la firme de Redmond a collaboré avec les sociétés The Meet Group, à l’origine du jeu en ligne Roblox, et Thorn, une organisation à but non lucratif fondée par Demi Moore et Ashton Kutcher qui lutte contre les abus sexuels sur mineurs. Cette équipe a été dirigée par le Professeur Hany Farid, de la Dartmouth College Computer Science.
Microsoft a indiqué que cet outil sera mis gratuitement à disposition de plusieurs services en ligne.