Microsoft va utiliser l’intelligence artificielle pour censurer les gros mots sur le Xbox Live

On trouve beaucoup d’injures et d’insultes dans les discussions en groupe sur les plateformes de communication. Le 14 octobre 2019, Microsoft a dévoilé l’utilisation d’un filtre pour censurer les gros mots dans les chats Xbox live. Rob Smith, manager du programme Xbox Live, a déclaré que le géant de l’informatique veut « s’attaquer au problème de la toxicité du chat vocal ».

Cette nouvelle fonctionnalité est rendue possible grâce à l’intelligence artificielle et les algorithmes d’apprentissage automatique de la synthèse vocale qui envoient un bip en cas de jurons dans les chats, permettant ainsi de contrôler les joueurs.

Crédits Pixabay

Microsoft souhaite surpasser les techniques utilisées par la télévision pour dissiper en temps réel les jurons dans le cadre d’une discussion.

Quatre filtres pour modérer le contenu sur les chats Xbox Live

Microsoft a annoncé la mise en place de quatre niveaux de censure des messages textes dans les discussions en groupe : amical, moyen, adulte et non filtré. L’algorithme de synthèse vocale analyse donc les discours dans le cadre d’une conversation de groupe et élimine automatiquement les gros mots.

L’idée est d’instaurer un système de censure identique à celui utilisé par les réseaux de diffusion comme la télévision dans le cadre d’une discussion. Mais ici, grâce à l’IA et l’apprentissage automatique, on n’a plus besoin d’ingénieur en direct pour retirer la mauvaise phrase.

Ainsi, la nouvelle fonctionnalité ne requiert pas l’intervention humaine, ce qui offre plus de sécurité et de confidentialité pour les informations personnelles des joueurs.

Comme l’explique Rob Smith : « nous devons respecter les exigences de confidentialité à la fin de la journée pour nos utilisateurs, nous allons donc y répondre de manière réfléchie, et à la transparence sera notre principe directeur pour que nous fassions ce qu’il faut pour nos joueurs. »

Vers une censure en temps réel

Malgré le développement des algorithmes de synthèse vocale, la fonctionnalité ne permet pas encore de dissiper en temps réel les insultes alors que les utilisateurs ont besoin d’une communication instantanée dans les discussions de groupe.

L’objectif de Microsoft est donc d’offrir aux utilisateurs une fonctionnalité capable de dissiper les gros mots à la volée en utilisant un serveur centralisé afin d’éviter des retards dans la transmission des messages filtrés. Pour ce faire, la firme va continuer de peaufiner le filtre dans le but de le rendre encore plus performant.

Mots-clés microsoftxbox