La plateforme de streaming de parties de jeu vidéo annonce l'installation d'un système de détection des harceleurs, notamment homophobes et racistes, qui sévissent sur Twitch.
La passion du jeu vidéo, quand on fait partie de la communauté LGBTQI+, amène parfois à se retrouver face à des harceleurs. Sur Twitch, la plateforme de livestream de parties de jeux vidéo, les haters homophobes et racistes se déplacent souvent en meute, et c'est une vague de haine qui s'abat alors sur les streamers visés. Pour lutter contre le phénomène, Twitch a annoncé ce 30 novembre la mise en place d'un nouvel outil pour identifier les harceleurs même quand, bannis du live par son hôte, ils reviennent via de nouveaux comptes. Rappelons qu'en août dernier notamment, des streamers avaient lancé le #ADayOffTwitch appelant ses utilisateurs à boycotter la plateforme pendant 24 heures pour protester contre ces harcèlements.
À lire aussi : Lutte contre le harcèlement scolaire : pourquoi l'école échoue encore
Twitch et les bots
Baptisé "Suspicious User Detection", en français "détecteur d'utilisateur suspect", ce nouvel outil "est là pour vous aider à identifier ces utilisateurs en fonction de certains signaux […] afin que vous puissiez prendre des mesures", indique Twitch dans son communiqué. Ce nouveau programme fait appel à l'intelligence artificielle, plus précisément au machine learning, l'apprentissage automatisé des logiciels. Il classe les suspects en deux catégories : harceleurs "probables" et "possibles". Les messages des premiers n'apparaîtront pas au public dans le chat, tandis que ceux des seconds seront soumis aux joueurs et modérateurs qui décideront au cas par cas du bannissement ou de la simple surveillance des utilisateurs suspects.
Toutefois, comme le précise la plateforme leader du marché qui réunit 30 millions d'utilisateurs, "aucun système de machine learning n'est fiable à 100%. C'est pour cela que le programme n'interdit pas automatiquement tous les potentiels fraudeurs." Ce n'est pas non plus la première initiative de Twitch pour endiguer le phénomène. En septembre déjà, elle avait instauré un outil de modération plus efficace. Car le plus difficile, c'est de ne pas se retrouver noyé sous un flot de "bots", des comptes robots conçus pour multiplier les insultes à l'encontre en particulier des personnes LGBTQI+ ou racisées. C'est dans le but de reconnaître ces bots qu'avait dans le même temps été installé un système d'authentification avec numéro de téléphone portable ou mail pour accéder au chat.
À lire aussi : Quand Disney+ empêche de dire "gay" ou "lesbienne" sur TikTok
Crédit photo : Florian Olivo via Unsplash
