Progresser-en-maths

Maths + Toi = 1

twitch logo
Actualités Informatique

Machine learning : Twitch va détecter ceux qui échappent aux bans

Twitch continue ses efforts pour réduire le harcèlement avec un nouvel outil qui utilise le machine learning. Cette outil a pour vocation détecter les personnes qui tentent de contourner les bans. C’est le dernier ajout de l’entreprise pour lutter contre des choses comme les raids haineux. Ces raids font que les discussions des streamers sont envahies par des trolls envoyant des messages de haine.

Le nouvel outil, appelé selon The Verge, Suspicious User Detection, peut identifier les utilisateurs comme des personnes « probables » ou « possibles » qui ont échappé aux interdictions de la chaîne d’un streamer. Le modèle de machine learning qui alimente l’outil identifie les fraudeurs potentiels. Il évalue des éléments tels que leur comportement et les caractéristiques de leur compte et compare ces informations aux comptes qui ont été bannis de la chaîne d’un streamer.

Les messages des fraudeurs « probables » ne seront pas envoyés au chat, mais les streamers et leurs modérateurs peuvent les voir. Les streamers et les modérateurs peuvent choisir de surveiller un fraudeur probable. Ce choix ajoute cet utilisateur à une liste de surveillance et place un message à côté du nom d’un utilisateur notant la surveillance, ou les bannit. Les messages de « possibles » évadés apparaîtra dans le chat. Les streamers et modérateurs peuvent alors choisir d’avoir ces messages bloqués de conversation aussi bien.

Twitch dit qu’il activera la détection des utilisateurs suspects par défaut. Mais, les streamers peuvent modifier ou désactiver l’outil s’ils le souhaitent. Les streamers et les modérateurs peuvent également sélectionner manuellement pour surveiller les utilisateurs dont ils se méfient.

Cet outil a été conçu pour donner aux modérateurs et aux créateurs plus d’informations sur les fraudeurs potentiels. Le but est qu’ils puissent prendre des décisions plus efficaces et éclairées au sein de leur chaîne.

La détection des utilisateurs suspects semble pouvoir faire la différence pour faire taire les individus haineux. Cette détection fonctionne bien si elle est utilisée en plus des contrôles récemment introduits qui permettent à un streamer d’exiger une vérification par téléphone ou par e-mail pour les comptes participant au chat. Il reste maintenant à voir dans quelle mesure la détection des utilisateurs suspects sera efficace dans la pratique ou si les fraudeurs peuvent à nouveau trouver des moyens de contourner l’outil.

Vous avez aimé cet article ? Retrouvez tous nos articles dans le même thème :

Laisser un commentaire