Twitch kommer att bättre skydda streamers från troll tack vare djup inlärning

Ibland anklagas plattformen för passivitet inför trakasserier och våld på nätet från några av sina användare. Rycka till
tillkännagav introduktionen av ett nytt system för att bättre skydda sina streamers från skadliga Internetanvändare.

Detta nya modereringsverktyg är baserat på artificiell intelligens. Det kommer bland annat att upptäcka de som skapar nya konton för att återgå till de kanaler som förbjöd dem.

Ett nytt modereringsverktyg baserat på djupinlärning

I många månader har Twitch kämpat för att hejda en våg av rasistiska och homofobiska trakasserier som består av haträder avsedda att skada vissa kreatörer. Mer konkret översvämmer illvilliga internetanvändare sina offers chattar med förolämpningar och ibland till och med chockerande bilder. Och även när streamers förbjuder dem kommer de tillbaka med ett nytt anonymt konto, eftersom Twitch låter dig skapa flera profiler med en enda e-postadress. Det är på denna sista punkt som det nya modereringsverktyget kommer att agera.

Kallas Suspicious User Detection, detta nya system är baserat på artificiell intelligens och tillåt moderatorer att vidta åtgärder mot konton som försöker undvika förbud “, meddelar streamingplattformen i ett pressmeddelande daterat den 30 november 2021. Verktyget kommer konkret att använda djupinlärning (automatiserad mjukvaruinlärning) för att identifiera misstänkta konton genom att analysera ” ett antal signaler », utan att veta vilka.

Osäker tillförlitlighet

Verktyget kommer då att skilja mellan troll ” sannolik “och” möjlig “. I det första fallet kommer användarens meddelanden automatiskt att döljas i chatten, och de kommer endast att ses av moderatorer som kan agera därefter. I den andra kommer personen att kunna skriva normalt i diskussionstråden, men alla deras meddelanden kommer att rapporteras till moderatorerna som kommer att kunna övervaka deras beteende. Streamers kommer dock att kunna förhindra användare som anses vara fall ” möjlig för att interagera i standardchatten via verktygsalternativen.

Funktionen kommer också att aktiveras automatiskt på alla Twitch-streamerkonton och kan avaktiveras efter behag, med vetskapen om att moderatorer alltid manuellt kan lägga till konton som de finner misstänkta. Det återstår att se om detta nya modereringsalternativ kommer att vara riktigt effektivt i händelse av en raid, särskilt eftersom det kommer att ta månader av inlärning innan det verkligen är effektivt.
” Inget maskininlärningssystem är 100 % tillförlitligt, vilket innebär att det finns risker för falska positiva eller falska negativaspecificerar också Twitch. Det är därför verktyget inte automatiskt utesluter alla potentiella bedragare… »

Källa: Engadget