En pågående utredning om rollen som Twitch och Discord i att förstärka Buffalo-morden

New York State vill belysa olika sociala plattformars roll och deras modereringsmetoder.

Moderering av sociala nätverk och gemenskapsplattformar har varit ett stort problem på webben i flera år, och de senaste nyheterna visar det än en gång.

En rasistisk attack direktsänds på Twitch

Lördagen den 14 maj 2022 gick en 18-årig ung man till en stormarknad i Buffalo och mördade 10 personer med tunga vapen, innan han greps av polisen.

Mannen hade sänt sin terroraktion live på streamingplattformen Twitch innan signalen bröts av Amazons dotterbolag två minuter senare. Denna fördröjning var dock tillräcklig för att många internetanvändare skulle kunna hämta en kopia, som fortfarande delas massivt på sociala nätverk idag.

Ett onlinemanifest på 180 sidor avslöjades också av utredarna. Författaren till detta brott beskrev sina motiveringar, och i synnerhet hans anslutning till den rasistiska teorin om den “stora ersättningen”.

Mördaren förklarade sina planer på Discord och andra forum utan att någonsin besväras

Delstaten New York har just inlett en utredning för att förstå hur författaren till mordet i månader kunde diskutera sitt olycksbådande projekt med andra internetanvändare på Discord, 4chan och 8chan. Mördaren använde framför allt Discord 30 minuter innan attacken började och bjöd in några medlemmar att se över hans planer.

Justitiekansler Letitia James, som leder denna utredning, sa att han var ” läskigt och outgrundligt att mannen kunde sprida och förstärka sitt hatretorik utan att dessa plattformar vid något tillfälle kunde moderera hans uttalanden. Discord har genom en av sina talespersoner indikerat sin avsikt att samarbeta med utredarna.

Detta fall påminner oss om att moderering av våldsamt och hatiskt innehåll förblir ett problem för plattformar som, trots sina ansträngningar, verkar överväldigade och oförmögna att hejda fenomenet. Facebook påminde också nyligen om att 21,7 miljoner inlägg som bryter mot dess användningsregler hade raderats bara under första kvartalet 2022. Videoklippet om attacken delades på det sociala nätverket i flera timmar av flera tiotusentals konton innan det drogs tillbaka.

Källa: Engadget