Masseskytingen i New Zealand viser hvor ødelagte sosiale medier er

Kategori: Silicon Valley Lagt ut 15. mars

En bevæpnet mann live-streamet drapet på dusinvis av uskyldige i to moskeer i Christchurch, New Zealand, på fredag ​​– og verden fikk en forferdelig påminnelse om hvor mangelfulle eksisterende retningslinjer og algoritmer for sosiale medier er for å politie voldelig og støtende innhold.

I dagene før skytingen skrøt gjerningsmannen tilsynelatende av planene sine og la ut et manifest på nett. Deretter sendte han den grusomme handlingen direkte på Facebook. Angrepet førte til at 49 mennesker døde og flere titalls såret.

Direktestrømming: I løpet av de siste 18 månedene, etter trakassering og falske nyhetsskandaler, har selskaper i sosiale medier investert tungt i innholdsmoderatorer . Men dette gjorde lite for å stoppe videoen av skytingen fra å spre seg. Ikke bare var livestrømmen angivelig oppe i 20 minutter, men den resulterende videoen ble deretter lagt ut på YouTube på nytt, med noen klipp som gjensto i over en time.

Flere faktorer bidro til å la opptakene slippe gjennom filtrene, ifølge eksperter.

Sanntidsutfordring: Det er viktig å fange en video raskt, slik at den ikke sprer seg til andre plattformer. Men moderering i sosiale medier er rett og slett ikke rettet mot å fange innhold i sanntid. Det er umulig å automatisere prosessen effektivt, og å identifisere direktestrømmer som må slås av manuelt er som å finne en nål i høystakken av data som flyter over nettverket hele tiden, sier Charles såpe , professor ved NYUs School of Journalism. Han legger til at Facebook kan kreve at brukerne bygger opp et rykte før de lar dem streame innhold live, for å redusere risikoen.

Whack-a-mole: Moderatorer er overveldet i de beste tider. Videoen av skytingen som ble arrangert på YouTube spredte seg sannsynligvis så raskt at menneskene som ble ansatt for å se etter upassende innhold, ikke hadde tid til å fange alt. Disse arbeiderne har vanligvis noen sekunder på seg til å ringe. Prosessen kan delvis automatiseres, men de som repostet opptakene har tilsynelatende klippet det og introdusert forvrengninger for å unngå disse algoritmene.

Algoritmisk feil: Sosiale medier-selskaper bruker også algoritmiske justeringer for å deprioritere mistenkelig innhold. Men Mike Ananny , en førsteamanuensis ved University of Southern California, sier at disse algoritmene sannsynligvis ble kastet av populariteten til de fornærmende videoene.

Ikke vårt problem: Disse faktorene gjenspeiler det viktigste systemiske problemet: Facebook, YouTube og andre store sosiale plattformer ser ikke på seg selv som dommerne for innhold i utgangspunktet. Forskning har vist at høyreekstreme informasjonskilder kan overvåkes mer proaktivt for å hindre at voldelig eller hatefullt materiale spres. De har denne holdningen av å være post hoc, sier Ananny. Det er en dyp kulturell ting.