Selvfølgelig kunne du ha sett dette komme

Chris Kleponis/Sipa USA, via AP Images

Kanskje du så dette komme for nesten et tiår siden, da #YourSlipIsShowing avslørte hvordan rasistiske Twitter-brukere etterlignet svarte kvinner på internett. Kanskje, for deg, var det under Gamergate, online overgrepskampanjen rettet mot kvinner i bransjen. Eller kanskje det var masseskytingen i Christchurch, New Zealand, da en våpenmann gjennomsyret 8chan-kulturen livestreamet seg selv og myrdet dusinvis av mennesker.

Kanskje det var da du, eller vennen din, eller fellesskapet ditt, ble målet for en ekstremistisk nettmobbe, og du så sinne på nettet bli en reell fare og skade.

Eller kanskje det som skjedde onsdag, da en rabbling av internettdrevne Trump-tilhengere invaderte Capitol, kom overraskende.

I flere uker hadde de planlagt handlingen sin på internett – men de har vist deg hvem de er i årevis. Nivået av sjokk du føler akkurat nå om kraften og faren ved ekstremisme på nettet avhenger av om du var oppmerksom.

Konsekvensene av passivitet

Mobben som prøvde å blokkere Kongressen fra å bekrefte Joe Bidens presidentseier, viste hvordan dumheten og faren ved det høyreekstreme internett kunne komme inn i den virkelige verden igjen, men denne gangen rammet det sentrum av den amerikanske regjeringen. Nynazistiske streamere var ikke bare inne i Capitol; de satte opp et show for publikum på titusenvis av mennesker som egget dem i chatten. Mobben hadde det gøy med å gjøre memer i hallene til det amerikanske demokratiet som kvinne— en Trump-supporter hvis sosiale medier-historie viser hennes hengivenhet til QAnon - ble drept mens han prøvde å bryte seg inn i kongressens kontorer.

Relatert historie

Hvordan en internettløgn om Capitol-invasjonen ble til en umiddelbar konspirasjonsteori Falske påstander om at invasjonen av Kongressen ble iscenesatt spredte seg i et forrykende tempo – takket være aktivister, media og republikanske politikere.

Det siste året, spesielt siden pandemien, har vært en gigantisk demonstrasjon av konsekvensene av passivitet: konsekvensene av å ignorere de mange, mange menneskene som har tigget sosiale medieselskaper om å ta de memeskapende ekstremistene og konspirasjonsteoretikere som har trivdes med deres plattformer seriøst.

Facebook og Twitter handlet for å bremse fremveksten av QAnon over sommeren , men først etter at pro-Trump-konspirasjonsteorien var i stand til det vokse relativt ubegrenset der i tre år . Kontoforbud og algoritmejusteringer har lenge vært for lite, for sent til å håndtere rasister, ekstremister og konspirasjonsteoretikere, og de har sjelden adressert det faktum at disse kraftige systemene fungerte nøyaktig etter hensikten.

Jeg snakket med en liten håndfull av folkene som kunne ha fortalt deg at dette kom for en historie i oktober. Forskere, teknologer og aktivister fortalte meg at store sosiale medieselskaper har valgt å ikke gjøre noe, eller bare handle i hele sin historie. etter deres plattformer forårsaker misbruk og skade.

Ariel Waldman prøvde å få Twitter til meningsfullt å adressere misbruk der i 2008. Forskere som Shafiqah Hudson, I’Nasah Crockett og Shireen Mitchell har sporet nøyaktig hvordan trakassering fungerer og finner et publikum på disse plattformene i årevis. Whitney Phillips snakket om hvordan hun hjemsøkes av latter – ikke bare fra andre mennesker, men også fra sine egne – tilbake i de tidligste dagene av forskningen hennes på nettkultur og trolling, da overveldende hvite forskere og personligheter behandlet ekstremistene blant dem som edgy kuriositeter.

Mange, mange mennesker har tryglet sosiale medieselskaper om å ta meme-skapende ekstremister og konspirasjonsteoretikere på alvor.

Ellen Pao, som kortvarig fungerte som administrerende direktør for Reddit i 2014 og trakk seg etter å ha introdusert plattformens første anti-trakasseringspolitikk, var overrasket over at Reddit hadde forbudt r/The_Donald først i juni 2020, etter at bevis hadde bygget opp i årevis for å vise at den populære pro-Trump oppslagstavle fungerte som et organiseringsrom for ekstremister og en kanal for mobbovergrep. Selvfølgelig, da det ble forbudt, hadde mange av brukerne allerede migrert bort fra Reddit til TheDonald.win, et uavhengig forum opprettet av de samme personene som kjørte den forrige versjonen. Sidene var fylt med dusinvis av oppfordringer til vold i forkant av onsdagens rally snudde et kuppforsøk.

Å forby Trump løser ikke problemet

Facebook, Twitter og YouTube skapte selvfølgelig ikke konspirasjonstenkning eller ekstremistiske ideologier. De fant heller ikke opp ideen om farlige personlighetskulter. Men disse plattformene har – ved design – gitt disse gruppene mekanismene for å nå ut til mye større publikum mye raskere, og for å rekruttere og radikalisere nye konvertitter, selv på bekostning av menneskene og samfunnene disse ideologiene sikter mot for misbruk. Og avgjørende, selv når det var klart hva som skjedde, valgte de minimalt med endring – eller bestemte seg for ikke å gripe inn i det hele tatt.

I kjølvannet av kuppforsøket i Capitol-bygningen, ser folk igjen på de store sosiale medieselskapene for å se hvordan de reagerer. Fokuset er på Trumps personlige kontoer , som han brukte for å oppmuntre supportere til å gå ned til DC og deretter rose dem når de gjorde det. Blir han utestengt fra Twitter? Det er overbevisende argumenter for hvorfor han burde være det.

Men så tungt og konsekvensmessig som det ville være, er det også, på andre måter … ikke. Misbruk, trakassering, konspirasjonstenkning og rasisme vil fortsatt kunne dra nytte av sosiale medieselskaper som fortsatt er interessert i å handle når det er for sent, selv uten at Trump retweeter dem og egger dem på.

Facebook har forbudt Trump på ubestemt tid, og det har også økt moderering av grupper, der mye konspirasjonsdrevet aktivitet lever. Disse endringene er gode, men igjen, ikke nye: folk har fortalt Facebook om dette i årevis; Facebook ansatte har fortalt Facebook om dette i årevis. Grupper var medvirkende til å organisere Stop the Steal-protester i dagene etter valget, og før det i antimaskeprotester, og før det i å spre falske nyheter, og før det som et sentralt rom for feilinformasjon mot vaksine. Ingenting av dette er nytt.

Det er bare så mange måter å si at flere burde ha lyttet. Hvis du er oppmerksom nå, vil du kanskje endelig begynne å høre hva de sier.

gjemme seg