Det er for sent å stoppe QAnon med faktasjekker og kontoforbud

Unsplash/@dole777

Twitter er perfekt som megafon for ytre høyre: dets trendemner er enkle å spille, journalister bruker altfor mye tid på nettstedet, og - hvis du er heldig - kan presidenten i USA retweete deg.

QAnon, den kontinuerlig utviklende pro-Trump konspirasjonsteorien, er god på Twitter på samme måte som andre vellykkede internett-innfødte ideologier – å bruke plattformen til å manipulere informasjon, oppmerksomhet og distribusjon på samme tid. På tirsdag, Twitter tok et skritt rettet ved å begrense hvor vellykket QAnon kan være der, inkludert å fjerne rundt 7000 kontoer som fremmer konspirasjonen, utpeke QAnon som koordinert skadelig aktivitet, og forhindre at relaterte termer dukker opp i trend- og søkeresultater.

Vi vil permanent suspendere kontoer som tvitrer om disse emnene som vi vet er involvert i brudd på retningslinjene for flere kontoer, koordinerer misbruk rundt individuelle ofre, eller prøver å unngå en tidligere suspensjon, Twitter annonsert . Selskapet la til at de hadde sett en økning i disse aktivitetene de siste ukene.

De Det rapporterte New York Times at Facebook planla å ta lignende skritt for å begrense rekkevidden til QAnon-innhold på sin plattform neste måned, med henvisning til to ansatte i selskapet som snakket anonymt. På fredag, TikTok blokkerte flere hashtags relatert til QAnon fra søkeresultater.

Dette siste presset for å begrense QAnons rekkevidde følger to høyprofilerte kampanjer drevet av konspirasjonsteorien. Den første amerikanske modellen og kjendisen Chrissy Teigen, som har mer enn 13 millioner følgere på Twitter, var mål av en intens trakasseringskampanje. Så, mer nylig, var QAnon-kontoer medvirkende til å spre en falsk konspirasjonsteori om menneskesmugling om møbelmarkedsplassen Wayfair. Påstandene spredte seg fra Twitters trendbar til Instagram og TikTok kontoer som fremmer teorien til sine følgere.

Relatert historie

Hvordan snakke med konspirasjonsteoretikere – og fortsatt være snill

Eksperter og r/ChangeMyView subreddit-moderatorer tilbyr 10 tips for å avkrefte konspirasjonsteorier på en overbevisende måte.

Denne aktiviteten har synliggjort det svært langvarige problemet med koordinert brigadering. Den typen massetrakassering har en betydelig innvirkning på folks liv, sa Renee DiResta, forskningssjef ved Stanford Internet Observatory og ekspert på desinformasjon på nettet.

Men Twitter-ferdigheter er bare en liten del av hvorfor QAnon har innflytelse, og bare ett eksempel på hvordan plattformer forsterker utkantstro og skadelig aktivitet. Å faktisk stoppe QAnon, sier eksperter, vil kreve mye mer arbeid og koordinering. Det vil si hvis det i det hele tatt er mulig.

En omnikonspirasjon

QAnon ble født i slutten av 2017 etter en spøk president Donald Trump kom med på en pressekonferanse om en stillhet før stormen skapte en rekke mystiske innlegg på 4chan tilskrevet Q, og forutsier den kommende arrestasjonen av Hillary Clinton. Selv om det ikke skjedde, fortsatte Q å poste, og hevdet å vite alt om en hemmelig plan ledet av Trump for å arrestere fiendene hans.

QAnon har sitt opphav i en multiplattformsamtale som startet på sosiale medier, i et pseudonymt miljø, der det ikke er noen konsekvens for tale, sier Brian Friedberg, seniorforsker ved Harvard Shorenstein Centers teknologi- og sosiale endringsprosjekt. Innleggene har flyttet fra ett nettsted til et annet etter forbud, og vises nå på en meldingstavle kalt 8kun.

Innleggene har tiltrukket seg følgere som bruker tiden sin på å tolke disse meldingene, trekke konklusjoner og lede kampanjer for å gjøre meldingene mer synlige. Noen QAnon-tilhengere har ledet koordinerte trakasseringskampanjer mot journalister, rivaliserende nettsamfunn, kjendiser og liberale politikere. Andre har dukket opp på Trump-stevner iført varer med Q-tema. Presidenten har retweetet Twitter-kontoer relatert til Q eller konspirasjonsteorier dusinvis av ganger , selv om det er et åpent spørsmål hvor bevisst han er på hva Q er, utover en bevegelse som støtter presidentskapet hans på internett. Og det har vært flere hendelser vold i det virkelige liv knyttet til QAnon-supportere.

Relatert historie

Hvordan covid-19-konspirasjonsteoretikere utnytter YouTube-kulturen Covid-19-konspirasjonsteoretikere får fortsatt millioner av visninger på YouTube, selv om plattformen slår ned på feilinformasjon om helse.

Den tradisjonelle forståelsen av QAnon var at ideene spres av et relativt lite antall tilhengere som er ekstremt flinke til å manipulere sosiale medier for maksimal synlighet. Men pandemien gjorde det mer komplisert, ettersom QAnon begynte å smelte dypere sammen med feilinformasjon om helse og øker raskt sin tilstedeværelse på Facebook.

På dette tidspunktet har QAnon blitt en omnikonspirasjonsteori, sier DiResta – det handler ikke lenger bare om noen meldingstavleinnlegg, men i stedet en bred bevegelse som fremmer mange forskjellige, koblede ideer. Forskere vet at troen på én konspirasjonsteori kan føre til aksept av andre, og kraftige anbefalingsalgoritmer for sosiale medier har i hovedsak satt turbo på denne prosessen. For eksempel, sier DiResta, forskning har vist at medlemmer av anti-vaksine Facebook-grupper så anbefalinger for grupper som fremmet Pizzagate-konspirasjonsteorien tilbake i 2016.

Anbefalingsalgoritmen ser ut til å ha gjenkjent en sammenheng mellom brukere som delte en overbevisning om at myndighetene skjulte en hemmelig sannhet. Det spesifikke ved den hemmelige sannheten varierte, sier hun.

Forskere har i årevis visst at ulike plattformer spiller ulike roller i koordinerte kampanjer. Folk vil koordinere i en chat-app, meldingstavle eller privat Facebook-gruppe, målrette meldingene sine (inkludert trakassering og overgrep) på Twitter, og være vert for videoer om det hele på YouTube.

I dette informasjonsøkosystemet fungerer Twitter mer som en markedsføringskampanje for QAnon: innhold er laget for å bli sett og interagert med av utenforstående. I mellomtiden er Facebook et kraftsenter for koordinering, spesielt i lukkede grupper.

'Q' har kommet med mange uriktige spådommer og fortsetter å fremme troen på at det er en 'deep state'-komplott mot Donald Trump.

Reddit pleide å være et mainstream-knutepunkt for QAnon-aktivitet, frem til nettstedet begynte å klemme den fast i 2018 for å ha oppfordret til vold og gjentatte ganger brudd på tjenestevilkårene. Men i stedet for å miste makten, flyttet QAnon ganske enkelt til andre vanlige sosiale medier-plattformer hvor det var mindre sannsynlig at det ble forbudt.

Alt dette betyr at når en plattform handler på egen hånd for å blokkere eller redusere virkningen av QAnon, angriper den bare én del av problemet.

Friedberg sa at for ham føles det som om sosiale medier-plattformer ventet på en massevoldshandling for å koordinere en mer aggressiv deplatforming-innsats. Men den potensielle skaden til QAnon er allerede åpenbar hvis du slutter å se det som en pro-Trump-kuriositet og i stedet ser det for hva det er: en distribusjonsmekanisme for desinformasjon av alle varianter, sa Friedberg, og en som tilhengere er villige til å fremme åpent. og identifisere seg med, uansett konsekvensene.

Tre år med nesten uhindret tilgang

Steven Hassan, en mental helserådgiver og en ekspert på kulter som rømte fra Sun Myung Moons Unification Church , kjent som Moonies, sier at det ikke er nok å diskutere grupper som QAnon som et feilinformasjons- eller algoritmisk problem.

Jeg ser på QAnon som en kult, sier Hassan. Når du blir rekruttert til en tankekontroll-kult, og blir indoktrinert i et nytt trossystem ... er mye av det motivert av frykt.

De har hatt tre år med nesten uhindret tilgang til å utvikle seg og utvide.

Folk kan bli avprogrammert fra dette, sier Hassan. Men de som kommer til å lykkes best med dette er familiemedlemmer og venner. Folk som allerede er nær en QAnon-supporter, kan trenes til å ha flere interaksjoner over tid i håp om å trekke personen ut.

Hvis plattformer ønsket å ta opp ideologier som QAnon seriøst, ville de gjort mye mer enn de er, sier han.

For det første må Facebook lære brukerne ikke bare om hvordan de oppdager feilinformasjon, men også om hvordan de skal forstå når de blir manipulert av koordinerte kampanjer. Koordinerte push på sosiale medier er en viktig faktor i QAnons økende rekkevidde på vanlige plattformer , som nylig dokumentert av Guardian. Gruppen har eksplisitt omfavnet informasjonskrigføring som en taktikk for å få innflytelse. I mai fjernet Facebook en liten samling av QAnon-tilknyttede kontoer for uekte oppførsel .

Og for det andre anbefaler Hassan at plattformer stopper folk fra å gå ned i algoritmiske eller anbefalingstunneler relatert til QAnon, og i stedet mater dem med innhold fra folk som ham, som har overlevd og rømt fra kulter – spesielt fra de som ble sugd inn i og klatret ut av QAnon.

Friedberg, som har studert bevegelsen dypt, sier han mener det er absolutt for sent for vanlige sosiale medier-plattformer å stoppe QAnon, selv om det er noen ting de kan gjøre for å for eksempel begrense tilhengernes evne til å evangelisere på Twitter.

De har hatt tre år med nesten uhindret tilgang utenfor visse plattformer for å utvikle og utvide, sier Friedberg. I tillegg har QAnon-tilhengere et aktivt forhold til kilden til konspirasjonsteorien, som stadig legger ut nytt innhold for å tyde og nevner meldingene til Q-supportere i sosiale medier i innleggene sine. Å bryte QAnons innflytelse vil kreve å bryte tilliten mellom Q, en anonym figur uten definerende egenskaper, og deres støttespillere. Gitt at Qs lange merittliste med unøyaktige spådommer ikke har brutt denne tilliten, er det vanskelig, og kritisk mediedekning eller deplatforming har ennå ikke gjort mye på den fronten. Hvis noe, gir de bare QAnon-troende energi til å anta at de er inne på noe.

De beste ideene for å begrense QAnon vil kreve drastiske endringer og sjelesøk fra menneskene som driver selskapene på hvis plattformer det har blomstret. Men selv denne ukens kunngjøringer er ikke fullt så dramatiske som de kan virke med det første: Twitter avklart at den ikke automatisk vil bruke sine nye retningslinjer mot politikere som promoterer QAnon-innhold, inkludert flere promotører som stiller til valg i USA.

Og, sa Friedberg, QAnon-tilhengere var klar til å teste disse begrensningene, og tester allerede disse begrensningene. For eksempel har Twitter forbudt visse konspirasjonstilknyttede nettadresser fra å bli delt, men folk har allerede alternative å bruke.

Til slutt, å faktisk gjøre noe med det ville kreve å tenke nytt om hele informasjonsøkosystemet, sier DiResta. Og jeg mener det i en langt bredere forstand enn bare å reagere på en konspirasjonsfraksjon.

gjemme seg