Nesten halvparten av Twitter-kontoene som presser på for å gjenåpne Amerika kan være roboter

Maddie Meyer / Getty

Kathleen M. Carley og teamet hennes ved Carnegie Mellon Universitys Center for Informed Democracy & Social Cybersecurity har sporet roboter og påvirket kampanjer i lang tid. På tvers av amerikanske og utenlandske valg, naturkatastrofer og andre politiserte hendelser, er nivået av bot-engasjement normalt mellom 10 og 20 %, sier hun.

Men i en ny studie har forskerne funnet ut at roboter kan utgjøre mellom 45 og 60 % av Twitter-kontoene som diskuterer covid-19. Mange av disse kontoene ble opprettet i februar og har siden spredt og forsterket feilinformasjon, inkludert falske medisinske råd, konspirasjonsteorier om opprinnelsen til viruset, og press for å få slutt på ordre om opphold hjemme og gjenåpne Amerika.

Mer om koronaviruset

• Vår viktigste dekning av covid-19 er gratis, inkludert:

  Hva er flokkimmunitet?

  
  
  

  Hva er serologisk testing?

  Hvordan fungerer koronaviruset?

  Hva er potensielle behandlinger?

  
  
  

  Hvilke medikamenter fungerer best?

  Hva er den riktige måten å gjøre sosial distansering på?

  Andre vanlige spørsmål om koronavirus

  
  
  

  ---

  Nyhetsbrev: Coronavirus Tech Report

  Zoomshow: Radio Corona

  
  
  

• Se også:

  All vår covid-19-dekning

  Covid-19 spesialutgaven

• Klikk her for å abonnere og støtte vår non-profit journalistikk.

De følger utslitte mønstre av koordinerte påvirkningskampanjer, og strategien deres fungerer allerede: Siden begynnelsen av krisen har forskerne observert en større polarisering i Twitter-diskursen rundt temaet.

En rekke faktorer kan forklare denne økningen. Pandemiens globale natur betyr at en større mengde aktører er motivert til å utnytte krisen som en måte å møte deres politiske agendaer. Desinformasjon er nå også mer koordinert generelt, med flere firmaer tilgjengelig for utleie for å lage slike påvirkningskampanjer.

Men det er ikke bare volumet av kontoer som bekymrer Carley, senterets direktør. Atferdsmønstrene deres har også blitt mer sofistikerte. Bots er nå ofte dypere knyttet til andre kontoer, noe som gjør det lettere for dem å spre meldingene sine bredt. De engasjerer seg også i flere strategier for å målrette mot utsatte grupper som innvandrere og minoriteter og hjelper ekte kontoer som er engasjert i hatefulle ytringer med å danne nettgrupper.

For å utføre sin siste analyse studerte forskerne mer enn 200 millioner tweets som diskuterte koronavirus eller covid-19 siden januar. De brukte maskinlæring og nettverksanalyse teknikker for å identifisere hvilke kontoer som spredte desinformasjon og hvilke som mest sannsynlig var roboter eller cyborger (kontoer som drives i fellesskap av roboter og mennesker).

Systemet ser etter 16 forskjellige manøvrer som desinformasjonskontoer kan utføre, inkludert å bygge bro mellom to grupper (koble sammen to nettsamfunn), støtte et individ (følge kontoen for å øke personens nivå av opplevd innflytelse) og atomkjempe en gruppe (handlinger som fører til til et nettsamfunn som blir demontert).

Gjennom analysen identifiserte de mer enn 100 typer unøyaktige covid-19-historier og fant ut at ikke bare roboter fikk gjennomslag og akkumulerte følgere, men de utgjorde 82 % av de 50 beste og 62 % av de 1000 mest innflytelsesrike retweeterne. Påvirkningen til hver konto ble beregnet for å gjenspeile antall følgere den nådde, samt antall følgere dens følgere nådde.

Forskerne har begynt å analysere Facebook, Reddit og YouTube for å forstå hvordan desinformasjon sprer seg mellom plattformer. Arbeidet er fortsatt i de tidlige stadiene, men det har allerede avslørt noen uventede mønstre. For det første har forskerne funnet ut at mange desinformasjonshistorier kommer fra vanlige nettsteder eller blogger før de blir plukket opp på ulike sosiale plattformer og forsterket. Ulike typer historier har også ulike herkomstmønster. De som hevder at viruset er et biovåpen, kommer for eksempel stort sett fra såkalte svarte nyhetssider, falske nyhetssider designet for å spre desinformasjon som ofte drives utenfor USA. I motsetning til dette kommer retorikken til å åpne Amerika for det meste fra blogger og Facebook-sider som drives i USA.

Forskerne fant også at brukere av ulike plattformer vil reagere på slikt innhold på svært forskjellige måter. På Reddit, for eksempel, er det mer sannsynlig at moderatorer avkrefter og forbyr desinformasjon. Da en koordinert kampanje rundt gjenåpning av Amerika dukket opp på Facebook, begynte Reddit-brukere å diskutere fenomenet og motvirke meldingene. De sa: 'Ikke tro på noe av det. Du kan ikke stole på Facebook, sier Carley.

Dessverre er det ingen enkle løsninger på dette problemet. Å utestenge eller fjerne kontoer vil ikke fungere, siden det kan genereres mer for hver som slettes. Å forby kontoer som sprer unøyaktige fakta vil heller ikke løse noe. Mye desinformasjon er gjort gjennom insinuasjoner eller gjort gjennom ulogiske utsagn, og det er vanskelig å oppdage, sier hun.

Carley sier at forskere, selskaper og regjeringen må koordinere bedre for å komme opp med effektive retningslinjer og praksiser for å dempe dette. Jeg tror vi trenger en slags generell tilsynsgruppe, sier hun. Fordi ingen gruppe kan gjøre det alene.

gjemme seg