211service.com
Trollfarmer nådde 140 millioner amerikanere i måneden på Facebook før valget i 2020, viser intern rapport
MIT Technology Review | Envato-elementer
Oppdater: Etter at denne historien ble publisert, tok Facebook ned to av de fem trollfarmsidene vi identifiserte.
I forkant av valget i 2020, det mest omstridte i amerikansk historie, ble Facebooks mest populære sider for kristent og svart amerikansk innhold drevet av østeuropeiske trollfarmer. Disse sidene var en del av et større nettverk som samlet nådde nesten halvparten av alle amerikanere, ifølge en intern selskapsrapport, og oppnådde denne rekkevidden ikke gjennom brukervalg, men først og fremst som et resultat av Facebooks egen plattformdesign og engasjementhungrende algoritme.
Relatert historie
Hvordan Facebook ble avhengig av å spre feilinformasjon Selskapets AI-algoritmer ga det en umettelig vane for løgner og hatefulle ytringer. Nå kan ikke mannen som bygde dem fikse problemet.
Rapporten, skrevet i oktober 2019 og innhentet av MIT Technology Review fra en tidligere Facebook-ansatt som ikke var involvert i å undersøke den, fant at etter valget i 2016, klarte ikke Facebook å prioritere grunnleggende endringer i hvordan plattformen deres promoterer og distribuerer informasjon. Selskapet fulgte i stedet en mule-strategi som innebar å overvåke og stoppe aktiviteten til dårlige aktører når de engasjerte seg i politisk diskurs, og legge til noen rekkverk som forhindret det verste av det verste.
Men denne tilnærmingen gjorde lite for å stoppe det underliggende problemet, bemerket rapporten. Trollfarmer – profesjonelle grupper som jobber på en koordinert måte for å legge ut provoserende innhold, ofte propaganda, til sosiale nettverk – bygde fortsatt et massivt publikum ved å drive nettverk av Facebook-sider. Innholdet deres nådde 140 millioner amerikanske brukere per måned – 75 % av dem hadde aldri fulgt noen av sidene. De så innholdet fordi Facebooks innholdsanbefalingssystem hadde presset det inn i nyhetsstrømmene deres.
I stedet for at brukere velger å motta innhold fra disse aktørene, er det vår plattform som velger å gi [disse trollfarmene] en enorm rekkevidde, skrev rapportens forfatter, Jeff Allen, en tidligere dataforsker på seniornivå ved Facebook.
Joe Osborne, en Facebook-talsperson, sa i en uttalelse at selskapet allerede hadde undersøkt disse temaene på tidspunktet for Allens rapport, og la til: Siden den gang har vi reist team, utviklet nye retningslinjer og samarbeidet med bransjekolleger for å ta opp. disse nettverkene. Vi har iverksatt aggressive handlinger mot denne typen utenlandske og innenlandske uautentiske grupper og har delt resultatene offentlig på kvartalsbasis.
I prosessen med å faktasjekke denne historien kort før publisering, fant MIT Technology Review at fem av trollfarmsidene nevnt i rapporten forble aktive.
Dette er den største trollfarmsiden rettet mot afroamerikanere i oktober 2019. Den er fortsatt aktiv på Facebook.
Rapporten fant at trollfarmer nådde de samme demografiske gruppene som ble utpekt av Kreml-støttet Internet Research Agency (IRA) under valget i 2016, som hadde målrettet kristne, svarte amerikanere og indianere. A 2018 BuzzFeed News-undersøkelse fant at minst ett medlem av den russiske IRA, tiltalt for påstått innblanding i det amerikanske valget i 2016, også hadde besøkt Makedonia rundt fremveksten av de første trollfarmene, selv om det ikke fant konkrete bevis på en sammenheng. (Facebook sa at undersøkelsene deres heller ikke hadde vist en forbindelse mellom IRA og makedonske trollfarmer.)
Dette er ikke normalt. Dette er ikke sunt, skrev Allen. Vi har gitt uautentiske aktører fullmakt til å samle enorme tilhengere til stort sett ukjente formål ... Det faktum at aktører med mulige bånd til IRA har tilgang til enorme publikumstall i de samme demografiske gruppene som IRA er målrettet mot, utgjør en enorm risiko for valget i USA i 2020 .
Så lenge trollfarmer fant suksess med å bruke disse taktikkene, kunne enhver annen dårlig aktør også det, fortsatte han: Hvis trollfarmene når 30 millioner amerikanske brukere med innhold rettet mot afroamerikanere, burde vi slett ikke bli overrasket om vi oppdager IRA har også for tiden et stort publikum der.
Allen skrev rapporten som den fjerde og siste delen av en halvannet år lang innsats for å forstå trollfarmer. Han forlot selskapet samme måned, delvis på grunn av frustrasjon over at ledelsen effektivt hadde ignorert forskningen hans, ifølge den tidligere Facebook-ansatte som leverte rapporten. Allen nektet å kommentere.
Rapporten avslører den alarmerende tilstanden der Facebook-ledelsen forlot plattformen i årevis, til tross for gjentatte offentlige løfter om aggressivt å takle utenlandsbasert valginnblanding. MIT Technology Review gjør hele rapporten tilgjengelig, med ansattes navn redigert, fordi det er i allmennhetens interesse.
Dens avsløringer inkluderer:
- Fra oktober 2019 ble rundt 15 000 Facebook-sider med et flertall av amerikansk publikum kjørt ut av Kosovo og Makedonia, kjente dårlige skuespillere under valget i 2016.
- Samlet nådde disse trollfarmsidene – som rapporten behandler som én enkelt side for sammenligningsformål – 140 millioner amerikanske brukere månedlig og 360 millioner globale brukere ukentlig. Walmarts side nådde det nest største amerikanske publikummet med 100 millioner.
- Trollfarmsidene ble også kombinert for å danne:
- den største kristne amerikanske siden på Facebook, 20 ganger større enn den nest største – og nådde 75 millioner amerikanske brukere hver måned, hvorav 95 % aldri hadde fulgt noen av sidene.
- den største afroamerikanske siden på Facebook, tre ganger større enn den nest største – og nådde 30 millioner amerikanske brukere hver måned, hvorav 85 % aldri hadde fulgt noen av sidene.
- den nest største indianersiden på Facebook, og nådde 400 000 brukere månedlig, hvorav 90 % aldri hadde fulgt noen av sidene.
- den femte største kvinnesiden på Facebook, og nådde 60 millioner amerikanske brukere hver måned, hvorav 90 % aldri hadde fulgt noen av sidene.
- Trollfarmer påvirker først og fremst USA, men retter seg også mot Storbritannia, Australia, India og sentral- og søramerikanske land.
- Facebook har utført flere studier som bekrefter at innhold som er mer sannsynlig å motta brukerengasjement (liker, kommentarer og delinger) er mer sannsynlig av en type som er kjent for å være dårlig. Likevel har selskapet fortsatt å rangere innhold i brukernes nyhetsfeeds i henhold til hva som vil få størst engasjement.
- Facebook forbyr sider å publisere innhold som bare er kopiert og limt inn fra andre deler av plattformen, men håndhever ikke retningslinjene mot kjente dårlige skuespillere. Dette gjør det enkelt for utenlandske skuespillere som ikke snakker det lokale språket å legge ut fullstendig kopiert innhold og likevel nå ut til et massivt publikum. På et tidspunkt gikk så mange som 40 % av sidevisningene på amerikanske sider til de som hovedsakelig hadde uoriginalt innhold eller materiale med begrenset originalitet.
- Trollfarmer har tidligere gått inn i Facebooks Instant Articles og Ad Breaks-partnerskapsprogrammer, som er utviklet for å hjelpe nyhetsorganisasjoner og andre utgivere med å tjene penger på artiklene og videoene deres. På et tidspunkt, takket være mangelen på grunnleggende kvalitetskontroller, gikk så mange som 60 % av lesningene av Instant Article til innhold som hadde blitt plagiert fra andre steder. Dette gjorde det enkelt for trollfarmer å blande seg inn ubemerket, og til og med motta betalinger fra Facebook.
Hvordan Facebook muliggjør trollfarmer og øker publikummet deres
Rapporten ser spesifikt på trollfarmer basert i Kosovo og Makedonia, som drives av folk som ikke nødvendigvis forstår amerikansk politikk. Men på grunn av måten Facebooks belønningssystemer for nyhetsfeed er utformet på, kan de fortsatt ha en betydelig innvirkning på politisk diskurs.
Relatert historie
Hun risikerte alt for å avsløre Facebook. Nå forteller hun historien sin. Sophie Zhang, en tidligere dataforsker ved Facebook, avslørte at det muliggjør global politisk manipulasjon og har gjort lite for å stoppe det.
I rapporten identifiserer Allen tre grunner til at disse sidene er i stand til å få et så stort publikum. For det første straffer ikke Facebook sider for å legge ut helt uoriginalt innhold. Hvis noe tidligere har blitt viralt, vil det sannsynligvis gå viralt igjen når det legges ut en gang til. Dette gjør det veldig enkelt for alle å bygge en massiv tilhengerskare blant svarte amerikanere, for eksempel. Dårlige skuespillere kan ganske enkelt kopiere viralt innhold fra svarte amerikaneres sider, eller til og med Reddit og Twitter, og lime det inn på sin egen side – eller noen ganger dusinvis av sider.
For det andre sender Facebook engasjerende innhold på sider til folk som ikke følger dem. Når brukernes venner kommenterer eller videredeler innlegg på en av disse sidene, vil disse brukerne også se det i nyhetsstrømmen deres. Jo mer innholdet på en side blir kommentert eller delt, jo mer går det utover følgerne. Dette betyr at trollfarmer, hvis strategi fokuserer på å reposte det mest engasjerende innholdet, har en overordnet evne til å nå nye målgrupper.
For det tredje skyver Facebooks rangeringssystem mer engasjerende innhold høyere opp i brukernes nyhetsstrømmer. For det meste har menneskene som driver trollfarmer økonomiske snarere enn politiske motiver; de legger ut det som får mest engasjement, med lite hensyn til det faktiske innholdet. Men fordi feilinformasjon, clickbait og politisk splittende innhold er mer sannsynlig å få høyt engasjement (som Facebooks egne interne analyser erkjenner), trekker trollfarmer til å legge ut mer av det over tid, heter det i rapporten.
Som et resultat, i oktober 2019, ble alle 15 av toppsidene rettet mot kristne amerikanere, 10 av de 15 beste Facebook-sidene rettet mot svarte amerikanere, og fire av de 12 beste Facebook-sidene rettet mot indianere, drevet av trollfarmer.
Plattformen vår har gitt den største stemmen i det kristne amerikanske samfunnet til en håndfull dårlige skuespillere, som, basert på deres medieproduksjonspraksis, aldri har vært i kirken, skrev Allen. Plattformen vår har gitt den største stemmen i det afroamerikanske samfunnet til en håndfull dårlige skuespillere, som, basert på deres medieproduksjonspraksis, aldri har hatt en interaksjon med en afroamerikaner.
Relatert historie
Anmeldelse: Hvorfor Facebook aldri kan fikse seg selv I An Ugly Truth avslører reporterne Sheera Frenkel og Cecilia Kang Facebooks grunnleggende feil gjennom en detaljert beretning om årene mellom to amerikanske valg.
Det vil alltid slå meg som dypt rart ... og genuint grusomt, skrev han. Det virker helt klart at inntil den situasjonen kan fikses, vil vi alltid føle alvorlig motvind når vi prøver å utføre oppdraget vårt.
Rapporten foreslo også en mulig løsning. Dette er langt fra første gang menneskeheten har kjempet mot dårlige aktører i våre medieøkosystemer, skrev han og pekte på Googles bruk av det som er kjent som et grafbasert autoritetsmål – som vurderer kvaliteten på en nettside i henhold til hvor ofte den siterer og er sitert av andre kvalitetsnettsider – for å degradere dårlige aktører i søkerangeringene.
Vi har vår egen implementering av et grafbasert autoritetstiltak, fortsatte han. Hvis plattformen tok mer hensyn til denne eksisterende beregningen i rangering av sider, kunne det bidra til å snu den urovekkende trenden der sider når det bredeste publikummet.
Når Facebooks rangeringer prioriterer engasjement, slår trollfarmsider ut autentiske sider, skrev Allen. Men 90 % av Troll Farm Pages har nøyaktig 0 Graph Authority … [Autentiske sider] vinner klart.
Systemiske problemer
Et søk på alle trollfarmsidene i rapporten viser at fem fortsatt er aktive nesten to år senere:
- En side kalt My Baby Daddy Ain't Shit, som var den største Facebook-siden som rettet seg mot afroamerikanere i oktober 2019.
- En side kalt Savage Hood, rettet mot afroamerikanere.
- En side kalt Hood Videos, rettet mot afroamerikanere.
- En side kalt Purpose of Life, rettet mot kristne.
- En side kalt Eagle Spirit, rettet mot indianere.
En trollfarmside rettet mot kristne amerikanere.
Facebooks nylige kontroversielle Rapport for mye sett innhold antyder at noen av kjernesårbarhetene trollfarmene utnyttet også består. Femten av de 19 mest viste innleggene som er oppført i rapporten ble plagiert fra andre innlegg som tidligere hadde blitt viralt på Facebook eller en annen plattform, ifølge en analyse fra Casey Newton ved The Verge.
Samantha Bradshaw, en postdoktor ved Stanford University som studerer skjæringspunktet mellom desinformasjon, sosiale medier og demokrati, sier at rapporten snakker om mange av de dypere systemiske problemene med plattformen og deres algoritme på den måten de fremmer visse typer innhold til visse brukere, alt bare basert på denne underliggende verdien av vekst. Hvis de ikke blir fikset, vil de fortsette å skape forvrengte, økonomiske insentiver for dårlige skuespillere, legger hun til: Det er problemet.