211service.com
Hun risikerte alt for å avsløre Facebook. Nå forteller hun historien sin.
Sophie Zhang, en tidligere dataforsker ved Facebook, avslørte at det muliggjør global politisk manipulasjon og har gjort lite for å stoppe det.
Christie Der Klok
29. juli 2021Verden fikk først vite om Sophie Zhang i september 2020, da BuzzFeed-nyheter innhentet og publisert høydepunkter fra en forkortet versjon av hennes nesten 8000 ord lange utgangsnotat fra Facebook.
Før hun ble sparket, ble Zhang offisielt ansatt som dataforsker på lavt nivå i selskapet. Men hun hadde blitt oppslukt av en oppgave hun anså som viktigere: å finne og ta ned falske kontoer og likes som ble brukt til å påvirke valg globalt.
Notatet hennes avslørte at hun hadde identifisert dusinvis av land, inkludert India, Mexico, Afghanistan og Sør-Korea, der denne typen overgrep gjorde det mulig for politikere å villede publikum og få makt. Den avslørte også hvor lite selskapet hadde gjort for å dempe problemet, til tross for Zhangs gjentatte forsøk på å bringe det til ledelsen.
HØR PÅ HISTORIEN HER
Jeg vet at jeg har blod på hendene nå, skrev hun.
På tampen av hennes avreise, diskuterte Zhang fortsatt om hun skulle skrive notatet i det hele tatt. Det var kanskje hennes siste sjanse til å skape nok internt press på ledelsen til å begynne å ta problemene på alvor. I påvente av å skrive den, hadde hun takket nei til en sluttpakke på nesten $64 000 som ville ha innebåret å signere en ikke-nedsettende avtale. Hun ønsket å beholde friheten til å uttale seg kritisk om selskapet.
Men det var bare to måneder før det amerikanske valget i 2020, og hun ble forstyrret av ideen om at notatet kunne erodere publikums tillit til valgprosessen hvis det ble gitt ut til pressen for tidlig. Jeg var livredd for på en eller annen måte å bli James Comey av 2020, sier hun, med henvisning til den tidligere FBI-direktøren som, dager før valget i 2016, fortalte kongressen at byrået hadde gjenåpnet en etterforskning av Hillary Clintons bruk av en privat e-postserver. Clinton fortsatte med å klandre Comey for tapet hennes.
Til Zhangs store lettelse skjedde det ikke. Og etter at valget gikk, fortsatte hun med sin opprinnelige plan. I april sto hun frem i to Verge artikler med ansiktet hennes, navnet hennes og enda mer detaljert dokumentasjon av den politiske manipulasjonen hun hadde avdekket og Facebooks uaktsomhet i håndteringen av den.
Kontoen hennes ga konkrete bevis for å støtte det kritikere lenge hadde sagt på utsiden: at Facebook gjør valginnblanding lett, og at med mindre slik aktivitet skader selskapets forretningsinteresser, kan det ikke bry seg om å fikse problemet.
I en uttalelse benektet Joe Osborne, en Facebook-talsperson, på det sterkeste disse påstandene. For de utallige presseintervjuene hun har gjort siden hun forlot Facebook, har vi vært fundamentalt uenige i Zhangs karakterisering av våre prioriteringer og innsats for å utrydde misbruk på plattformen vår, sa han. Vi går aggressivt etter overgrep rundt om i verden og har spesialiserte team fokusert på dette arbeidet. Som et resultat har vi allerede fjernet mer enn 150 nettverk med koordinert uautentisk atferd … Å bekjempe koordinert uautentisk atferd er vår prioritet.
Ved å gå offentlig ut og unngå anonymitet, risikerte Zhang rettslige skritt fra selskapet, skade på hennes fremtidige karrieremuligheter, og kanskje til og med represalier fra politikerne hun avslørte i prosessen. Det hun gjorde er veldig modig, sier Julia Carrie Wong, Guardian-reporteren som publiserte avsløringene hennes.
Etter nesten et år med å unngå personlige spørsmål, er Zhang nå klar til å fortelle historien sin. Hun vil at verden skal forstå hvordan hun ble så involvert i forsøket på å beskytte demokratiet over hele verden og hvorfor hun brydde seg så dypt. Hun er også lei av å være i skapet som en transkjønnet kvinne, et kjerneaspekt av identiteten hennes som informerte hennes handlinger på Facebook og etter at hun dro.
Historien hennes avslører at det egentlig er ren flaks at vi nå vet så mye om hvordan Facebook muliggjør valginnblanding globalt. Zhang var ikke bare den eneste personen som kjempet mot denne formen for politisk manipulasjon; det var ikke engang jobben hennes. Hun hadde oppdaget problemet på grunn av et unikt sammenløp av ferdigheter og lidenskap, og tok det på seg selv, drevet av en ekstraordinær følelse av moralsk ansvar.
For regulatorer over hele verden som vurderer hvordan de skal tøyle selskapet, bør dette være en vekker.
Zhang planla aldri å være i denne posisjonen. Hun er dypt innadvendt og hater å være i rampelyset. Hun ble med på Facebook i 2018 etter at den økonomiske belastningen ved å leve på deltidskontraktsarbeid i Bay Area hadde slitt henne ned. Da hun mottok Facebooks tilbud, var hun på forhånd med rekruttereren sin: hun trodde ikke at selskapet gjorde verden bedre, men hun ville bli med for å hjelpe til med å fikse det.
De sa til meg: 'Du vil bli overrasket over hvor mange på Facebook som sier det,' husker hun.
Det var lettere sagt enn gjort. Som mange nyansatte, hadde hun blitt med uten å bli tildelt et spesifikt team. Hun ønsket å jobbe med valgintegritet, som ser etter måter å dempe valgrelatert plattformmisbruk på, men ferdighetene hennes stemte ikke med åpningene. Hun nøyde seg med et nytt team som taklet falskt engasjement i stedet.
Falsk engasjement refererer til ting som likes, delinger og kommentarer som er kjøpt eller på annen måte uaktuelt generert på plattformen. Det nye teamet fokuserte mer snevert på såkalt skriptet uautentisk aktivitet – falske likes og delinger produsert av automatiserte roboter og brukt til å øke noens popularitet.
I de aller fleste slike tilfeller skaffet folk bare likes for forfengelighet. Men et halvt år senere, intuerte Zhang at politikere kunne gjøre de samme tingene for å øke sin innflytelse og rekkevidde på plattformen. Det tok ikke lang tid før hun fant eksempler i Brasil og India, som begge forberedte seg til stortingsvalg.
I prosessen med å søke etter skriptbasert aktivitet fant hun også noe langt mer bekymringsfullt. Administratoren for Facebook-siden til Honduras president, Juan Orlando Hernández, hadde opprettet hundrevis av sider med falske navn og profilbilder for å se ut akkurat som brukere – og brukte dem til å oversvømme presidentens innlegg med likes, kommentarer og delinger. (Facebook hindrer brukere i å lage flere profiler, men bruker ikke den samme begrensningen på sider, som vanligvis er ment for bedrifter og offentlige personer.)
Aktiviteten regnet ikke som manus, men effekten var den samme. Ikke bare kunne det villede den tilfeldige observatøren til å tro at Hernández var mer godt likt og populær enn han var, men det økte også innleggene hans høyere opp i folks nyhetsstrømmer. For en politiker hvis gjenvalgsseier i 2017 ble antatt å være uredelig, var frekkheten – og implikasjonene – alarmerende.
Alle var enige om at det var forferdelig. Ingen kunne bli enige om hvem som skulle være ansvarlig, eller hva som skulle gjøres.
Men da Zhang tok opp saken, sier hun, fikk hun en lunken mottakelse. Sidens integritetsteam, som håndterer misbruk av og på Facebook-sider, ville ikke blokkere masseproduksjon av sider for å se ut som brukere. Nyhetsfeedintegritetsteamet, som prøver å forbedre kvaliteten på det som vises i brukernes nyhetsstrømmer, ville ikke fjerne falske likes og kommentarer fra rangeringsalgoritmens vurdering. Alle var enige om at det var forferdelig, sier Zhang. Ingen kunne bli enige om hvem som skulle være ansvarlig, eller hva som skulle gjøres.
Etter at Zhang brukte press i et år, ble nettverket av falske sider endelig fjernet. Noen måneder senere opprettet Facebook en ny uautentisk atferdspolicy for å forby falske sider som utgir seg for å være brukere. Men denne policyendringen tok ikke opp et mer grunnleggende problem: ingen ble bedt om å håndheve den.
Så Zhang tok initiativet selv. Når hun ikke jobbet med å skrubbe bort forfengelighetslikes, finkjemmet hun flittig gjennom datastrømmer, og søkte etter bruk av falske sider, falske kontoer og andre former for koordinert falsk aktivitet på politikernes sider. Hun fant saker i dusinvis av land, mest ekstremt i Aserbajdsjan, der pages-teknikken ble brukt til å trakassere opposisjonen.
Men å finne og flagge nye saker var ikke nok. Zhang fant ut at for å få fjernet eventuelle nettverk av falske sider eller kontoer, måtte hun vedvarende lobbye de relevante teamene. I land der slik aktivitet utgjorde liten PR-risiko for selskapet, håndheving kan utsettes gjentatte ganger . (Facebook bestrider denne karakteristikken.) Ansvaret tyngde henne tungt. Var det viktigere å presse på for en sak i Bolivia, med en befolkning på 11,6 millioner, eller i Rajasthan, India, med en befolkning på nær 70 millioner?
Så, høsten 2019, brøt det ut uker med dødelige sivile protester i Bolivia etter at publikum bestred resultatene av presidentvalget. Bare noen uker tidligere hadde Zhang faktisk deprioritert landet for å ta seg av det som virket som mer presserende saker. Nyhetene fortærte henne med skyldfølelse. Intellektuelt visste hun at det ikke var noen måte å trekke en direkte forbindelse mellom avgjørelsen hennes og hendelsene. Den falske forlovelsen hadde vært så liten at effekten sannsynligvis var ubetydelig. Men psykologisk og følelsesmessig spilte det ingen rolle. Det var da jeg begynte å miste søvn, sier hun.
Mens noen andre kunne ha valgt å forlate en slik belastende jobb eller kanskje frita seg fra ansvar som et middel til å mestre, lente Zhang seg inn, med store personlige omkostninger, i et forsøk på egenhånd å rette opp en feil.
I løpet av året mellom hendelsene i Bolivia og hennes sparking, sendte anstrengelsen hennes helse på kraftig tilbakegang. Hun led allerede av angst og depresjon, men det ble betydelig – og farlig – verre. Alltid en glupsk leser av verdensnyheter, kunne hun ikke lenger distansere seg fra den politiske uroen i andre land. Presset presset henne bort fra venner og kjære. Hun ble stadig mer isolert og slo opp med kjæresten. Hun økte angsten og antidepressiva til dosen var seksdoblet.
Relatert historie
Hvordan Facebook ble avhengig av å spre feilinformasjon Selskapets AI-algoritmer ga det en umettelig vane for løgner og hatefulle ytringer. Nå kan ikke mannen som bygde dem fikse problemet.
For Zhang er forklaringen på hvorfor hun brydde seg så mye knyttet opp til identiteten hennes. Hun vokste opp i Ann Arbor, Michigan, datter av foreldre som hadde immigrert fra fastlands-Kina. Fra en tidlig alder ble hun holdt til høye akademiske standarder og viste seg å være en tidlig stipendiat. Som seks eller syv leste hun en innledende fysikkbok og ble fascinert av universets byggesteiner. Hennes lidenskap ville føre henne til å studere kosmologi ved University of Michigan, hvor hun publiserte to forskningsartikler, en som en enkelt forfatter.
Hun var strålende smart. Hun kan være den smarteste studentstudenten jeg noen gang har jobbet med, minnes Dragan Huterer, hennes undergraduate-rådgiver. Jeg vil si hun var mer avansert enn en hovedfagsstudent.
Men barndommen hennes var også preget av alvorlige traumer. Allerede som fem år gammel begynte hun å innse at hun var annerledes. Hun leste en barnebok om en gutt hvis venner fortalte ham at hvis han kysset albuen ville han bli en jente. Jeg brukte lang tid etter det på å prøve å kysse albuen min, sier hun.
Hun gjorde sitt beste for å skjule det, og forsto at foreldrene hennes ville finne transseksuelle identiteten hennes utålelig. Men hun husker godt øyeblikket faren fant ut av det. Det var våren i åttende klasse. Det hadde akkurat regnet. Og hun krøp sammen på badet og tenkte på om hun skulle hoppe ut av vinduet, mens han slo ned døren.
Til slutt valgte hun å ikke hoppe og lot ham slå henne til hun var blodig, sier hun: Til syvende og sist bestemte jeg meg for at jeg var personen som holdt seg i ufullkomne situasjoner for å prøve å fikse dem. Dagen etter hadde hun på seg en langermet skjorte for å dekke over blåmerkene og forberedte en unnskyldning i tilfelle en lærer la merke til det. Ingen gjorde det, sier hun.
(Da hun ble nådd via e-post, benektet faren hennes påstandene. Jeg er trist at hun påstår at jeg slo henne som barn etter at jeg oppdaget hennes transkjønnede identitet, som er fullstendig falsk, skrev han. Men flere personer som kjente Zhang fra videregående skole til i dag har bekreftet hennes beretning om farens voldelige oppførsel.)
Å gi opp dem og forlate dem ville være et svik mot selve kjernen i min identitet.
På college bestemte hun seg for å gå over, hvoretter faren fornektet henne. Men hun oppdaget fort at det å endelig bli oppfattet riktig som kvinne kom med sine egne konsekvenser. Jeg visste nøyaktig hvordan folk behandlet meg når de trodde at jeg var en fyr. Det var veldig annerledes, sier hun.
Etter å ha blitt akseptert til alle de beste PhD-programmene for fysikk, valgte hun å gå på Princeton University. Under orienteringen skilte personen som ga en omvisning i maskinverkstedet henne gjentatte ganger ut foran gruppen med falske antakelser om at hun var mindre enn kompetent. Det var min offisielle introduksjon til Princeton, og en veldig passende en, sier hun.
CHRISTIE DET ER EN KLOKKEDerfra ble sexismen bare verre. Nesten umiddelbart begynte en mannlig student å forfølge og trakassere henne seksuelt. For å takle det valgte hun en avhandlingsrådgiver i biofysikkavdelingen, som gjorde at hun kunne unnslippe trakassereren ved å forske i en annen bygning. Problemet var at hun faktisk ikke var interessert i biofysikk. Og enten det var av denne eller andre grunner, ble interessen hennes for fysikk sakte oppløst.
Etter tre år, dypt ulykkelig, bestemte hun seg for å forlate programmet, men ikke uten å endelig rapportere trakasseringen til universitetet. De var sånn: «Det er ditt ord mot hans.» Du kan sikkert gjette nå hvorfor jeg dokumenterte alt jeg ga til Julia, sier hun og refererer til Julia Carrie Wong på Guardian. Jeg ønsket ikke å være i en annen «Han sa/hun sa»-situasjon.
(En talsperson for Princeton sa at han ikke var i stand til å kommentere individuelle situasjoner, men uttalte universitetets forpliktelse til å tilby et inkluderende og innbydende utdannings- og arbeidsmiljø. Princeton søker å støtte ethvert medlem av campussamfunnet som har opplevd seksuell mishandling, inkludert seksuell trakassering, han sa.)
Det disse erfaringene har til felles, er det faktum at jeg gjentatte ganger har opplevd å falle igjennom ansvaret, skrev Zhang i notatet sitt. Jeg fikk aldri støtten fra autoritetsfigurene jeg trengte ... I hvert tilfelle fullførte de pliktens bokstav, men sviktet ånden, og jeg betalte prisen for avgjørelsene deres.
Da kan du kanskje forstå hvorfor dette var så personlig for meg selv helt fra starten, hvorfor jeg kjempet så hardt for å forhindre at folket i Honduras og Aserbajdsjan sklir gjennom disse sprekkene, skrev hun. Å gi opp dem og forlate dem ville være et svik mot selve kjernen i min identitet.
Det var under starten av hennes fysiske og mentale tilbakegang høsten 2019 at Zhang begynte å tenke på om hun skulle stå frem. Hun ønsket å gi Facebooks offisielle systemer en sjanse til å fungere. Men hun bekymret seg for å være et enkelt feilpunkt. Hva om jeg ble påkjørt av en buss dagen etter? hun sier. Hun trengte noen andre for å få tilgang til samme informasjon.
Ved en tilfeldighet fikk hun en e-post fra en journalist i innboksen. Wong, den gang en senior teknisk reporter ved Guardian, hadde sendt meldinger til Facebook-ansatte som ønsket å dyrke nye kilder. Zhang tok sjansen og avtalte å møtes for en off-the-record samtale. Den dagen slapp hun av bedriftsutstedte telefoner og datamaskiner hos en tidligere huskamerat som en forholdsregel, vel vitende om at Facebook hadde muligheten til å spore posisjonen hennes. Da hun kom tilbake, så hun litt lettet ut, husker den tidligere huskameraten, Ness Io Kain: Du kunne se at hun følte at hun hadde oppnådd noe. Det er ganske stille, men det er definitivt til å ta og føle på.
Et øyeblikk så det ut til at ting på Facebook gjorde fremskritt. Hun så på endringen i politikken og fjerningen av den honduranske presidentens falske nettverk som fremdrift. Hun ble gjentatte ganger oppfordret til å hjelpe til med å håndtere nødssituasjoner og rost for arbeidet hennes, som hun ble fortalt var verdsatt og viktig.
Men til tross for hennes gjentatte forsøk på å presse på for flere ressurser, siterte ledelsen forskjellige prioriteringer. De avviste også Zhangs forslag til en mer bærekraftig løsning, som å suspendere eller på annen måte straffe politikere som var gjengangere. Det etterlot henne å møte en uendelig brannslange: Manipulasjonsnettverkene hun tok ned kom raskt tilbake, ofte bare timer eller dager senere. Det føltes i økende grad som om jeg prøvde å tømme havet med et dørslag, sier hun.
Jeg har aldri hatet autismen min mer enn da jeg ble med på Facebook.
Så, i januar 2020, snudde tidevannet. Både lederen og lederens leder ba henne slutte med det politiske arbeidet og holde seg til den tildelte jobben. Hvis hun ikke gjorde det, ville hennes tjenester i selskapet ikke lenger være nødvendig, husker hun at sistnevnte sa. Men uten et team tildelt for å fortsette arbeidet hennes, fortsatte Zhang å gjøre noe i det skjulte.
Etter hvert som presset økte og helsen hennes ble verre, innså Zhang at hun til slutt måtte forlate. Hun la en plan om å reise etter det amerikanske valget, og betraktet det som den siste og viktigste hendelsen hun trengte å forholde seg til. Men ledelsen hadde andre planer. I august fikk hun beskjed om at hun ville få sparken for dårlige prestasjoner.
På hennes siste dag, timer etter at hun la ut notatet internt, slettet Facebook det (selv om de senere gjenopprettet en redigert versjon etter utbredt sinne hos ansatte). Noen timer senere ringte en HR-person til henne og ba henne også fjerne en passordbeskyttet kopi hun hadde lagt ut på sin personlige nettside. Hun prøvde å prute: hun ville gjøre det hvis de gjenopprettet den interne versjonen. Dagen etter fikk hun i stedet et varsel fra hostingserveren sin om at den hadde tatt ned hele nettsiden hennes etter en klage fra Facebook. Noen dager etter det tok den også ned domenet hennes.
Selv etter alt det Facebook ga henne gjennom, gir Zhang ikke skylden på seg selv. I notatet sitt ba hun kolleger om unnskyldning for eventuelle problemer hun kunne ha forårsaket dem og for å ha forlatt dem uten å ha oppnådd mer. I til Reddit AMA måneder senere ba hun innbyggerne i forskjellige land om unnskyldning for ikke å handle raskt nok og for ikke å komme til en langsiktig løsning.
For meg lurer Zhang, som er autist, høyt hva hun kunne ha oppnådd hvis hun ikke var det. Jeg har ikke noe talent for å overtale og overbevise, sier hun. Hvis jeg var noen født med en sølvtunge, kunne jeg kanskje ha gjort endringer.
Jeg har aldri hatet autismen min mer enn da jeg ble med på Facebook.
Som forberedelse til å bli offentlig, Zhang ga et siste offer: å skjule sin transidentitet, ikke av frykt for trakassering, men av frykt for at det ville distrahere fra budskapet hennes. I USA, der transpersoners rettigheter er sterkt politisert, ønsket hun ikke at beskyttelse av demokratiet skulle bli et partipolitisk spørsmål. I utlandet, der noen land behandler det å være transpersoner som en forbrytelse som kan straffes med fengsel eller til og med døden, ønsket hun ikke at folk skulle slutte å lytte.
Det var i tråd med et offer hun gjentatte ganger hadde gjort da hun politibetjente valginnblanding globalt. Hun behandlet alle politikere likt, selv når fjerningen av den falske aktiviteten til en i Aserbajdsjan uunngåelig forsterket en motstander som forfektet homofobi . Jeg gjorde mitt beste for å beskytte demokratiet og rettsstaten globalt for folk, uavhengig av om de trodde jeg var menneske, sier hun med et dypt sukk. Men jeg tror ikke noen burde måtte ta det valget.
Relatert historie
Anmeldelse: Hvorfor Facebook aldri kan fikse seg selv I An Ugly Truth avslører reporterne Sheera Frenkel og Cecilia Kang Facebooks grunnleggende feil gjennom en detaljert beretning om årene mellom to amerikanske valg.
Kvelden Guardian-artiklene ble publisert, ventet hun spent på offentlighetens reaksjon, bekymret for om hun ville være i stand til å håndtere medieoppmerksomheten. Jeg tror hun faktisk overrasket seg selv over hvor flink hun var i intervjuer, sier kjæresten hennes, Lisa Danz, som Zhang ble sammen med etter å ha forlatt Facebook. Hun fant ut at når det er materiale hun kjenner veldig godt og hun bare får spørsmål om det, kan hun svare.
Virkningen ble til slutt mindre enn det Zhang så for seg. S everal halv utløp ts i USA gjorde oppfølgingsstykker, det samme gjorde utenlandske utsalgssteder fra land berørt av manipulasjonsaktiviteten. Men så vidt hun er klar over, oppnådde den ikke det hun hadde håpet på: en stor nok PR-skandale til å få Facebook til å til slutt prioritere arbeidet hun etterlot seg.
Facebook bestrider nok en gang denne karakteriseringen og sier at det falske engasjementsteamet har fortsatt Zhangs arbeid. Men Zhang peker på andre bevis: nettverket av falske sider i Aserbajdsjan er fortsatt der. Det er tydelig at de ikke har lyktes, sier hun.
Ikke desto mindre angrer ikke Zhang på hennes beslutning om å stå frem. Jeg var den eneste i denne ansvarsposisjonen fra starten av, sier hun, og noen måtte ta ansvaret og gjøre det ytterste for å beskytte folk.
Uten å hoppe over et slag, skrangler hun deretter av seg konsekvensene som andre har møtt for å ha gått opp mot de mektige i mer fiendtlige land: journalister blir myrdet for å etterforske korrupsjon i regjeringen, demonstranter som blir skutt ned for å ha registrert dissens.
Sammenlignet med dem er jeg småpoteter, sier hun.
Korreksjon: En tidligere versjon av artikkelen savnet en 'e' på Joe Osborne. Beklager, Joe.