Deepfake Amazon-arbeidere sår forvirring på Twitter. Det er ikke problemet.

Et banner som oppmuntrer arbeidere til å stemme i arbeidsavstemning vises på et Amazon-lager i Bessemer, Alabama. AP

Nyhetene: I forkant av en landemerkeavstemning som kan føre til dannelsen av tidenes første fagforening på et amerikansk-basert Amazon-lager, begynte det å dukke opp nye Twitter-kontoer som utgir seg for å være Amazon-ansatte. Profilene brukte dypfalske bilder som profilbilder og twitret noen ganske latterlige, overdrevne forsvar av Amazons arbeidspraksis. De virket ikke ekte, men de førte likevel til forvirring blant publikum. Stod Amazon virkelig bak dem? Var dette en forferdelig ny anti-fagforenings strategi for sosiale medier? Svaret er nesten helt sikkert ikke – men bruken av deepfakes i denne sammenhengen peker mot en mer bekymringsfull trend generelt.

Bakgrunnen: Det er en grunn til at disse nye deepfake-profilene virket kjente. I 2018 begynte Amazon et veldig ekte program for å overbevise publikum om at de behandlet lagerarbeiderne sine helt fint. Den satte opp datastasjoner i disse varehusene og opprettet Twitter-kontoer for en liten gruppe ansatte, kjent som Amazon FC Ambassadors, som kunne tweete i løpet av betalte timer om hvor mye de elsket jobben sin. Planen slo tilbake, og førte til opprettelsen av mange parodi på ambassadørkontoer på Twitter. Amazon trappet ned programmet kort tid etter, og mange av de originale ekte kontoene ble suspendert eller stengt, sier Aric Toler, leder for opplæring og forskningsinnsats for det undersøkende journalistikknettstedet Bellingcat.

Det siste: Mandag dukket det nye partiet med ambassadørkontoer opp – eller i det minste, så det ut til. Men da folk begynte å etterforske, var det mange spiss ute at noen hadde profilbilder med tydelige tegn til dypt falske ansikter, som skjeve øredobber og uskarp bakgrunn. Det var da ting ble forvirrende.

Folk festet seg raskt til ideen om at Amazon selv sto bak de nye dypfalske kontoene som en del av en anti-fagforeningskampanje på sosiale medier. Selskapet fortalte senere New York Times reporter Karen Wise at det ikke var det. Toler, som sporet de originale kontoene, mener at Amazon snakker sant. De opprinnelige ambassadørkontoene ble alle registrert under Amazon-e-postadresser og lagt ut ved hjelp av Sprinklr. De nye dypfalske kontoene, som siden har blitt suspendert, var registrert med Gmail og lagt ut via Twitter-nettappen. I tillegg var innholdet i tweetene tydeligvis ment å være humoristisk. Disse kontoene var sannsynligvis bare flere parodier laget for å håne Amazon.

Betyr dette noe? I dette spesielle tilfellet, sannsynligvis ikke. Det er selvfølgelig ganske ufarlig, sier Toler. Det er Amazon. De har det bra. Men det avslører et mer bekymringsfullt problem: at dypfalske kontoer kan distribueres på en koordinert måte på sosiale medier eller andre steder for langt mer skumle formål. Den mest ondsinnede versjonen av dette vil være statlige aktører, advarer Toler.

Relatert historie

Den to år lange kampen for å stoppe Amazon fra å selge ansiktsgjenkjenning til politiet Denne ukens trekk fra Amazon, Microsoft og IBM markerer en viktig milepæl for forskere og borgerrettighetsforkjempere i en lang og pågående kamp om ansiktsgjenkjenning i rettshåndhevelse.

Faktisk har det allerede vært flere høyprofilerte tilfeller der dypfalske bilder har blitt brukt i skadelige desinformasjonskampanjer. I desember 2019 identifiserte og tok Facebook ned et nettverk av over 900 sider, grupper og kontoer , inkludert noen med dypt falske profilbilder, assosiert med det høyreekstreme utsalgsstedet Epoch Times, som er kjent for å engasjere seg i feilinformasjonstaktikker. I oktober 2020 ble et falskt etterretningsdokument distribuert blant president Trumps sirkler, som ble grunnlaget for en rekke konspirasjonsteorier rundt Hunter Biden, også skrevet av en falsk sikkerhetsanalytiker med et dypt forfalsket profilbilde .

Toler sier at dypfalske ansikter har blitt en trend i jobben hans som åpen kildekode-etterforsker av mistenkelig nettaktivitet, spesielt siden lanseringen av ThisPersonDoesNotExist.com, et nettsted som serverer et nytt AI-generert ansikt med hver oppdatering. Det er alltid en mental sjekkliste som du går gjennom når du finner noe, sier han. Det første spørsmålet er ‘Er denne personen ekte eller ikke?’ Som var et spørsmål vi egentlig ikke hadde for fem år siden.

Hvor stor trussel er dette? For øyeblikket, sier Toler, har ikke bruken av dypfalske ansikter hatt stor innvirkning på arbeidet hans. Det er fortsatt relativt enkelt for ham å identifisere når et profilbilde er en deepfake, akkurat som det er når bildet er et arkivbilde. Det vanskeligste scenariet er når bildet er av en ekte person hentet fra en privat konto på sosiale medier som ikke er indeksert på bildesøkemotorer.

En økende bevissthet om dype forfalskninger har også fått folk til å granske mediene de ser mer nøye, sier Toler, noe som fremgår av hvor raskt folk fanget opp forfalskningen av Amazon-kontoene.

Men Sam Gregory, programdirektøren for menneskerettighetsorganisasjonen Witness, sier at dette ikke bør lulle oss inn i en falsk følelse av trygghet. Deepfakes blir stadig bedre, sier han: Jeg tror folk har litt for mye tillit til at det alltid vil være mulig å oppdage dem.

En hyper-bevissthet om deepfakes kan også føre folk til slutte å tro på ekte media , som kan få like alvorlige konsekvenser, som å undergrave dokumentasjonen av menneskerettighetsbrudd.

Hva skal vi gjøre? Gregory oppfordrer brukere av sosiale medier til å unngå å fikse på om et bilde er en deepfake eller ikke. Ofte er det bare en liten del av puslespillet, sier han. Gaven er ikke at du på en eller annen måte har forhørt bildet. Det er at du ser på kontoen og den ble opprettet for en uke siden, eller det er en journalist som hevder å være journalist, men de har aldri skrevet noe annet du kan finne på et Google-søk.

Disse etterforskningstaktikkene er mye mer robuste overfor fremskritt innen dypfalsk teknologi. Rådene stemmer også for Amazon-saken. Det var gjennom å sjekke kontoenes e-poster og tweetdetaljer at Toler til slutt fant ut at de var falske – ikke ved å granske profilbildene.

gjemme seg