Ikke undervurder den billige faken

politisk forfalskninger det

Ms Tech | Unsplash





30. november, talsmann for det kinesiske utenriksdepartementet, Lijian Zhao festet et bilde til Twitter-profilen hans. I den står en soldat på et australsk flagg og gliser manisk mens han holder en blodig kniv mot strupen på en gutt. Gutten, hvis ansikt er dekket av et halvgjennomsiktig slør, bærer et lam. Ved siden av bildet tvitret Zhao, Sjokkert over drap på afghanske sivile og fanger av australske soldater. Vi fordømmer på det sterkeste slike handlinger, &call [sic] for å holde dem ansvarlige.

Tweeten er refererer til en nylig kunngjøring av den australske forsvarsstyrken, som fant troverdig informasjon om at 25 australske soldater var involvert i drapene på 39 afghanske sivile og fanger mellom 2009 og 2013. Bildet påstår å vise en australsk soldat i ferd med å skjære over strupen på et uskyldig afghansk barn. Eksplosive ting.

Bortsett fra at bildet er falskt. Ved nærmere undersøkelse er det ikke engang veldig overbevisende. Det kunne vært satt sammen av en nybegynner i Photoshop. Dette bildet er en såkalt cheapfake, et stykke media som har blitt grovt manipulert, redigert, feilmerket eller feilaktig kontekstualisert for å spre desinformasjon.



Den billige falsken er nå i hjertet av en stor internasjonal hendelse. Australias statsminister, Scott Morrison, sa at Kina burde skamme seg fullstendig og krevde en unnskyldning for motbydelig bilde . Beijing har nektet, i stedet anklaget Australia for barbari og for prøver å avlede offentlig oppmerksomhet fra påståtte krigsforbrytelser fra dets væpnede styrker i Afghanistan.

Det er to viktige politiske lærdommer å trekke av denne hendelsen. Den første er at Beijing sanksjonerte bruken av en billig forfalskning av en av sine toppdiplomater for å aktivt spre desinformasjon på vestlige nettplattformer. Kina har tradisjonelt utvist forsiktighet i slike saker, med mål om å fremstille seg selv som en godartet og ansvarlig supermakt. Dette ny tilnærming er en betydelig avgang.

Den billige falsken er nå i hjertet av en stor internasjonal hendelse.



Mer generelt viser imidlertid denne trefningen også den økende betydningen av visuell desinformasjon som et politisk verktøy. I løpet av det siste tiåret har spredningen av manipulerte medier omformet politiske realiteter. (Vurder for eksempel de billige forfalskningene som katalyserte et folkemord mot rohingya-muslimene i Burma, eller bidratt til å spre seg covid desinformasjon. ) Nå som globale supermakter åpenlyst deler billige forfalskninger på sosiale medier, hva kan hindre dem (eller andre aktører) i å distribuere mer sofistikert visuell desinformasjon etter hvert som den dukker opp?

I årevis har journalister og teknologer advart om farene ved deepfakes. Stort sett, dypfalske s er en type syntetiske medier som har blitt manipulert eller skapt av kunstig intelligens. De kan også forstås som den overlegne etterfølgeren til cheapfakes.

Teknologiske fremskritt forbedrer samtidig kvaliteten på visuell desinformasjon og gjør det lettere for alle å generere. Etter hvert som det blir mulig å produsere dype forfalskninger gjennom smarttelefonapper, vil nesten hvem som helst kunne lage sofistikert visuell desinformasjon nesten uten kostnad.



Falsk alarm

Deepfake advarsler nådde et febernivå foran det amerikanske presidentvalget i år. I flere måneder diskuterte politikere, journalister og akademikere hvordan de skulle møte den opplevde trusselen. I forkant av avstemningen, delstatslovgivere i Texas og California til og med forebyggende forbudt bruken av deepfakes for å påvirke valg .

En dypfalsk bot blir brukt til å kle av mindreårige jenter

En teknologi som ligner på DeepNude, 2019-appen som ble stengt kort tid etter lansering, sprer seg nå uhindret på Telegram.

I ettertid var disse fryktene overvurdert . Bortsett fra noen interessante utviklinger, inkludert en tongue-in-cheek-skapelse av den russisk-statlige kringkasteren Russia Today (RT) der en beseiret Donald Trump innrømmer å være den russiske presidenten Vladimir Putins bonde, var det lite valgrelatert deepfakery å rapportere. Absolutt ingenting materialiserte seg som objektivt kunne sies å ha påvirket utfallet. I stedet for å bli brukt til å sabotere eller utnytte politikere, brukes deepfakes fortsatt oftest til å skape porno uten samtykke .



Selv om dype forfalskninger ennå ikke har blitt massedesinformasjonens våpen som noen forutså, er det ikke rom for selvtilfredshet. Den potensielle risikoen reduseres foreløpig i stor grad av tekniske begrensninger. Ettersom deepfake-skapingsteknologiene forbedres, vil slusene åpne seg.

Og selv før da, bare bevissthet av deepfakes har allerede en skadelig effekt. I nær fremtid vil dårlige skuespillere kunne produsere deepfakes om alt, og rett og slett avfeie alle autentiske medier som falske. Denne doble bonusen for dårlige skuespillere er kjent som løgners utbytte. Selv om begrepet var myntet i en banebrytende artikkel fra 2018 om deepfakes, gjelder det ikke deepfakes alene. Konseptet strekker seg til all desinformasjon, inkludert billige forfalskninger.

Billige forfalskninger overalt

Siden den beryktede doktorerte videoen av House Speaker Nancy Pelosi dukket opp i 2019 har billige forfalskninger blitt en fast del av USAs politiske liv. I år bidro de til å opprettholde en høyprofilert desinformasjonsoperasjon fremmet av presidenten og hans nærmeste medarbeidere. Den falske påstanden om at valget var preget av utbredt velgersvindel ble konsekvent forsterket av billige forfalskninger.

Et eksempel er en viral video av påtroppende president Joe Biden som sier: Vi har satt sammen, tror jeg, den mest omfattende og inkluderende velgersvindelorganisasjonen i amerikansk politikks historie. Når de er riktig kontekstualisert, kan Bidens kommentarer forstås som å beskrive et program for å beskytte velgere i tilfelle grunnløse rettssaker angående valgresultatet. Likevel ble klippet delt av både Trump og pressesekretær Kayleigh McEnany og fremstilt som en innrømmelse av svindel.

Selv om stemmene fortsatt ble talt opp, autentiske videoer av valgarbeidere transkribere stemmer og samle inn stemmesedler på en rutinemessig måte ble delt, av folk inkludert Trump selv, som bevis på stemmedumping og tukling. I mellomtiden viste en viral billigfalsk som viser en mann som river opp stemmesedler seg å være arbeidet til en TikTok skøyer .

Påstandene om utbredt velgersvindel er grunnløse, og domstoler over hele Amerika avviser forsøk fra Trumps juridiske team på å bestride valgresultatet. Tidligere denne måneden, statsadvokat Bill Barr (som går av 23. desember) endelig innrømmet at det amerikanske justisdepartementet ikke har avdekket bevis for svindel.

Men billige forfalskninger ser ut til å ha hatt konsekvenser i den virkelige verden: i begynnelsen av desember, Gabriel Sterling, Georgias implementeringsleder for stemmesystem , siterte tilfeller av trusler og drapstrusler mot valgarbeidere, ba: Det har gått for langt! Det må stoppe! En valgarbeider i Georgia måtte gå i skjul etter en 34-sekunders billig forfalskning falsk anklaget ham for å ha kastet en fraværende stemmeseddel gikk viralt.

Troen på fortellingen om det riggede valget faller sterkt langs partipolitiske linjer. EN Politico/Morning Consult meningsmåling utført etter valget fant at 70 % av republikanske velgere sa at de ikke trodde det hadde vært fritt og rettferdig. Antall GOP-velgere som uttrykte lignende mistillit til prosessen før valget var 35%. Omvendt sa bare halvparten av demokratiske velgere (52 %) at de trodde valget ville være fritt og rettferdig før 3. november. I meningsmålinger utført etter Bidens seier, skjøt tallet til himmels til 90 %.

Hva skal man tro?

Den økende utbredelsen av visuell desinformasjon ser ut til å påvirke politikken på to forskjellige måter. For det første nærer det spredningen av all slags desinformasjon. Dårlige skuespillere opptrer mer ustraffet, sikre på at de kan unngå gransking og ansvarlighet. I skrivende stund var den billige faken som ble delt av Lijian Zhao fortsatt festet til Twitter-profilen hans.

Dagens billige forfalskninger tilbyr verdifulle leksjoner om fremtidens dype forfalskninger.

For det andre gjør den økende utbredelsen av visuell desinformasjon oss mer mottakelige for all desinformasjon. Etter hvert som publikum blir mer bevisst på de mange måtene medier kan manipuleres på, vil de bli mer skeptiske til alle medier, inkludert autentiske medier.

Denne skepsisen gjør det lettere for dårlige skuespillere å avfeie virkelige hendelser som falske. Det kan også føre til stadig mer subjektive og partipolitiske tolkninger av hendelser fra publikum selv. Tenk for eksempel på den utbredte troen blant republikanske velgere om at valget i USA i 2020 ikke var fritt og rettferdig. Dette er beviselig usant, men som opinionsdata antyder, er det ikke bare republikanernes velgere som mistillit til valgprosessen. Inntil de vant, var demokratiske velgere det også skeptisk. Hvis en republikansk kandidat vinner i 2024, vil opinionen snu igjen langs partipolitiske linjer?

Mens de mest forferdelige spådommene om politisk motiverte deepfakes ikke ble realisert i 2020, må vi analysere deres utvikling i sammenheng med billige forfalskninger og andre former for politisk desinformasjon. Dagens billige forfalskninger tilbyr verdifulle leksjoner om fremtidens dype forfalskninger. Spørsmålet bør derfor ikke være Når vil politiske dype forfalskninger dukke opp? men hvordan kan vi dempe de mange måtene visuell desinformasjon allerede omformer vår politiske virkelighet på?

Nina Schick er forfatteren av Deepfakes: The Coming Infocalypse.

gjemme seg