Fake America flott igjen

Inne i kappløpet for å fange de bekymringsverdig ekte forfalskningene som kan lages ved hjelp av kunstig intelligens. Av

• Will Knight arkivside

17. august 2018

Bruce Peterson

Gjett hva? Jeg har akkurat fått tak i noen pinlige videoopptak av Texas-senator Ted Cruz som synger og svinger til Tina Turner. Hans politiske fiender vil ha det veldig gøy å vise det i mellomperiodene. Donald Trump vil kalle ham Dancin’ Ted.

Ok, jeg skal innrømme det – jeg har laget videoen selv. Men her er det urovekkende: å gjøre det krevde svært lite videoredigeringsferdigheter. Jeg lastet ned og konfigurerte programvare som bruker maskinlæring til å utføre en overbevisende digital ansiktsbytte. Den resulterende videoen, kjent som en deepfake, viser Cruz sine utpreget hengende øyne sydd fast på trekkene til skuespilleren Paul Rudd som gjør leppesynkroniseringskaraoke. Det er ikke perfekt - det er noe som er litt feil - men det kan lure noen mennesker.

Denne historien var en del av utgaven for september 2018

• Se resten av saken
• Abonnere

Fotoforfalskning er langt fra nytt, men kunstig intelligens vil endre spillet fullstendig. Inntil nylig var det bare et filmstudio med stort budsjett som kunne gjennomføre en video-ansiktsbytte, og det ville sannsynligvis ha kostet millioner av dollar. AI gjør det nå mulig for alle med en anstendig datamaskin og noen timer til overs å gjøre det samme. Ytterligere maskinlæringsfremskritt vil gjøre enda mer komplekst bedrag mulig – og gjøre falske handlinger vanskeligere å oppdage.

Disse fremskrittene truer med å viske ut grensen mellom sannhet og fiksjon ytterligere i politikken. Allerede Internett akselererer og forsterker spredningen av desinformasjon gjennom falske sosiale medier-kontoer. Alternative fakta og konspirasjonsteorier er vanlige og mye antatt. Falske nyheter, bortsett fra deres mulige innflytelse på det siste amerikanske presidentvalget, har utløst etnisk vold i Myanmar og Sri Lanka det siste året. Tenk deg nå at du kaster nye typer falske videoer med ekte utseende inn i blandingen: politikere som snakker tull eller etniske fornærmelser, eller blir tatt for å oppføre seg upassende på video – bortsett fra at det egentlig aldri skjedde.

Deepfakes har potensial til å avspore politisk diskurs, sier Charles Seife, professor ved New York University og forfatter av Virtuell uvirkelighet: Bare fordi Internett fortalte deg, hvordan vet du at det er sant? Seife innrømmer til forbauselse over hvor raskt ting har gått siden boken hans ble publisert, i 2014. Teknologien endrer virkelighetsoppfatningen vår i en alarmerende hastighet, sier han.

Er vi i ferd med å gå inn i en epoke da vi ikke kan stole på noe, selv videoer med autentisk utseende som ser ut til å fange opp ekte nyheter? Hvordan bestemmer vi hva som er troverdig? Hvem stoler vi på?

Disse stillbildene av Ted Cruz og Paul Rudd ble tatt fra opptakene som ble matet til et ansiktsbytteprogram.

Ekte falsk

Flere teknologier har gått sammen for å gjøre forfalskning enklere, og de er lett tilgjengelige: smarttelefoner lar hvem som helst ta videoopptak, og kraftige datagrafikkverktøy har blitt mye billigere. Legg til programvare med kunstig intelligens, som gjør at ting kan forvrenges, remikses og syntetiseres på nye måter. AI er ikke bare en bedre versjon av Photoshop eller iMovie. Den lar en datamaskin lære hvordan verden ser ut og høres ut, slik at den kan fremkalle overbevisende simulacra.

Jeg laget klippet av Cruz ved hjelp av OpenFaceSwap, et av flere ansiktsbytteprogrammer som du kan laste ned gratis. Du trenger en datamaskin med en avansert grafikkbrikke, og dette kan sette deg tilbake noen tusenlapper. Men du kan også leie tilgang til en virtuell maskin for noen få cent per minutt ved å bruke en skymaskinlæringsplattform som Paperspace. Deretter mater du ganske enkelt inn to videoklipp og lener deg tilbake i noen timer mens en algoritme finner ut hvordan hvert ansikt ser ut og beveger seg slik at det kan kartlegges over på hverandre. Å få ting til å fungere er litt av en kunst: Hvis du velger klipp som er for forskjellige, kan resultatet bli en marerittaktig blanding av neser, ører og haker.

Men prosessen er lett nok.

Å få ting til å fungere er litt av en kunst: Hvis du velger klipp som er for forskjellige, kan resultatene bli en blanding av neser, ører og haker.

Ansiktsbytte ble, forutsigbart, først tatt i bruk for å lage porno. I 2017 brukte en anonym Reddit-bruker kjent som Deepfakes maskinlæring for å bytte ansikter til kjente skuespillerinner til scener med voksenfilmstjerner, og la deretter ut resultatene til en subreddit dedikert til lekket kjendisporno. En annen Reddit-bruker ga deretter ut et brukervennlig grensesnitt, som førte til en spredning av dypfalsk porno, samt, av en eller annen merkelig grunn, endeløse klipp av skuespilleren Nicolas Cage i filmer han egentlig ikke var med i. Selv Reddit, en notorisk frihjulende hangout, forbudt slik pornografi uten samtykke. Men fenomenet vedvarer i de mørkere hjørnene av internett.

OpenFaceSwap bruker et kunstig nevralt nettverk, nå gå-til-verktøyet i AI. Svært store, eller dype, nevrale nettverk som mates med enorme mengder treningsdata kan gjøre alle slags nyttige ting, inkludert å finne en persons ansikt blant millioner av bilder. De kan også brukes til å manipulere og syntetisere bilder.

OpenFaceSwap trener et dypt nettverk for å kode et ansikt (en prosess som ligner på datakomprimering), og skaper dermed en representasjon som kan dekodes for å rekonstruere hele ansiktet. Trikset er å mate de kodede dataene for det ene ansiktet inn i dekoderen for det andre. Det nevrale nettverket vil da fremmane, ofte med overraskende nøyaktighet, det ene ansiktet som etterligner det andres uttrykk og bevegelser. Den resulterende videoen kan virke sprø, men OpenFaceSwap vil automatisk uskarpe kantene og justere fargen på det nylig transplanterte ansiktet for å få ting til å se mer ekte ut.

Venstre: OpenFaceSwap forhåndsviser forsøk på ansiktsbytte under trening. Tidlige forsøk kan ofte være litt rare og groteske.

Høyre: Programvaren tar flere timer å produsere en god ansiktsbytte. Jo mer treningsdata, jo bedre sluttresultat.

Lignende teknologi kan også brukes til å gjenskape noens stemme. Et startup kalt Lyrebird har lagt ut overbevisende demoer av Barack Obama og Donald Trump som sier helt oppdiktede ting. Lyrebird sier at den i fremtiden vil begrense stemmeduplikasjonene til folk som har gitt tillatelse - men det er sikkert ikke alle som vil være så nøye.

En startup har lagt ut overbevisende demonstrasjoner av Barack Obama og Donald Trump som sier helt oppdiktede ting.

Det er veletablerte metoder for å identifisere manipulerte bilder og video. Et alternativ er å søke på nettet etter bilder som kan ha blitt blandet sammen. En mer teknisk løsning er å se etter tydelige endringer i en digital fil, eller til pikslene i et bilde eller en videoramme. En ekspert kan søke etter visuelle inkonsekvenser – en skygge som ikke burde være der, eller et objekt som har feil størrelse.

Hany Farid fra Dartmouth University, en av verdens fremste eksperter, har vist hvordan en scene kan rekonstrueres i 3D for å oppdage fysiske særheter. Han har også bevist at subtile endringer i pikselintensitet i en video, som indikerer en persons pulsfrekvens, kan brukes til å oppdage forskjellen mellom en ekte person og en datamaskingenerert. Nylig har en av Farids tidligere studenter, nå professor ved State University of New York i Albany, vist at uregelmessig øyeblink kan gi bort et ansikt som er blitt manipulert av AI.

Likevel kan de fleste ikke gjøre denne typen detektivarbeid og har ikke tid til å studere hvert bilde eller klipp som dukker opp på Facebook. Så ettersom visuell forfalskning har blitt mer vanlig, har det vært et press for å automatisere analysen. Og det viser seg at dyp læring ikke bare utmerker seg når det gjelder å lage ting, den er ideell for å granske bilder og videoer for tegn på forfalskning. Denne innsatsen har imidlertid bare så vidt begynt, og den kan til slutt bli hindret av hvor realistiske de automatiserte forfalskningene kan bli.

Nettverk av bedrag

En av de siste ideene innen AI-forskning involverer å snu nevrale nettverk mot seg selv for å produsere enda mer realistiske forfalskninger. Et generativt motstandernettverk, eller GAN, bruker to dype nevrale nettverk: ett som er opplært til å identifisere ekte bilder eller video, og et annet som over tid lærer å overliste motparten. GAN-er kan trenes til å produsere overraskende realistiske falske bilder.

I tillegg til å kopiere og bytte ansikter, kan GAN-er gjøre det mulig å syntetisere hele scener og mennesker som ser ganske ekte ut, forvandle en dagscene til en nattlig scene og drømme opp imaginære kjendiser. GAN-er fungerer ikke perfekt, men de blir bedre hele tiden, og dette er et hett forskningsområde ( MIT Technology Review kåret GANs til en av sine 10 banebrytende teknologier for 2018).

GAN-er kan forvandle scener på dagtid til nattlige scener og drømme opp imaginære kjendisansikter.

Det mest bekymringsfulle er at teknikken også kan brukes til å unngå digital etterforskning. USAs Defense Advanced Research Projects Agency inviterte forskere til å delta i en konkurranse denne sommeren der noen utviklet falske videoer ved hjelp av GAN-er og andre prøvde å oppdage dem. GAN-er er en spesiell utfordring for oss i det rettsmedisinske miljøet fordi de kan vendes mot våre rettsmedisinske teknikker, sier Farid. Det gjenstår å se hvilken side som vinner.

Dette er slutten

Hvis vi ikke er forsiktige, kan dette føre til verdens undergang - eller i det minste det som ser ut som det.

I april kunngjorde en antatt nyhetsrapport fra BBC åpningen av en atomkonflikt mellom Russland og NATO. Klippet, som begynte å sirkulere på meldingsplattformen WhatsApp, viste opptak av missiler som ble sprengt av mens en nyhetsoppleser fortalte seerne at den tyske byen Mainz var blitt ødelagt sammen med deler av Frankfurt.

Det var selvfølgelig helt falskt, og BBC skyndte seg å fordømme det. Videoen ble ikke generert ved hjelp av AI, men den viste kraften til falsk video, og hvordan den kan spre rykter i fordreiningshastighet. Utbredelsen av AI-programmer vil gjøre slike videoer mye enklere å lage, og enda mer overbevisende.

Selv om vi ikke lar oss lure av falske nyheter, kan det få alvorlige konsekvenser for politisk debatt. Akkurat som vi nå er vant til å spørre om et fotografi kan ha blitt fotografert, kan AI-genererte forfalskninger gjøre oss mer mistenksomme overfor hendelser vi ser delt på nettet. Og dette kan bidra til ytterligere uthuling av rasjonell politisk debatt.

I Sannhetens død , publisert i år, hevder litteraturkritikeren Michiko Kakutani at alternative fakta, falske nyheter og den generelle galskapen i moderne politikk representerer kulminasjonen av kulturelle strømninger som strekker seg tiår tilbake. Kakutani ser hyperreal AI-forfalskninger som bare det siste tunge slaget mot konseptet objektiv virkelighet.

Før teknologien i det hele tatt blir god, er det dypt problematisk at den eksisterer og er en måte å erodere tilliten til legitimt materiale, sier Renee DiResta, forsker ved Data for Democracy og en av de første som identifiserte fenomenet politisk motivert Twitter feilinformasjonskampanjer.

Den kanskje største risikoen med denne nye teknologien er da ikke at den vil bli misbrukt av statlige hackere, politiske sabotører eller Anonymous, men at den ytterligere vil undergrave sannheten og objektiviteten i seg selv. Hvis du ikke kan skille en falsk fra virkeligheten, blir det lett å stille spørsmål ved ektheten til noe. Dette fungerer allerede som en måte for politikere å unndra seg ansvarlighet.

Den største risikoen er kanskje at teknologien ytterligere vil undergrave sannhet og objektivitet.

President Trump har snudd opp ned ideen om falske nyheter ved å bruke begrepet til å angripe alle medieoppslag som kritiserer administrasjonen hans. Han har også antydet at et inkriminerende klipp av ham nedverdigende kvinner, utgitt under kampanjen i 2016, kan ha blitt forfalsket digitalt. I april anklaget den russiske regjeringen Storbritannia for å forfalske videobevis på et kjemisk angrep i Syria for å rettferdiggjøre foreslått militæraksjon. Ingen av anklagene var sanne, men muligheten for sofistikert forfalskning reduserer i økende grad troverdigheten til ekte informasjon. I Myanmar og Russland søker ny lovgivning å forby falske nyheter, men i begge tilfeller kan lovene rett og slett tjene som en måte å slå ned på kritikk av regjeringen.

Etter hvert som de mektige blir stadig mer oppmerksomme på AI-forfalskning, vil det bli lett å avvise selv tydelige videobevis på feilhandlinger som noe annet enn digitalt bedrag fra GAN.

Sannheten vil fortsatt være der ute. Men vil du vite det når du ser det?

Will Knight er seniorredaktør ved MIT Technology Review som dekker kunstig intelligens.

gjemme seg