Deepfake-busting-apper kan oppdage til og med en enkelt piksel malplassert

Med tillatelse fra Serelay





Forfalskning av bilder og videoer pleide å ta mye arbeid. Enten brukte du CGI til å generere fotorealistiske bilder fra bunnen av (både utfordrende og kostbare), eller så trengte du litt mestring av Photoshop – og mye tid – for å modifisere eksisterende bilder på en overbevisende måte.

Nå har bruken av AI-genererte bilder gjort det lettere for alle å tilpasse et bilde eller en video med forvirrende realistiske resultater. Tidligere i år, MIT Technology Review senior AI-redaktør Will Knight brukte hyllevare for å lage sin egen falske video av den amerikanske senatoren Ted Cruz. Videoen er litt glitchy, men den vil ikke vare lenge.

Den samme teknologien skaper en voksende klasse med opptak og bilder, kalt deepfakes , som har potensial til å undergrave sannhet, forvirre seerne og skape uenighet i mye større skala enn vi allerede har sett med tekstbaserte falske nyheter.



Dette er mulighetene som forstyrrer Hany Farid, en professor i informatikk ved Dartmouth College som har avvist falske bilder i 20 år. Jeg tror ikke vi er klare ennå, advarer han. Men han håper at økende bevissthet om problemet og ny teknologisk utvikling bedre kan forberede folk til å skjelne sanne bilder fra manipulerte kreasjoner.

Et originalt bilde av Oxford Universitys Brasenose College. Høflighet av Serelay

Et eksempel på hvordan originalbildet kan redigeres for å fjerne LHBTQ-regnbueflagget på taket. Med tillatelse fra Serelay



Det er to hovedmåter å håndtere utfordringen med å verifisere bilder, forklarer Farid. Den første er å se etter modifikasjoner i et bilde. Bildeetterforskningseksperter bruker beregningsteknikker for å finne ut om noen piksler eller metadata virker endret. De kan se etter skygger eller refleksjoner som ikke følger fysikkens lover, for eksempel, eller sjekke hvor mange ganger en bildefil har blitt komprimert for å finne ut om den har blitt lagret flere ganger.

Den andre og nyere metoden er å verifisere et bildes integritet i det øyeblikket det er tatt. Dette innebærer å utføre dusinvis av kontroller for å sikre at fotografen ikke prøver å forfalske enhetens plasseringsdata og tidsstempel. Bekrefter kameraets koordinater, tidssone og høyde og nærliggende Wi-Fi-nettverk hverandre? Brytes lyset i bildet slik det ville gjort for en tredimensjonal scene? Eller tar noen et bilde av et annet todimensjonalt bilde?

Farid synes denne andre tilnærmingen er spesielt lovende. Tatt i betraktning de to milliarder bildene som lastes opp til nettet daglig, tror han det kan bidra til å verifisere bilder i stor skala.



Serelay lar brukere laste opp mistenkte bilder for å sjekke om de har blitt behandlet. Systemet utfører en rekke kontroller for å finne ut hvor eventuelle modifikasjoner er gjort. Med tillatelse fra Serelay

To startups, USA-baserte Truepic (som Farid konsulterer for) og Storbritannia-baserte Serelay, jobber nå med å kommersialisere denne ideen. De har tatt lignende tilnærminger: hver har gratis iOS- og Android-kameraapper som bruker proprietære algoritmer for å automatisk bekrefte bilder når de tas. Hvis et bilde blir viralt, kan det sammenlignes med originalen for å sjekke om det har beholdt sin integritet.

Mens Truepic laster opp brukernes bilder og lagrer dem på serverne sine, lagrer Serelay et slags digitalt fingeravtrykk ved å beregne omtrent hundre matematiske verdier fra hvert bilde. (Selskapet hevder at disse verdiene er nok til å oppdage selv en enkeltpiksel-redigering og bestemme omtrentlig hvilken del av bildet som ble endret.) Truepic sier at de velger å lagre hele bildene i tilfelle brukere ønsker å slette sensitive bilder av sikkerhetsgrunner. (I noen tilfeller må Truepic-brukere som opererer i scenarier med høy trussel, som en krigssone, fjerne appen umiddelbart etter at de har dokumentert scener.) Serelay, derimot, mener at det å ikke lagre bildene gir brukerne større privatliv.



Serelay er i stand til å fange og markere det manglende flagget på bildet. Med tillatelse fra Serelay

Som et ekstra lag med tillit og beskyttelse, lagrer Truepic også alle bilder og metadata ved hjelp av en blokkjede – teknologien bak Bitcoin som kombinerer kryptografi og distribuert nettverk for å sikkert lagre og spore informasjon.

Det er ikke skuddsikkert, innrømmer Farid, og han sier det er noen ulemper. For eksempel må brukere bruke verifiseringsprogramvaren i stedet for kameraappen på telefonen. Han bemerker også at selskaper som prøver å kommersialisere denne typen teknologi kan prioritere inntektsgenerering fremfor sikkerhet. Det er en viss tillit vi setter til selskapene som bygger disse appene, sier han.

Men det finnes også avbøtende strategier. Truepic og Serelay tilbyr begge programvareutviklingssett for å gjøre teknologien deres tilgjengelig for tredjepartsplattformer. Ideen deres er å en dag gjøre verifiseringsteknologien deres til en industristandard for digitale kameraer, inkludert Facebooks, Snapchats eller til og med Apples innfødte kameraapp. I det scenariet kan et uendret bilde lagt ut på sosiale medier automatisk motta et hakemerke, som et Twitter-verifiseringsmerke, som indikerer at det samsvarer med et bilde i databasen deres – et tegn på at Serelay håper vil etablere pålitelighet.

Det store flertallet av innholdet vi ser på nettet er tatt med mobile enheter, sier Farid. Det er i utgangspunktet en håndfull kameraer der ute som kan inkorporere denne typen teknologi i systemet deres, og jeg tror du har en ganske god løsning.

Hver oppstart er nå i tidlige samtaler med sosiale medier-selskaper for å utforske muligheten for et partnerskap, og Serelay er også en del av et nytt Facebook-akseleratorprogram kalt LDN_LAB.

Selv om teknologien ennå ikke er utbredt, oppfordrer Farid folk til å bruke den som standard når de dokumenterer scenarier med høy innsats, enten det er politiske kampanjetaler, menneskerettighetsbrudd eller bevis på et åsted. Truepic har allerede sett innbyggere bruke appen sin for å dokumentere kriser i Syria. Al Jazeera brukte deretter de bekreftede opptakene til å produsere flere videoer . Begge selskapene har også markedsført sin teknologi i forsikringsbransjen som en verifisert måte å dokumentere skader på.

Farid sier det er viktig for selskaper som gjør dette arbeidet å være transparente om prosessene sine og samarbeide med pålitelige partnere. Det kan bidra til å opprettholde brukertilliten og holde dårlige aktører unna.

Vi har fortsatt en vei å gå for å være fullt forberedt på spredningen av deepfakes, sier han. Men han er håpefull. Truepic-teknologien og Serelay-teknologien er i god form, sier han. Jeg tror vi gjør oss klare.

gjemme seg