211service.com
Forsvarsdepartementet har produsert de første verktøyene for å fange dype forfalskninger
SUNY SUNY
De første etterforskningsverktøyene for å fange hevnporno og falske nyheter laget med AI er utviklet gjennom et program drevet av det amerikanske forsvarsdepartementet.
Kriminaltekniske eksperter har hastet med å finne måter å oppdage videoer syntetisert og manipulert ved hjelp av maskinlæring fordi teknologien gjør det langt enklere å lage overbevisende falske videoer som kan brukes til å så desinformasjon eller trakassere folk.
Den vanligste teknikken for å generere falske videoer innebærer å bruke maskinlæring for å bytte en persons ansikt til en annens. De resulterende videoene, kjent som deepfakes, er enkle å lage, og kan være overraskende realistisk . Ytterligere justeringer, laget av en dyktig videoredigerer, kan få dem til å virke enda mer ekte .
Videolureri innebærer å bruke en maskinlæringsteknikk kjent som generativ modellering, som lar en datamaskin lære av ekte data før den produserer falske eksempler som er statistisk like. En nylig vri på dette innebærer å ha to nevrale nettverk, kjent som generative adversarielle nettverk, som jobber sammen for å produsere stadig mer overbevisende forfalskninger (se The GANfather: The man who's given machines the gift of imagination ).
Verktøyene for å fange deepfakes ble utviklet gjennom et program – drevet av US Defense Advanced Research Projects Agency (DARPA) – kalt Media Forensics . Programmet ble opprettet for å automatisere eksisterende etterforskningsverktøy, men har nylig rettet oppmerksomheten mot AI-laget forfalskning.
«Vi har oppdaget subtile signaler i nåværende GAN-manipulerte bilder og videoer som lar oss oppdage tilstedeværelsen av endringer, sier Matthew Turek, som driver Media Forensics-programmet.
Tucker Carlson får sin egen Nicolas Cage-makeover. Universitetet i Albany, SUNY
En bemerkelsesverdig enkel teknikk ble utviklet av et team ledet av Siwei Lyu , professor ved State University of New York i Albany, , og en av studentene hans. Vi genererte rundt 50 falske videoer og prøvde en haug med tradisjonelle rettsmedisinske metoder. De jobbet av og på, men ikke særlig bra, sier Lyu.
Så, en ettermiddag, mens han studerte flere dype forfalskninger, innså Lyu at ansiktene som ble laget ved bruk av dype forfalskninger sjelden, eller aldri, blinker. Og når de blunker, er øyebevegelsen unaturlig. Dette er fordi deepfakes trenes på stillbilder, som har en tendens til å vise en person med øynene åpne.
Andre som er involvert i DARPA-utfordringen utforsker lignende triks for automatisk å fange deepfakes: merkelige hodebevegelser, merkelig øyenfarge og så videre. Vi jobber med å utnytte denne typen fysiologiske signaler som i det minste foreløpig er vanskelige for dypfalske å etterligne, sier Hany Farid , en ledende digital etterforskningsekspert ved Dartmouth College.
DARPAs Turek sier at byrået vil kjøre flere konkurranser for å sikre at teknologiene under utvikling er i stand til å oppdage de nyeste teknikkene.
Ankomsten av disse rettsmedisinske verktøyene kan ganske enkelt signalisere begynnelsen på et AI-drevet våpenkappløp mellom videoforfalskere og digitale speidere. Et sentralt problem, sier Farid, er at maskinlæringssystemer kan trenes til å utmanøvrere kriminaltekniske verktøy.
Lyu sier at en dyktig forfalsker kan komme seg rundt det blinkende verktøyet sitt ganske enkelt ved å samle bilder som viser en person som blunker. Men han legger til at teamet hans har utviklet en enda mer effektiv teknikk, men sier at han holder det hemmelig for øyeblikket. Jeg vil heller holde ut i det minste en liten stund, sier Lyu. Vi har en liten fordel over forfalskningene akkurat nå, og vi ønsker å beholde den fordelen.