211service.com
Et nytt deepfake-deteksjonsverktøy skal holde verdensledere trygge – foreløpig
Et bilde av dypfalske og etterligne eksempler på Barak Obama University of California, Berkeley
En AI-produsert video kan vise Donald Trump si eller gjøre noe ekstremt opprørende og provoserende. Det ville bare være for troverdig, og i verste fall kan det påvirke et valg, utløse vold i gatene eller utløse en internasjonal væpnet konflikt.
Heldigvis en ny digital etterforskningsteknikk lover å beskytte president Trump, andre verdensledere og kjendiser mot slike dype forfalskninger – i det minste foreløpig. Den nye metoden bruker maskinlæring for å analysere en spesifikk persons tale- og bevegelsesstil, det forskerne kaller en mykbiometrisk signatur.
Forskerne, fra UC Berkeley og University of South California, brukte et eksisterende verktøy for å trekke ut ansikts- og hodebevegelser til individer. De skapte også sine egne deepfakes for Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren og Hillary Clinton ved å bruke generative motstandsnettverk.
Teamet brukte deretter maskinlæring for å skille hode- og ansiktsbevegelsene som kjennetegner den virkelige personen. Disse subtile signalene – kanskje måten Bernie Sanders nikker mens han sier et bestemt ord, eller måten Trump smiler etter et comeback – er foreløpig ikke modellert av dypfalske algoritmer.
I eksperimenter var teknikken minst 92 % nøyaktig når det gjaldt å oppdage flere varianter av dype forfalskninger, inkludert ansiktsbytter og de der en etterligner bruker en digital dukke. Den var også i stand til å håndtere artefakter i filene som kommer fra rekomprimering av en video, noe som kan forvirre andre deteksjonsteknikker. Forskerne planlegger å forbedre teknikken ved å ta hensyn til kjennetegn ved en persons tale også. Forskningen, som ble presentert på en datasynskonferanse i California denne uken, ble finansiert av Google og DARPA, en forskningsfløy i Pentagon. DARPA finansierer et program for å utvikle bedre deteksjonsteknikker.
Problemet som verdens ledere (og alle andre) står overfor er at det har blitt latterlig enkelt å generere videoforfalskninger med kunstig intelligens. Falske nyhetsrapporter, falske sosiale medier-kontoer og manipulerte videoer har allerede undergravd politisk nyhetsdekning og diskurs. Politikere er spesielt bekymret for at falske medier kan bli brukt til å så feilinformasjon under presidentvalget i 2020.
Noen verktøy for å fange dypfalske videoer er allerede produsert, men falsknere har raskt tilpasset seg. For en stund var det for eksempel mulig å oppdage en deepfake ved å spore høyttalerens øyebevegelser, som hadde en tendens til å være unaturlige i deepfake. Kort tid etter at denne metoden ble identifisert, ble deepfake-algoritmer imidlertid finjustert for å inkludere bedre blinking.
Vi er vitne til et våpenkappløp mellom digitale manipulasjoner og evnen til å oppdage disse, og fremskrittene av AI-baserte algoritmer katalyserer begge sider, sier Hao Li, professor ved University of Southern California og administrerende direktør for Pinscreen som var med på å utvikle den nye teknikken. Av denne grunn har teamet hans ennå ikke gitt ut koden bak metoden.
Li sier at det vil være spesielt vanskelig for deepfake-makere å tilpasse seg den nye teknikken, men han innrømmer at de sannsynligvis vil gjøre det til slutt. Det neste trinnet for å gå rundt denne formen for deteksjon ville være å syntetisere bevegelser og atferd basert på tidligere observasjoner av denne bestemte personen, sier han.
Li sier også at ettersom deepfakes blir enklere å bruke og kraftigere, kan det bli nødvendig for alle å vurdere å beskytte seg selv. Kjendiser og politiske personer har vært hovedmålene så langt, sier han. Men jeg ville ikke bli overrasket om i løpet av et år eller to kan kunstige mennesker som ser ut til å ikke skilles fra ekte syntetiseres av enhver sluttbruker.