211service.com
Facebook har nettopp gitt ut en database med 100 000 deepfakes for å lære AI hvordan de kan oppdage dem
Deepfakes har truffet en nerve hos både publikum og forskere. Det er noe unikt urovekkende med disse AI-genererte bildene av folk som ser ut til å si eller gjøre noe de ikke gjorde.
Med verktøy for å lage deepfakes nå allment tilgjengelige og relativt enkle å bruke, mange bekymrer seg også for at de vil bli brukt til å spre farlig feilinformasjon. Politikere kan få andres ord i munnen eller få dem til å delta i situasjoner de ikke har deltatt i, for eksempel.
Det er frykten, i det minste. For et menneskelig øye er sannheten at deepfakes fortsatt er relativt enkle å oppdage. Og iflg en rapport fra cybersikkerhetsfirmaet DeepTrace Labs i oktober 2019, fortsatt den mest omfattende til dags dato, har de ikke blitt brukt i noen desinformasjonskampanje. Likevel fant den samme rapporten også at antallet deepfakes lagt ut på nettet vokste raskt, med rundt 15 000 dukket opp i løpet av de siste syv månedene. Det tallet vil være langt større nå.
Sosiale medier-selskaper er bekymret for at deepfakes snart kan oversvømme nettstedene deres. Men det er vanskelig å oppdage dem automatisk. For å løse problemet ønsker Facebook å bruke AI for å hjelpe til med å kjempe tilbake mot AI-genererte forfalskninger. For å trene AI-er til å oppdage manipulerte videoer, gir den ut det største datasettet med dype forfalskninger-mer enn 100 000 klipp produsert ved hjelp av 3 426 skuespillere og en rekke eksisterende ansiktsbytteteknikker.
Deepfakes er foreløpig ikke et stort problem, sier Facebooks CTO, Mike Schroepfer. Men leksjonen jeg har lært på den harde måten de siste par årene er ikke å bli tatt på flatfot. Jeg ønsker å være veldig forberedt på mange dårlige ting som aldri skjer i stedet for omvendt.
Facebook har også annonsert vinneren av sin Deepfake Detection Challenge , der 2 114 deltakere sendte inn rundt 35 000 modeller trent på datasettet. Den beste modellen, utviklet av Selim Seferbekov, en maskinlæringsingeniør ved kartfirmaet Mapbox, var i stand til å oppdage om en video var en deepfake med 65 % nøyaktighet når den ble testet på et sett med 10 000 tidligere usett klipp, inkludert en blanding av nye videoer generert av Facebook og eksisterende hentet fra internett.
For å gjøre ting vanskeligere inkluderer treningssettet og testsettet videoer som et deteksjonssystem kan bli forvirret av, for eksempel folk som gir sminkeopplæringer, og videoer som har blitt finjustert ved å lime inn tekst og former over ansiktene til høyttalerne, endre oppløsningen eller orientering, og bremse dem.
I stedet for å lære rettsmedisinske teknikker, som å lete etter digitale fingeravtrykk i pikslene i en video som er etterlatt av deepfake-genereringsprosessen, ser det ut til at de fem beste oppføringene har lært å oppdage når noe så ut, slik et menneske kan gjøre.
For å gjøre dette brukte vinnerne alle en ny type konvolusjonelt nevralt nettverk (CNN) utviklet av Google-forskere i fjor, kalt EfficientNets. CNN-er brukes ofte til å analysere bilder og er flinke til å oppdage ansikter eller gjenkjenne objekter. Å forbedre nøyaktigheten utover et visst punkt kan imidlertid kreve ad hoc finjustering. EfficientNets gir en mer strukturert måte å stille inn på, noe som gjør det enklere å utvikle mer nøyaktige modeller. Men nøyaktig hva det er som får dem til å overgå andre nevrale nettverk på denne oppgaven er ikke klart, sier Seferbekov.
Facebook planlegger ikke å bruke noen av vinnermodellene på siden sin. For det første er 65 % nøyaktighet ennå ikke god nok til å være nyttig. Noen modeller oppnådde mer enn 80 % nøyaktighet med treningsdataene, men dette falt når de ble stilt mot usette klipp. Generalisering til nye videoer, som kan inkludere forskjellige ansikter byttet ut ved å bruke forskjellige teknikker, er den vanskeligste delen av utfordringen, sier Seferbekov.
Han tror at en måte å forbedre gjenkjenningen på er å fokusere på overgangene mellom videobilder og spore dem over tid. Selv deepfakes av veldig høy kvalitet har noe flimring mellom rammene, sier Seferbekov. Mennesker er flinke til å oppdage disse inkonsekvensene, spesielt i opptak av ansikter. Men å fange opp disse feilene automatisk vil kreve større og mer varierte treningsdata og mye mer datakraft. Seferbekov prøvde å spore disse rammeovergangene, men klarte det ikke. CPU var en skikkelig flaskehals der, sier han.
Facebook foreslår at deepfake-deteksjon også kan forbedres ved å bruke teknikker som går utover analysen av et bilde eller en video i seg selv, for eksempel å vurdere konteksten eller herkomsten.
Sam Gregory, som leder Witness, et prosjekt som støtter menneskerettighetsaktivister i deres bruk av videoteknologier, hilser investeringen av sosiale medier-plattformer velkommen i dypfalsk-deteksjon. Witness er medlem av Partnership on AI, som ga Facebook råd om datasettet. Gregory er enig med Schroepfer i at det er verdt å forberede seg på det verste. Vi har ikke hatt de deepfake apokalypsene, men disse verktøyene er et veldig ekkelt tillegg til kjønnsbasert vold og feilinformasjon, sier han. For eksempel fant DeepTrace Labs-rapporten at 96 % av deepfakes var pornografi uten samtykke, der andres ansikter er limt over utøvernes ansikter i pornoklipp.
Når millioner av mennesker er i stand til å lage og dele videoer, er det viktigere enn noen gang å stole på det vi ser. Falske nyheter sprer seg gjennom Facebook som en ild i tørt gress, og bare muligheten for deepfakes sår tvil, noe som gjør at vi mer sannsynlig å stille spørsmål ved ekte opptak så vel som falske.
Dessuten kan automatisk deteksjon snart være vårt eneste alternativ. I fremtiden vil vi se deepfakes som ikke kan skilles fra mennesker, sier Seferbekov.