211service.com
Verdens beste deepfake-artist: 'Wow, dette utvikler seg raskere enn jeg trodde.'
Skjermbilde fra Putin deepfake Deepfake av Hao Li
AI-drevet deepfake-videoteknologi går raskere frem enn noen av verdens beste eksperter trodde var mulig.
Dens forbløffende bane betyr at innen noen få år kan perfekte og praktisk talt uoppdagelige deepfakes være mulig, sa Hao Li, en deepfake-pioner og en førsteamanuensis ved University of South California, i dag på MIT Technology Reviews EmTech-konferanse.
Li samarbeider tett med Hany Farid fra UC Berkeley, en av verdens beste digitale rettsmedisinere. Samarbeidet gjenspeiler både konkurranse – tross alt er Farids jobb å oppdage hva slags dype forfalskninger Li skaper – og, i større forstand, nært samarbeid.
Justin Saglio
Vi jobber sammen på en tilnærming som forutsetter at deepfakes vil være perfekte, sa Li. Vår gjetning om at om to til tre år kommer det til å være perfekt. Det vil ikke være noen måte å si om det er ekte eller ikke, så vi må ta en annen tilnærming.
Li driver også en oppstart kalt Pinscreen med fokus på forretnings- og underholdningsbruk av teknologien. Teamet hans sto bak trolldommen som satte Paul Walker inn i Rasende 7 , en del av Fast and Furious-filmserien, etter at Walker døde i en bilulykke. Som et tegn på at Hollywoods banker blir sterkere, jobber han for tiden med et Will Smith-filmprosjekt. Men Li har komplekse følelser om fremtiden til teknologien han jobber så tett med.
En teori om hvorfor det ikke har forårsaket enda mer skade ennå, er ganske enkelt fordi kvaliteten ikke er der ennå, sa Li. Men det vil komme dit. Og en annen teori er at teknologien fortsatt krever litt arbeid fra brukerne for å lage virkelig gode deepfakes. Men det er morsomt fordi for noen måneder siden sa jeg at det kan være år til det øyeblikket hvor det er lett for alle å gjøre dette. Ingen skjønte at det var denne kinesiske appen som kom ut en uke senere. Jeg tenkte: 'Wow, dette utvikler seg raskere enn jeg trodde.'
Appen er Zao , et ansiktsbytteprogram som, med ett enkelt fotografi, lar deg plassere deg selv i store TV-serier og filmer. Appen, som er uhyrlig populær i Kina, er i sentrum av en debatt om personvern og utilsiktede konsekvenser.
Det er et kraftig verktøy som skjøt opp til toppen av Kinas App Store av åpenbare grunner. Hvem ønsker ikke å bli Leonardo DiCaprio umiddelbart?
Er det perfekt? Langt ifra. Men det faktum at så mye kan gjøres i løpet av noen få sekunder på en hvilken som helst smarttelefon, signaliserer hvor raskt deepfake-teknologien går videre – og hvor mange avgjørende spørsmål som forblir ubesvart.