Deepfakes kan anonymisere folk i videoer mens de beholder personligheten deres

Kategori: Kunstig intelligens Lagt ut 17. sep

AI kan generere ansikter som matcher uttrykkene til anonyme personer for å gi dem privatliv – uten å miste evnen til å uttrykke seg.

Nyhetene: En ny teknikk bruker generative adversarial networks (GAN), teknologien bak deepfakes, for å anonymisere noen i et bilde eller en video.

Hvordan det fungerer: Algoritmen trekker ut informasjon om personens ansiktsuttrykk ved å finne plasseringen av øyne, ører, skuldre og nese. Den bruker deretter en GAN, trent på en database med 1,5 millioner ansiktsbilder, for å lage et helt nytt ansikt med det samme uttrykket og blander det inn i det originale bildet, og beholder den samme bakgrunnen.

Feil: Teknikken er utviklet av forskere ved Norges teknisk-naturvitenskapelige universitet og er fortsatt svært eksperimentell. Den fungerer på mange typer bilder og ansikter, men snubler fortsatt når ansiktet er delvis okkludert eller snudd i bestemte vinkler. Teknikken er også veldig feilaktig for video.

Annet arbeid: Dette er ikke den første AI-baserte ansiktsanonymiseringsteknikken. Et papir i februar fra forskere ved University of Albany brukte dyp læring for å transplantere nøkkelelementer i et forsøkspersons ansiktsuttrykk på noen andre. Den metoden krevde at en donor som samtykket, kunne tilby ansiktet sitt som det nye lerretet for uttrykkene.

Hvorfor det er viktig: Ansiktsanonymisering brukes for å beskytte identiteten til noen, for eksempel en varsler, i bilder og opptak. Men tradisjonelle teknikker, som uskarphet og pikselering, risikerer å være ufullstendig (det vil si at personens identitet kan oppdages uansett) eller å fjerne personens personlighet fullstendig (dvs. ved å fjerne ansiktsuttrykk). Fordi GAN-er ikke bruker motivets originale ansikt i det hele tatt, eliminerer de enhver risiko for det tidligere problemet. De kan også gjenskape ansiktsuttrykk i høy oppløsning, og dermed tilby en løsning på sistnevnte.

Ikke alltid den slemme fyren: Teknikken demonstrerer også et nytt verdiforslag for GAN-er, som har utviklet et dårlig rykte for å senke barrieren for å produsere overbevisende feilinformasjon. Mens denne studien var begrenset til visuelle medier, viser den i forlengelsen hvordan GAN-er også kan brukes på lyd for å anonymisere stemmer.