211service.com
En AI-app som kledde av kvinner viser hvordan deepfakes skader de mest sårbare
Et bilde av en kvinne med uskarp kropp Ms. Tech/ Originalbilde: Getty
Oppmerksomheten rundt deepfakes og syntetiske medier har vokst de siste månedene. Men mens samtalen først og fremst har fokusert på dens potensielle innvirkning på politikk, har flere eksperter innen menneskerettigheter og teknologietikk advart om at en annen potensiell skade har blitt oversett: de muligens ødeleggende konsekvensene for kvinner og andre sårbare befolkninger som er målrettet med teknologien, men som ikke kan beskytte seg selv.
Nå spiller det siste deepfake-eksperimentet – en app kalt DeepNude som kledde av bilder av kvinner – ut disse marerittene. Først rapportert av Vice , brukte den generative motstridende nettverk, eller GAN-er, for å bytte ut kvinneklærne med svært realistiske nakne kropper. Artikkelen inspirerte raskt et viralt tilbakeslag, og appens skaper stengte den.
DeepNude-appen beviser vår verste frykt for den unike måten audiovisuelle verktøy kan bevæpnes mot kvinner, sier Mutale Nkonde, en stipendiat ved Data & Society Research Institute, som ga råd om et lovforslag som ble presentert i Kongressen av representant Yvette Clarke som ville skape mekanismer for ofre av slike ondsinnede deepfakes for å søke rettslig klage for skade på omdømmet.
Appen var spesielt rettet mot kvinner. Vice fant ut at programvaren bare genererte bilder av kvinnekroppen, selv når det ble gitt et bilde av en mann. Den anonyme skaperen bekreftet at han hadde trent GAN-algoritmen kun på nakenbilder av kvinner – i dette tilfellet mer enn 10 000 av dem – fordi de var lettere å finne på nettet. Han hadde imidlertid også tenkt å lage en mannlig versjon.
Selv om deepfakes ikke avbildet kvinnenes faktiske kropper - de er fullstendig syntetisert av algoritmen - hadde de fortsatt potensial til å forårsake betydelig emosjonell og omdømmeskade. Bildene kan lett forveksles med ekte vare og brukes som hevnporno eller et kraftig verktøy for å tie kvinner. Faktisk har dette skjedd før: a kvinnelig journalist i India fikk ansiktet hennes podet inn på en pornovideo etter at hun begynte å avdekke korrupsjon fra myndighetene. Det gikk umiddelbart viralt, og utsatte henne for intens trakassering og voldtektstrusler, og hun måtte gå offline i flere måneder.
Deepfakes er ikke en ny trussel; manipulerte medier har eksistert lenge før AI. Men teknologien har akselerert og utvidet eksisterende trender, sier Sam Gregory, programdirektør for menneskerettighetsorganisasjonen Witness. Algoritmer har gjort det mye enklere for langt flere mennesker å generere stadig mer overbevisende falske medier. Alt som folk brukte manipulerte medier til å gjøre tidligere, som å angripe journalister, antyde korrupsjon eller tilsløre bevis, vil bli stadig mer vanlig og farlig vanskelig å oppdage.
Appen er ikke annerledes, sier han. Bildebaserte seksuelle overgrep mot kvinner eksisterte allerede som et problem. Nå setter deepfakes drivstoff på flammene.
Med samme logikk bekymrer Nkonde at kvinner ikke vil være de eneste sårbare målene for dypforfalskninger. Minoriteter, LHBTQ-folk og andre grupper som ofte er utsatt for den mest alvorlige trakasseringen på nettet, vil sannsynligvis også bli ofre – men kanskje på forskjellige måter. Under den amerikanske presidentkampanjen i 2016, for eksempel, russiske operatører brukte falske afroamerikanske personas og relaterte bilder som en del av en desinformasjonskampanje på Facebook for å øke rasespenningene blant amerikanere.
Dette var en ny måte for velgerundertrykkelse, og det var gjennom å misbruke folks identiteter på nettet, sier Nkonde. Deepfake-teknologi vil være et annet naturlig verktøy for ondsinnede aktører som utgir seg for å være mennesker de ikke er, for ikke å forstyrre lokalsamfunn og på annen måte forårsake skade.
Så hvor går vi herfra? Både Nkonde og Gregory har delt lignende anbefalinger med MIT Technology Review tidligere: selskaper og forskere som produserer verktøy for deepfakes må også investere i mottiltak, og sosiale medier og søkeselskaper bør integrere disse mottiltakene direkte i plattformene sine. Nkonde oppfordrer også tilsynsmyndighetene til å handle raskt. Med mindre myndighetene finner en måte å beskytte forbrukernes rettigheter på, vil apper som dette spre seg, sier hun.
Teknologi er ikke nøytral, sier Gregory. Denne [DeepNude]-appen har ikke dobbeltbruk. Det er engangsbruk for et ondsinnet formål, og det blir skapt amoralsk.
Vi må virkelig fokusere på etikken ved å skape og dele generative medieverktøy, legger han til. Dette bør vi rope ut flere ganger.