En AI-app som gjør deg til en filmstjerne har risikert personvernet til millioner

Kategori: Kunstig intelligens Lagt ut 04 sep

ZAO, en viral kinesisk app som bruker kunstig intelligens for å bytte brukere og kjente skuespillere, er nå involvert i en stor personvernkontrovers.

Nyhetene: På fredag ​​gikk en ny app utgitt av Momo, en utvikler av sosiale medier, øyeblikkelig viral på kinesiske sosiale medier. Den lar brukere laste opp et enkelt portrett og i løpet av sekunder, se ansiktet deres lagt over hverandre på skuespillere i ikoniske filmscener. På søndag hadde det gjort det bli den mest nedlastede gratis underholdningsapp i Kinas Apple Store.

AI-falsk: Det er den siste – og kanskje mest imponerende – applikasjonen av generative motstandsnettverk, eller GAN-er, AI-algoritmene bak deepfakes. Mens GAN-er har blitt brukt til ansiktsredigering og ansiktsbytte før (i økende grad i Hollywood-filmer ), viser ZAOs bruk av ett enkelt bilde, kombinert med hastigheten og sømløsheten av byttet, hvor langt det er med toppmoderne innen mediefalsk. har avansert.

Kontroversen: I løpet av timer etter utgivelsen begynte ZAO å vekke bekymringer om personvern, spesielt over en klausul i brukeravtalen som ga utviklere rett til å bruke alle opplastede bilder gratis i evighet. Det tillot dem også å overføre denne rettigheten til enhver tredjepart uten brukertillatelse. Juridiske eksperter i Kina sa at dette ikke var lovlig, og på lørdag hadde apputvikleren gått under press og fjernet klausulen. WeChat, Kinas beste app for sosiale nettverk, forbød også all deling av opptak eller bilder fra ZAO.

Allerede sett: Episoden spilte en lignende kontrovers om FaceApp, en fotoredigeringsapp som gikk viralt i juli. Appen brukte også GAN-er til å retusjere folks portretter og hadde samlet over 150 millioner bilder av ansikter siden den ble lansert. ZAO fikk et mye raskere og skarpere tilbakeslag, men det hadde sannsynligvis allerede blitt brukt av millioner av brukere da det reviderte policyen. På den ene siden viser hyppigheten av slike hendelser hvor enkelt en brukers personlige data nå kan samordnes og gjenbrukes utenfor vedkommendes kontroll. På den andre viser det at folk også har blitt mer følsomme for personvernet og er mindre villige til å gi opp uten kamp.

For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.