Glem falske nyheter - nesten alle deepfakes blir laget for porno

Kategori: Teknisk politikk Lagt ut 07. okt

Internett er hjemmet til minst 14 678 deepfakes, ifølge en ny rapport fra DeepTrace , et selskap som bygger verktøy for å oppdage syntetiske medier. Men de fleste av dem ble ikke skapt for å rote med valg.

Tilbake til begynnelsen: Deepfakes ankom åstedet sent i 2017. Ordet ble opprinnelig brukt for å beskrive AI-generert falsk porno , med hodene til skuespillerinner på kroppen til voksne filmstjerner. Siden den gang har betydningen av deepfakes utvidet seg til å referere til enhver form for manipulert video, som en med Mark Zuckerberg som holder en falsk tale om Facebook. Dette har skapt frykt for slutten på sannheten og potensialet til dype forfalskninger for å svinge valg.

Internett er for porno: Rapporten fant at de fleste videoene ikke handler om å prøve å påvirke politikk. Hele 96% av deepfakes var fortsatt ren gammel falsk porno. Deepfake pornografi er et fenomen som utelukkende retter seg mot og skader kvinner, skriver forfatterne. All den falske pornoen inneholdt kvinner, for det meste kjente skuespillerinner og musikere. (De gjenværende ikke-pornografiske deepfakes på YouTube inkluderte for det meste menn.) Tallet i seg selv er ikke så høyt, men det er bekymringsfullt at det vokser så raskt.

Kjempe tilbake med loven: Spørsmålet har fanget oppmerksomheten til lovgivere. I California, guvernør Gavin Newsom har nettopp undertegnet to lovforslag som begrenser hva folk kan gjøre med deepfakes. En lov gjør det ulovlig å lage og distribuere en ondsinnet deepfake av en politiker innen to måneder etter et valg. (ACLU og Electronic Frontier Foundation har allerede presset tilbake og sa at loven er for bred og vil skade politiske ytringer .) Den andre dypfalske lov kommer nærmere hvordan manipulasjonene egentlig blir brukt. Det lar folk saksøke hvis deres bildet brukes i dypfalske porno uten samtykke .