Her er fem måter deepfake-busting-teknologi kan gi tilbakeslag

Kategori: Valget 2020 Lagt ut 16. desember

Deepfakes har blitt et symbol for slutten på sannheten og, for noen, et potensielt verktøy for å svinge valg. (Glem ikke at de fleste deepfakes fortsatt er falske porno.) Alle fra amerikanske myndigheter til teknologigiganter til startups prøver å utvikle deepfake-busting-teknologi. men a ny rapport fra vitne i dag , en ideell organisasjon som studerer syntetiske medier, påpeker hvordan disse verktøyene kan gå galt.

Teknikkene: Manipulert video er ikke et nytt problem, og det er mange sosiale problemer som selv den beste deepfake-detektoren ikke kan fikse. (For eksempel, å vite at en video har blitt redigert, svarer ikke automatisk på spørsmålet om den skal fjernes. Hva om det er satire?) Det har ikke forhindret selskaper som Amber Video, Truepic og eWitness fra å utvikle verifiserte- ved-fangst- eller kontrollert-fangst-teknologier. Disse bruker en rekke teknikker for å signere, geomerke og tidsstemple et bilde eller en video når den er opprettet. I teorien gjør dette det lettere å si om mediene har blitt tuklet med.

Hva er problemet? Vitnerapporten beskriver 14 forskjellige måter disse teknologiene faktisk kan ende opp med å være skadelige på. Noen av de viktigste:

— Verktøyene som bygges kan brukes til å overvåke mennesker
—Tekniske begrensninger kan hindre disse verktøyene i å fungere på steder hvor de er mest nødvendig (og de som bruker gammel maskinvare kan bli liggende igjen)
— Jailbroken enheter vil ikke kunne fange opp verifiserbart materiale
— Selskaper kan slette dataene eller ikke la enkeltpersoner kontrollere dem
—Å kreve mer verifisering for media i retten kan gjøre rettsprosessen lengre og dyrere

Så hva kan gjøres? Det er ingen enkel løsning på disse problemene, sier Witness-programleder Sam Gregory. Selskapene som bygger disse teknologiene må ta tak i disse spørsmålene og tenke på menneskene som er mest sannsynlig å bli skadet, legger han til. Det er også mulig å bygge syntetiske medieverktøy selv på en mer etisk måte. Teknologiekspert Aviv Ovadya, for eksempel, har ideer til hvordan man kan lage ansvarlige dypfalske verktøy. Bedrifter kan gjøre sitt beste for å undersøke hvilke kunder som har lov til å bruke verktøyene deres og eksplisitt straffe de som bryter deres normer. Syntetiske medier av alle slag kommer til å bli mer vanlig. Det vil kreve mange forskjellige taktikker for å holde oss alle trygge.