211service.com
Deepfakes er løsbare - men ikke glem at grunne forfalskninger allerede er utbredt
Jeremy Portje
Teknologiindustrien har en unik mulighet til å takle deepfakes – problemet med falsk lyd og video laget ved hjelp av kunstig intelligens – før de blir et utbredt problem, ifølge menneskerettighetsforkjemper Sam Gregory.
Men, advarer han, store selskaper er fortsatt en lang vei fra å takle det omfattende og mer skadelige problemet med grovere, feilaktig feilinformasjon.
Gregory er programleder ved Vitne , som fokuserer på bruk av video i menneskerettigheter – enten av aktivister og ofre for å avsløre overgrep, eller av autoritære regimer for å undertrykke dissens. I en tale på mandag til et publikum på EmTech Digital, et arrangement organisert av MIT Technology Review, sa han at de dype forfalskningene vi ser for øyeblikket er stillheten før stormen.
Ondsinnede syntetiske medier er ennå ikke utbredt i bruk, verktøy har ennå ikke blitt mobile – de har ikke blitt produsert, sa Gregory. Dette øyeblikket, foreslo han, gir en uvanlig mulighet for deepfakes-skaperne til å etablere måter å bekjempe dem før dårlige skuespillere er i stand til å distribuere teknologien bredt.
Vi kan være proaktive og pragmatiske når det gjelder å adressere denne trusselen mot den offentlige sfæren og informasjonsøkosystemet vårt, sa han. Vi kan forberede oss, ikke få panikk.
Mens deepfakes kan være et stykke foran mainstream, er det imidlertid allerede en problematisk flom av feilinformasjon som ennå ikke er løst. Falsk informasjon i dag bruker vanligvis ikke AI eller kompleks teknologi. Snarere kan enkle triks som feilmerking av innhold for å diskreditere aktivister eller spre falsk informasjon være ødeleggende effektive, noen ganger til og med resultere i dødelig vold, slik som skjedde i Myanmar.
Med disse 'grunne forfalskningene' mener jeg titusenvis av videoer som sirkulerer med ondsinnet hensikt over hele verden akkurat nå – laget ikke med sofistikert AI, men ofte ganske enkelt ommerket og lastet opp på nytt, og hevder at en hendelse på ett sted nettopp har skjedd et annet, sa Gregory .
For eksempel, sa han, har en video av en person som blir brent levende blitt gjenbrukt og tilskrevet skuespillere i Elfenbenskysten, Sør-Sudan, Kenya og Burma, hver gang oppfordret til vold.
En annen trussel var den økende ideen om at vi ikke kan stole på noe vi ser, noe som i de fleste tilfeller rett og slett er usant, sa Gregory. Spredningen av denne ideen er en velsignelse for autoritære og totalitære over hele verden.
En alarmistisk fortelling forsterker bare de reelle farene vi står overfor: plausibel benektelse og sammenbruddet av tillit, la han til.
Mark Latonero, menneskerettighetsleder kl Data og samfunn , et nonprofit-institutt dedikert til bruk av data, var enig i at teknologiselskaper burde gjøre mer for å takle slike problemer. Mens Microsoft, Google, Twitter og andre har ansatte fokusert på menneskerettigheter, sa han, var det så mye mer de burde gjøre før de distribuerer teknologier – ikke etterpå.
Nå er virkelig tiden for selskaper, forskere og andre å bygge disse veldig sterke forbindelsene til det sivile samfunn, og de forskjellige landkontorene der produktene dine kan lanseres, sa han. Engasjer deg med menneskene som er nærmest problemene i disse landene. Bygg disse alliansene nå. Når noe går galt – og det vil det – kan vi begynne å ha grunnlaget for samarbeid og kunnskapsutveksling.