211service.com
Den største trusselen med deepfakes er ikke deepfakes i seg selv
Et bilde av Hitler som holder en tale med ansiktet erstattet av et spørsmålstegn. Ms. Tech
Det var sent i 2018, og folket i Gabon hadde ikke sett presidenten sin, Ali Bongo, offentlig på flere måneder. Noen begynte å mistenke at han var syk, eller til og med død, og myndighetene dekket over det. For å stoppe spekulasjonene kunngjorde regjeringen at Bongo hadde fått hjerneslag, men forble ved god helse. Like etterpå, det har gitt ut en video av ham som holdt sin vanlige nyttårstale.
I stedet for å dempe spenninger, gjorde videoen det motsatte. Som avdekket av den digitale rettighetsorganisasjonen Internet Without Borders, tenker mange mennesker Bongo så av i opptakene , mistenkte umiddelbart at det var en dyp forfalskning - et stykke mediemateriale forfalsket eller endret ved hjelp av AI. Troen førte til deres mistanker om at regjeringen skjulte noe. En uke senere lanserte militæret et mislykket kupp, og siterte videoen som en del av motivasjonen.
Etterfølgende rettsmedisinsk analyse fant aldri noe endret eller manipulert i videoen. Det gjorde ikke noe. Bare ideen om dype forfalskninger hadde vært nok til å akselerere oppklaringen av en allerede prekær situasjon.
I forkant av det amerikanske presidentvalget i 2020 har stadig mer overbevisende deepfake-teknologi ført til frykt for hvordan slike falske medier kan påvirke politisk mening. men a ny rapport fra Deeptrace Labs, et cybersikkerhetsselskap fokusert på å oppdage dette bedraget, fant ingen kjente tilfeller der dype falske faktisk har blitt brukt i desinformasjonskampanjer. Det som har hatt den kraftigere effekten er kunnskapen om at de kunne brukes på den måten.
Deepfakes utgjør en risiko for politikk når det gjelder falske medier som ser ut til å være ekte, men akkurat nå er den mer håndgripelige trusselen hvordan ideen om deepfakes kan påberopes for å få det virkelige til å se falskt ut, sier Henry Ajder, en av forfatterne av rapportere. Hypen og den ganske oppsiktsvekkende dekningen som spekulerer i deepfakes’ politiske innvirkning har overskygget de virkelige tilfellene der deepfakes har hatt innvirkning.
Dokumentasjon er ikke lenger bevis
Menneskerettighetsaktivister og desinformasjonseksperter har slått alarm på disse separate, men sammenvevde truslene siden deepfakes dukket opp på stedet. I løpet av de siste to årene har amerikanske teknologiselskaper og beslutningstakere fokusert nesten utelukkende på det første problemet Ajder nevner: hvor lett teknologien kan få falske ting til å se ekte ut. Men det er det andre som plager eksperter mer. Mens barrierene for å lage dype forfalskninger kan falle raskt, krever det ingen teknologi i det hele tatt å stille spørsmål ved sannheten til noe.
Det gir et annet våpen til de mektige: å si 'Det er en dypfalsk' om alt som folk som er uten makt prøver å bruke for å vise korrupsjon.
Helt fra begynnelsen har det vært min største bekymring i dette området, sier Aviv Ovadya, en desinformasjonsekspert som nå driver det ideelle organisasjonen Thoughtful Technology Project.
Å undergrave tilliten til media kan ha dype konsekvenser, spesielt i skjøre politiske miljøer. Sam Gregory, programdirektøren for Witness, en ideell organisasjon som hjelper folk med å dokumentere menneskerettighetsbrudd, kommer med et eksempel. I Brasil, som har vært utsatt for en historie med politivold, bekymrer borgere og aktivister nå at en video de filmer av en offiser som dreper en sivilist ikke lenger vil være tilstrekkelig grunnlag for etterforskning. Denne frykten for at ekte bevis sannsynlig kan avfeies som falske, sier Gregory, har blitt et tilbakevendende tema i workshops han arrangerer rundt om i verden.
Det er en utvikling av påstanden om at noe er «falske nyheter», sier han. Det gir et annet våpen til de mektige: å si 'Det er en dyp falsk' om alt som folk som er uten makt prøver å bruke for å vise korrupsjon, for å vise menneskerettighetsbrudd.
Å bevise at det ekte er ekte og det falske er falskt
Å løse disse problemene vil kreve forståelse av begge typer trusler. På et høyt nivå vil du gjøre det så enkelt som mulig å vise at en ekte ting er ekte og at en falsk ting er falsk, sier Ovadya.
De siste månedene har mange forskningsgrupper og teknologiselskaper som Facebook og Google fokusert på verktøy for å avsløre forfalskninger, for eksempel databaser for opplæring av deteksjonsalgoritmer og vannmerker som kan bygges inn i digitale bildefiler for å avsløre om de er tuklet med. Flere startups har også jobbet med måter å bygge tillit på gjennom forbrukerapplikasjoner som bekrefter bilder og videoer når de tas, for å danne et sammenligningsgrunnlag dersom versjoner av innholdet sirkuleres senere. Gregory sier at teknologigiganter bør integrere begge typer sjekker direkte i plattformene sine for å gjøre dem allment tilgjengelige.
Men teknologiselskaper må også ansette menneskelige innholdsmoderatorer, og medieorganisasjoner må trene journalister og faktasjekkere i både gjenkjenning og verifisering også. Rapportering på bakken kan bekrefte om en video gjenspeiler virkeligheten eller ikke, og legge til et viktig lag av nyanser. Tekniske modeller kan ikke tolke innholdet i den falske videoen på tvers av kulturelle kontekster eller forestille seg hvordan den kan rekontekstualiseres ytterligere, sier Britt Paris, en ekspert på informasjonsstudier som nylig publiserte en rapport om deepfakes.
Det [desinformasjonsaktører] virkelig ønsker er ikke at du skal stille spørsmålstegn ved mer, men at du skal stille spørsmål ved alt.
Som et eksempel peker Paris på endrede videoer av Nancy Pelosi og Jim Acosta som gikk viralt det siste året. Begge var såkalte cheapfakes snarere enn deepfakes - hastigheten deres hadde ganske enkelt blitt tuklet med for å villede seerne. Det ville ikke være noen måte å fange disse forfalskningene med tekniske metoder for å fange dype forfalskninger, sier Paris. I stedet måtte journalister avkrefte dem – noe som betydde at folk måtte stole på journalistene.
Til slutt er alle ekspertene enige om at publikum trenger større mediekunnskap. Det er en forskjell mellom å bevise at en ekte ting er ekte og faktisk å la allmennheten tro at den ekte varen er ekte, sier Ovadya. Han sier at folk må være klar over at forfalskning av innhold og sår tvil om sannheten til innhold begge er taktikker som kan brukes til å så forvirring med vilje.
Gregory advarer imidlertid mot å legge for stor byrde på nyhetsforbrukere. Forskere, plattformer og journalister bør gjøre så mye av arbeidet som mulig for å bidra til å gjøre det klart hva som er ekte og hva som er falskt før nyheter når offentligheten.
Det endelige målet, sier Ovadya, er ikke å innpode generell skepsis, men å bygge sosial, pedagogisk, inokulerende infrastruktur for å nøytralisere virkningen av deepfakes. Hva bør vi prøve å unngå? han spør. Det er verdifullt å stille spørsmål ved bevis. Men det [desinformasjonsaktører] virkelig ønsker er ikke at du skal stille spørsmålstegn ved mer, men at du skal stille spørsmål ved alt.
Han legger til: Det er antitesen til det vi ser etter.
For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.