211service.com
Det amerikanske militæret finansierer et forsøk på å fange deepfakes og andre AI-luringer
Tror du at AI vil bidra til å stoppe falske nyheter? Det amerikanske militæret er ikke så sikker.
Forsvarsdepartementet finansierer et prosjekt som vil prøve å finne ut om den stadig mer virkelige falske videoen og lyden generert av kunstig intelligens snart kan være umulig å skille fra den virkelige varen – selv for et annet AI-system.
Denne sommeren, under et prosjekt finansiert av Defense Advanced Research Projects Agency (DARPA) , vil verdens ledende digitale etterforskningseksperter samles til en AI-falskekonkurranse. De vil konkurrere om å generere den mest overbevisende AI-genererte falske videoen, bildene og lyden – og de vil også prøve å utvikle verktøy som kan fange disse forfalskningene automatisk.
Konkurransen vil omfatte såkalte deepfakes, videoer der en persons ansikt er sydd fast på en annen persons kropp. Snarere forutsigbart har teknologien allerede blitt brukt til å generere en rekke forfalskede kjendispornovideoer. Men metoden kan også brukes til å lage et klipp av en politiker som sier eller gjør noe opprørende.
DARPAs teknologer er spesielt bekymret for en relativt ny AI-teknikk som kan gjøre AI-forfalskning nesten umulig å oppdage automatisk. Ved å bruke det som er kjent som generative motstridende nettverk, eller GAN-er, er det mulig å generere imponerende realistiske kunstige bilder.
Teoretisk sett, hvis du ga en GAN alle teknikkene vi kjenner for å oppdage den, kan den bestå alle disse teknikkene, sier David Gunning, DARPA-programlederen som er ansvarlig for prosjektet. Vi vet ikke om det er en grense. Det er uklart.
En GAN består av to komponenter. Den første, kjent som skuespilleren, prøver å lære de statistiske mønstrene i et datasett, for eksempel et sett med bilder eller videoer, og genererer deretter overbevisende syntetiske data. Den andre, kalt kritikeren, prøver å skille mellom ekte og falske eksempler. Tilbakemeldinger fra kritikeren gjør det mulig for skuespilleren å produsere stadig mer realistiske eksempler. Og fordi GAN-er er designet for å overliste et AI-system allerede, er det uklart om noe automatisert system kan fange dem.
GAN-er er relativt nye, men de har tatt maskinlæringsscenen med storm (se The GANfather: The man who's given machines the gift of imagination). De kan allerede brukes til å tenke opp veldig realistiske imaginære kjendiser eller til å modifisere bilder på en overbevisende måte. endrer en rynke til et smil eller gjøre natt til dag.
Å oppdage en digital forfalskning innebærer vanligvis tre trinn. Den første er å undersøke den digitale filen for tegn på at to bilder eller videoer har blitt skjøtet sammen. Den andre er å se på belysningen og andre fysiske egenskaper til bildene for tegn på at noe er galt. Den tredje – som er den vanskeligste å gjøre automatisk, og sannsynligvis den vanskeligste å beseire – er å vurdere logiske inkonsekvenser, som feil vær for den antatte datoen, eller feil bakgrunn for den antatte plasseringen.
Walter Scheirer , en digital rettsmedisinsk ekspert ved University of Notre Dame som er involvert i DARPA-prosjektet, sier at teknologien har kommet overraskende langt siden initiativet ble lansert for et par år siden. Vi er definitivt i et våpenkappløp, sier han.
Selv om det lenge har vært mulig for en dyktig grafikkekspert å produsere overbevisende forfalskninger, vil AI gjøre teknologien langt mer tilgjengelig. Det har gått fra statsstøttede skuespillere og Hollywood til noen på Reddit, sier Hany Farid , en professor ved Dartmouth som spesialiserer seg på digital rettsmedisin. Det haster vi føler nå er å beskytte demokratiet.
Deepfakes bruker en populær maskinlæringsteknikk kjent som dyp læring for automatisk å inkludere et nytt ansikt i en eksisterende video. Når store mengder data mates inn i et veldig stort eller dypt simulert nevralt nettverk, kan en datamaskin lære å utføre alle slags nyttige oppgaver, for eksempel svært nøyaktig ansiktsgjenkjenning. Men den samme tilnærmingen gjør ondsinnet videomanipulering også enklere. Et verktøy utgitt på nettet lar alle med beskjeden teknisk ekspertise generere nye dype forfalskninger. Og skaperen av det verktøyet fortalte Hovedkort at en enda mer brukervennlig versjon er under arbeid.
Problemet strekker seg selvfølgelig langt utover ansiktsbytte. Eksperter sier i økende grad at det om ikke lenge kan være mye vanskeligere å vite om et bilde, en video eller et lydklipp er generert av en maskin. Google har til og med utviklet et verktøy kalt Duplex som bruker kunstig intelligens til å forfalske en telefonsamtale.
aviv ovadya , sjefteknolog ved University of Michigans Center for Social Media Responsibility, bekymrer seg over at AI-teknologiene som nå utvikles kan brukes til å skade noens omdømme, påvirke et valg eller enda verre. Disse teknologiene kan brukes på fantastiske måter for underholdning, og også mange veldig skremmende måter, sa Ovadya på en 15. mai begivenhet organisert av Bloomberg . Du har allerede modifiserte bilder som brukes til å forårsake ekte vold over hele utviklingsland, sa han. Det er en reell og tilstedeværende fare.
Hvis teknologi ikke kan brukes til å fange opp falske opplysninger og feilinformasjon, kan det bli et press for å bruke loven i stedet. Faktisk innførte Malaysia lover mot falske nyheter i april. Dartmouths Farid sier imidlertid at dette i seg selv kan vise seg å være problematisk fordi sannheten i seg selv er et glatt emne. Hvordan definerer du falske nyheter? Det er ikke så lett som du kanskje tror, sier han. Jeg kan beskjære et bilde og endre et bilde fundamentalt. Og hva gjør du med Løk ?