211service.com
Ekte eller falsk? AI gjør det veldig vanskelig å vite
Nyhetsoverskrifter er kanskje ikke de eneste tingene som er falske i fremtiden.
Kraftige maskinlæringsteknikker (se The Dark Secret at the Heart of AI) gjør det stadig enklere å manipulere eller generere realistisk video og lyd, og å etterligne hvem du vil med utrolig nøyaktighet.
En smarttelefon-app kalt FaceApp , nylig utgitt av et selskap basert i Russland, kan automatisk endre noens ansikt for å legge til et smil, legge til eller trekke fra år eller bytte kjønn. Appen kan også bruke forskjønnende effekter som inkluderer å jevne ut rynker og, mer kontroversielt, lysere huden.
Og forrige uke ringte et selskap Lyrebird , som ble spunnet ut av University of Montreal, demonstrerte teknologi som den sier kan brukes til å etterligne en annen persons stemme. Selskapet la ut demonstrasjonsklipp av Barack Obama, Donald Trump og Hillary Clinton som alle støttet teknologien.
Dette er bare to eksempler på hvordan de kraftigste AI-algoritmene kan brukes til å generere innhold i stedet for bare å analysere data.
Kraftig grafisk maskinvare og programvare, samt nye videoopptaksteknologier, driver også denne trenden. I fjor demonstrerte forskere ved Stanford University et ansiktsbytteprogram kalt Face2Face . Dette systemet kan manipulere videoopptak slik at en persons ansiktsuttrykk matcher de til noen som spores ved hjelp av et dybdefølende kamera. Resultatet er ofte uhyggelig realistisk.
Evnen til å manipulere stemmer og ansikter så realistisk kan reise en rekke problemer, som skaperne av Lyrebird erkjenner.
Stemmeopptak anses for tiden som sterke bevis i våre samfunn og spesielt i jurisdiksjoner i mange land, heter det i en etikkerklæring som er lagt ut på selskapets nettside. Teknologien vår stiller spørsmål ved gyldigheten av slike bevis, da den gjør det enkelt å manipulere lydopptak. Dette kan potensielt få farlige konsekvenser.
Både FaceApp og Lyrebird bruker dype generative konvolusjonelle nettverk for å aktivere disse triksene. Dette betyr at selskapet bruker en teknikk som har dukket opp de siste årene som en måte å få algoritmer til å gå utover bare å lære å klassifisere ting og generere egne plausible data.
Som mange oppgaver innen kunstig intelligens i dag, innebærer dette bruk av veldig store, eller dype, nevrale nettverk. Slike nettverk mates normalt med treningsdata og tilpasses slik at de reagerer på ønsket måte på nye input. For eksempel kan de trenes til å gjenkjenne ansikter eller gjenstander i bilder med utrolig nøyaktighet.
Men de samme nettverkene kan da lages til å generere sine egne data basert på hva som var i stand til å internalisere om datasettet de ble trent på.
Det er mulig å trene et slikt nettverk til generere bilder fra bunnen av som ser nesten ut som ekte vare. I fremtiden, ved å bruke de samme teknikkene, kan det også bli mye enklere å manipulere video. På et tidspunkt er det sannsynlig at det blir mulig å generere hele videoer med nevrale nett, sier Alexandre de Brebisson , en av grunnleggerne av Lyrebird. Det er mer utfordrende fordi det er mye variasjon i det høydimensjonale rommet som representerer videoer, og dagens modeller for det er fortsatt ikke perfekte.
Gitt teknologiene som nå dukker opp, kan det bli stadig viktigere å kunne oppdage falsk video og lyd.
Justus Thies , en doktorgradsstudent ved Friedrich Alexander-universitetet i Tyskland og en av forskerne bak Face2Face, sanntidsansiktsbytteappen, sier at han har startet et prosjekt som tar sikte på å oppdage manipulasjon av video. Mellomresultater ser lovende ut, sier han.