211service.com
Denne AI-en lar deg deepfake stemmen din for å snakke som Barack Obama
Ms. Tech | Getty-bilder
Møt alter egoet mitt, Katie:
Aksenten, følelsene og intonasjonen er alle mine. Men på en eller annen måte høres jeg nå ut som en ung kvinne med høy stemme.
Min feminine stemmehud ble skapt av Modulate.ai , et selskap basert i Cambridge, Massachusetts. Firmaet bruker maskinlæring for å kopiere, modellere og manipulere stemmens egenskaper på en kraftig ny måte.
Teknologien går langt utover de enkle stemmefiltrene som lar deg høres ut som Kylo Ren. Ved å bruke denne tilnærmingen er det mulig å anta hvilken som helst alder, kjønn eller tone du ønsker, alt i sanntid. Eller å ta på seg stemmen til en kjendis. Jeg kan holde en lang telefonsamtale i form av Katie hvis jeg ønsker det.
Jeg besøkte Modulates hovedkvarter for å høre om selskapets teknologi og ambisjoner, og for å diskutere de etiske implikasjonene av å bruke AI for å kopiere andres stemme. I en lydisolert messe prøvde jeg ut noen av selskapets stemmeskinn.
Her er min faktiske stemme:
Og her blir den matet gjennom en annen persona:
Og blir endret mellom de to personaene i sanntid.
Stemmemodelleringsteknologien er ikke perfekt; hver ny stemme er litt tøff. Men det er bemerkelsesverdig bra, og det forbedres ved å mate på mer av stemmedataene dine. Og det viser hvordan fremskritt innen maskinlæring raskt begynner å endre den digitale virkeligheten. Modulate bruker generative adversarial networks (GAN) for å fange opp og modellere lydegenskapene til et stemmesignal. GAN-er setter to nevrale nettverk mot hverandre i en kamp for å fange og reprodusere egenskapene til et datasett på overbevisende måte (se The GANfather ).
Maskinlæring har gjort det mulig å bytte to personers ansikter i en video ved å bruke programvare som kan lastes ned gratis fra internett (se Fake America great again ). AI-forskere bruker GAN-er og andre teknikker for å manipulere visuelle scener og til og med trylle helt frem falske ansikter .
Modulate har en demonstrasjonsstemmeskinn av Barack Obama på siden sin, og medgründer og administrerende direktør Mike Pappas sa at det ville være mulig å generere en for hvem som helst, gitt nok treningsdata. Men han legger til at selskapet ikke vil gjøre en kjendisstemmeskinn tilgjengelig uten eierens tillatelse. Han insisterer også på at bedrag ikke er hovedpoenget.
Dette er ikke teknologi bygget for å etterligne mennesker, sier Pappas. Den er laget for å gi deg nye muligheter.
Modulate retter seg mot nettspill som Fornite eller Call of Duty, der spillere kan chatte med fremmede gjennom en mikrofon. Dette kan forbedre spillingen, men det kan også åpne for overgrep og trakassering.
Når vi vil samhandle på nett og ha virkelig dype opplevelser, er stemmer avgjørende, sier Pappas. Men noen mennesker er ikke villige til å faktisk legge stemmen sin der ute. I noen tilfeller vil jeg kanskje bare være anonym. I andre tilfeller er jeg bekymret for at jeg kommer til å avsløre min alder eller kjønn og bli trakassert.
Charles såpe , en professor ved NYU som studerer spredningen av feilinformasjon, sier at teknologien virker betydelig mer avansert enn annen stemmemodifikasjonsteknologi. Og han sier at måten AI nå kan manipulere video og lyd på har potensial til å endre media fundamentalt. Vi må begynne å tenke på hva som er virkeligheten, sier han.
'Så langt har kvaliteten på stemmekonverteringsteknologien vært lav, slik at man enkelt kan skille en konvertert stemme,' legger til Tuomas Virtanen , en ekspert på stemmesyntese og manipulasjon ved Tammerfors universitet i Finland. 'Men jeg kan tenke meg at kvaliteten i nær fremtid vil være god nok til at konvertering ikke lett kan oppdages.'
Modulate er klar over at teknologien har potensial til å bli misbrukt. Selskapet sier at det vil søke forsikring om at enhver kunde som kopierer noens stemme har denne personens tillatelse. Den har også utviklet en lydvannmerkingsteknologi som kan brukes til å oppdage en kopiert stemme. Dette kan for eksempel gi en advarsel hvis noen bruker en falsk stemme under en samtale.
'Vi har bygget etiske garantier inn i selskapet vårt fra grunnen av,' sier medgründer og CTO, Carter Huffman, 'fra hvordan vi distribuerer teknologien vår, til hvordan vi velger stemmeskallene å tilby, til vannmerking av lyden vår for gjenkjenning i sensitive systemer.
Modulate kan være i stand til å begrense misbruk av sin egen teknologi, men det er mulig andre vil utvikle lignende teknologi uavhengig, og gjøre den tilgjengelig for folk å misbruke. Spørsmålet er, hvor mye kan dette misbrukes, og hvor kunnskapsrike om det vil publikum bli?
Pappas er optimistisk på at potensialet for AI-forfalskning ofte er overdrevet. Det er definitivt noe der du ønsker å være klar over det, men det er ikke noe der selve fasettene av samfunnet smuldrer ned, sier han. Vi har verktøy for å håndtere dette.