Året deepfakes ble mainstream

Ms Tech

I 2018, Sam Cole, en reporter ved Motherboard, oppdaget et nytt og urovekkende hjørne av internett. En Reddit-bruker ved navn deepfakes la ut falske pornovideoer uten samtykke ved å bruke en AI-algoritme for å bytte kjendisansikter til ekte porno. Cole slo alarm om fenomenet, akkurat da teknologien var i ferd med å eksplodere. Et år senere hadde dypfalsk porno spredt seg langt utenfor Reddit, med letthet tilgjengelige apper som kan strippe klær av enhver kvinne som er fotografert.

Siden den gang har deepfakes hatt en dårlig rap, og det med rette. De de aller fleste av dem brukes fortsatt til falsk pornografi . En kvinnelig undersøkende journalist var alvorlig trakassert og midlertidig dempet av slik aktivitet, og mer nylig, en kvinnelig poet og romanforfatter ble skremt og skamfull. Det er også en risiko for at politiske dype forfalskninger vil generere overbevisende falske nyheter som kan skape kaos i ustabile politiske miljøer.

Men etter hvert som algoritmene for å manipulere og syntetisere medier har blitt kraftigere, har de også gitt opphav til positive applikasjoner – så vel som noen som er humoristiske eller dagligdagse. Her er en oppsummering av noen av favorittene våre i grov kronologisk rekkefølge, og hvorfor vi tror de er et tegn på hva som kommer.

Varslerskjerming

MEDIA DINE

I juni, Velkommen til Tsjetsjena , en undersøkende film om forfølgelsen av LHBTQ-individer i den russiske republikken, ble den første dokumentar som brukte deepfakes for å beskytte sine undersåtters identiteter. Aktivistene som kjempet mot forfølgelsen, som fungerte som hovedpersonene i historien, levde i skjul for å unngå å bli torturert eller drept. Etter å ha utforsket mange metoder for å skjule identiteten deres, bestemte regissør David France seg for å gi dem dypfalske omslag. Han ba andre LHBTQ-aktivister fra hele verden om å låne ut ansiktene deres, som deretter ble podet inn på ansiktene til menneskene i filmen hans. Teknikken tillot Frankrike å bevare integriteten til undersåttenes ansiktsuttrykk og dermed deres smerte, frykt og menneskelighet. Totalt skjermet filmen 23 individer, og var banebrytende for en ny form for varslerbeskyttelse.

Revisjonistisk historie

PANETTA OG BURGUNDY

I juli, to MIT-forskere, Francesca Panetta og Halsey Burgund, gitt ut et prosjekt å lage en alternativ historie om Apollo-månelandingen i 1969. Kalt I tilfelle månekatastrofe , bruker den talen som president Richard Nixon ville ha holdt hvis den betydningsfulle anledningen ikke hadde gått etter planen. Forskerne samarbeidet med to separate selskaper for dypfalske lyd og video, og hyret inn en skuespiller for å gi basisprestasjonen. De gikk deretter stemmen hans og ansiktet hans gjennom de to typene programvare, og sydde dem sammen til en siste dypfalske Nixon.

Mens dette prosjektet demonstrerer hvordan deepfakes kan skape kraftige alternative historier, antyder et annet hvordan deepfakes kan bringe ekte historie til live. I februar, Time magazine gjenskapt Martin Luther King Jr.s mars i Washington for virtuell virkelighet for å fordype seerne i scenen. Prosjektet brukte ikke deepfake-teknologi, men den kinesiske teknologigiganten Tencent senere siterte det i en hvitbok om planene for AI, sa deepfakes kan brukes til lignende formål i fremtiden.

memes

MS TECH | NEURIPS (TRENINGSSETT); HAO (GJENGELIG)

På sensommeren fikk memersphere hendene på enkle å lage deepfakes og sluppet løs resultatene inn i det digitale universet. Spesielt ett viralt meme, kalt Baka Mitai (bildet over), økte raskt ettersom folk lærte å bruke teknologien til å lage sine egne versjoner. Den spesifikke algoritmen som driver galskapen kom fra en forskningsartikkel fra 2019 som lar en bruker animere et bilde av en persons ansikt med en video av noen andres. Effekten er ikke av høy kvalitet på noen måte, men den produserer absolutt kvalitetsmoro. Fenomenet er ikke helt overraskende; lek og parodi har vært en drivkraft i populariseringen av deepfakes og andre mediemanipulasjonsverktøy. Det er derfor noen eksperter understreker behovet for rekkverk for å hindre satire i å viske ut til misbruk .

Sportsannonser

Travle timeplaner gjør det vanskelig å få kjendisidrettsstjerner i samme rom på de beste tidspunktene. Midt i en lockdown er det umulig. Så når du trenger å filme en reklamefilm i LA med folk i karantenebobler over hele landet, er det eneste alternativet å forfalske den. I august kjørte strømmesiden Hulu en annonse for å fremme sportens retur til tjenesten, med NBA-spiller Damian Lillard, WNBA-spiller Skylar Diggins-Smith og den kanadiske hockeyspilleren Sidney Crosby i hovedrollene. Vi ser disse stjernene gi opp surdeigsbakingen og vende tilbake til idretten, med basketball og hockeykøller. Bortsett fra at vi ikke gjør det: ansiktene til disse stjernene ble lagt over kroppsdobler ved hjelp av deepfake-teknologi. Algoritmen ble trent på opptak av spillerne tatt over Zoom. Datatriks har blitt brukt til å forfalske denne typen ting i årevis, men dype forfalskninger gjør det enklere og billigere enn noen gang, og dette året med fjernkontroll har alt gitt teknologien et løft. Hulu var ikke den eneste. Andre annonsører, inkludert ESPN , eksperimenterte med deepfakes også.

Politiske kampanjer

I september, under oppkjøringen til det amerikanske presidentvalget, slapp den partipolitiske fortalergruppen RepresentUs et par dypfalske annonser . De inneholdt falske versjoner av Russlands president Vladimir Putin og Nord-Koreas leder Kim Jong-un som leverte det samme budskapet: at ingen av dem trengte å blande seg inn i amerikanske valg, fordi Amerika ville ødelegge demokratiet av seg selv. Dette var ikke den første bruken av deepfakes under en politisk kampanje. I februar, den indiske politikeren Manoj Tiwari brukte deepfakes i en kampanjevideo for å få det til å se ut som om han snakket haryanvi, hindi-dialekten som snakkes av målvelgere. Men RepresentUs snudde spesielt manuset på den typiske fortellingen rundt politiske dype forfalskninger. Mens eksperter ofte bekymrer seg for teknologiens evne til å så forvirring og forstyrre valg, forsøkte gruppen å gjøre det stikk motsatte: øke bevisstheten om velgerundertrykkelse for å beskytte stemmerett og øke valgdeltakelsen.

TV-programmer

Hvis dypfalske reklamer og engangsstunt begynner å føles kjent, stol på skaperne av Sør Park å ta det til ytterligheter. I oktober debuterte Trey Parker og Matt Stone sin nye kreasjon, Fryktelig rettferdighet , den første dypfalske TV-show . Det ukentlige satiriske showet dreier seg om karakteren Sassy Justice, en lokal nyhetsreporter med et dypt falskt Trump-ansikt. Sassy intervjuer dypt forfalskede figurer som Jared Kushner (med Kushners ansikt lagt over et barn) og Al Gore. Med Fryktelig rettferdighet , deepfakes har gått utover markedsføringsgimmick eller ondsinnet bedrag for å treffe den kulturelle mainstream. Ikke bare er teknologien som brukes til å lage karakterene, men den er selve gjenstand for satire. I den første episoden undersøker Sassy Trump Justice, som spiller en forbrukeradvokat, sannheten bak dypfalske nyheter.

gjemme seg