GANfather: Mannen som har gitt maskiner fantasiens gave

Christie Der Klok

En natt i 2014 dro Ian Goodfellow og drakk for å feire med en meddoktorstudent som nettopp var uteksaminert. Hos Les 3 Brasseurs (The Three Brewers), et favorittvannhull i Montreal, ba noen venner om hjelp med et vanskelig prosjekt de jobbet med: en datamaskin som kunne lage bilder av seg selv.

Forskere brukte allerede nevrale nettverk, algoritmer løst modellert på nettet av nevroner i den menneskelige hjernen, som generative modeller for å lage plausible nye egne data. Men resultatene var ofte ikke særlig gode: bilder av et datamaskingenerert ansikt hadde en tendens til å være uskarpe eller ha feil som manglende ører. Planen Goodfellows venner foreslo var å bruke en kompleks statistisk analyse av elementene som utgjør et fotografi for å hjelpe maskiner med å komme opp med bilder av seg selv. Dette ville ha krevd en enorm mengde tall-knusing, og Goodfellow fortalte dem at det rett og slett ikke kom til å fungere.

Denne historien var en del av vår utgave for mars 2018

• Se resten av saken
• Abonnere

Men da han grunnet på problemet med ølet sitt, fikk han en idé. Hva om du setter to nevrale nettverk mot hverandre? Vennene hans var skeptiske, så når han kom hjem, hvor kjæresten allerede sov, bestemte han seg for å prøve. Goodfellow kodet inn i de tidlige timene og testet deretter programvaren hans. Det fungerte første gang.

Det han fant opp den kvelden kalles nå et GAN, eller generative adversarial network. Teknikken har utløst enorm spenning innen maskinlæring og gjort skaperen til en AI-kjendis.

Christie Der Klok

I løpet av de siste årene har AI-forskere gjort imponerende fremskritt ved å bruke en teknikk som kalles dyp læring. Gi et dyplæringssystem med nok bilder, og det lærer å for eksempel gjenkjenne en fotgjenger som er i ferd med å krysse en vei. Denne tilnærmingen har muliggjort ting som selvkjørende biler og samtaleteknologien som driver Alexa, Siri og andre virtuelle assistenter.

Men selv om AI-er med dyp læring kan lære å gjenkjenne ting, har de ikke vært flinke til å lage dem. Målet med GANs er å gi maskiner noe som ligner en fantasi.

I fremtiden vil datamaskiner bli mye bedre til å nyte rådata og finne ut hva de trenger å lære av dem.

Å gjøre det ville ikke bare gjøre det mulig for dem å tegne vakre bilder eller komponere musikk; det ville gjøre dem mindre avhengige av mennesker for å instruere dem om verden og måten den fungerer på. I dag trenger AI-programmerere ofte å fortelle en maskin nøyaktig hva som er i treningsdataene den mates – hvilke av en million bilder inneholder en fotgjenger som krysser en vei, og hvilke som ikke gjør det. Dette er ikke bare kostbart og arbeidskrevende; det begrenser hvor godt systemet takler selv små avvik fra det det ble trent på. I fremtiden vil datamaskiner bli mye bedre til å nyte rådata og finne ut hva de trenger å lære av dem uten å bli fortalt.

Det vil markere et stort sprang fremover i det som er kjent i AI som uovervåket læring. En selvkjørende bil kan lære seg selv om mange forskjellige veiforhold uten å forlate garasjen. En robot kan forutse hindringene den kan støte på i et travelt lager uten å måtte ta den rundt.

Det vil markere et stort sprang fremover i det som er kjent i AI som uovervåket læring.

Vår evne til å forestille seg og reflektere over mange ulike scenarier er en del av det som gjør oss til mennesker. Og når fremtidige teknologihistorikere ser tilbake, vil de sannsynligvis se GAN-er som et stort skritt mot å lage maskiner med en menneskelignende bevissthet. Yann LeCun, Facebooks sjef for AI-forsker, har kalt GANs den kuleste ideen innen dyp læring de siste 20 årene. En annen AI-armatur, Andrew Ng, den tidligere sjefforskeren i Kinas Baidu, sier at GAN-er representerer et betydelig og grunnleggende fremskritt som har inspirert et voksende globalt samfunn av forskere.

GANfather, del II: AI-kampklubb

Goodfellow er nå forsker i Google Brain-teamet ved selskapets hovedkvarter i Mountain View, California. Da jeg nylig møtte ham der, virket han fortsatt overrasket over superstjernestatusen hans, og kalte det litt surrealistisk. Kanskje ikke mindre overraskende er det at han, etter å ha gjort sin oppdagelse, nå bruker mye av tiden sin på å jobbe mot de som ønsker å bruke den til onde formål.

Magien til GAN-er ligger i rivaliseringen mellom de to nevrale nettene. Den etterligner frem og tilbake mellom en bildeforfalsker og en kunstdetektiv som gjentatte ganger prøver å overliste hverandre. Begge nettverkene er trent på samme datasett. Den første, kjent som generatoren, er belastet med å produsere kunstige utdata, for eksempel bilder eller håndskrift, som er så realistiske som mulig. Den andre, kjent som diskriminatoren, sammenligner disse med ekte bilder fra det originale datasettet og prøver å finne ut hvilke som er ekte og hvilke som er falske. På grunnlag av disse resultatene justerer generatoren sine parametere for å lage nye bilder. Og slik fortsetter det, helt til diskriminatoren ikke lenger kan fortelle hva som er ekte og hva som er falskt.

En GAN trent på bilder av ekte kjendiser kom opp med sitt eget sett med imaginære stjerner. I de fleste tilfeller så forfalskningene ganske realistiske ut. Nvidia

I et mye publisert eksempel i fjor trente forskere ved Nvidia, et chipselskap som har investert mye i AI, en GAN til å generere bilder av imaginære kjendiser ved å studere ekte. Ikke alle de falske stjernene den produserte var perfekte, men noen var imponerende realistiske. I motsetning til andre maskinlæringsmetoder som krever titusenvis av treningsbilder, kan GAN-er bli dyktige med noen få hundre.

Relatert historie

Relatert historie

Denne fantasien er fortsatt begrenset. Når den først har blitt trent på mange hundebilder, kan en GAN generere et overbevisende falskt bilde av en hund som har, for eksempel, et annet mønster av flekker; men den kan ikke tenke seg et helt nytt dyr. Kvaliteten på de originale treningsdataene har også stor innflytelse på resultatene. I et talende eksempel begynte en GAN å produsere bilder av katter med tilfeldige bokstaver integrert i bildene. Fordi treningsdataene inneholdt kattememer fra internett, hadde maskinen lært seg selv at ord var en del av hva det ville si å være en katt.

Det kan være vanskelig å få GANS til å fungere godt. Hvis det er feil, kan resultatene være bisarre. Alec Radford

GAN-er er også temperamentsfulle, sier Pedro Domingos, en maskinlæringsforsker ved University of Washington. Hvis diskriminatoren er for lett å lure, vil ikke generatorens utgang se realistisk ut. Og å kalibrere de to duellerende nevrale nettene kan være vanskelig, noe som forklarer hvorfor GAN-er noen ganger spytter ut bisarre ting som dyr med to hoder.

Likevel har ikke utfordringene avskrekket forskere. Siden Goodfellow og noen få andre publiserte den første studien om oppdagelsen hans, i 2014, har hundrevis av GAN-relaterte artikler blitt skrevet. En fan av teknologien har til og med laget en nettside kalt GAN zoo, dedikert til å holde styr på de ulike versjonene av teknikken som er utviklet.

De mest åpenbare umiddelbare applikasjonene er i områder som involverer mye bilder, som videospill og mote: hvordan kan for eksempel en spillkarakter se ut som løper gjennom regnet? Men når vi ser fremover, tror Goodfellow at GAN-er vil drive flere betydelige fremskritt. Det er mange områder innen vitenskap og ingeniørfag der vi må optimalisere noe, sier han og nevner eksempler som medisiner som må være mer effektive eller batterier som må bli mer effektive. Det kommer til å bli den neste store bølgen.

I høyenergifysikk bruker forskere kraftige datamaskiner for å simulere den sannsynlige interaksjonen mellom hundrevis av subatomære partikler i maskiner som Large Hadron Collider ved CERN i Sveits. Disse simuleringene er trege og krever massiv datakraft. Forskere ved Yale University og Lawrence Berkeley National Laboratory har utviklet et GAN som, etter trening på eksisterende simuleringsdata, lærer å generere ganske nøyaktige spådommer om hvordan en bestemt partikkel vil oppføre seg, og gjør det mye raskere.

Goodfellows kreasjon kan brukes til å forestille seg alle slags ting, inkludert ny interiørdesign. Ian Goodfellow

Medisinsk forskning er et annet lovende felt. Personvernhensyn betyr at forskere noen ganger ikke kan få nok reelle pasientdata til å for eksempel analysere hvorfor et medikament ikke fungerte. GAN-er kan bidra til å løse dette problemet ved å generere falske poster som er nesten like gode som ekte vare, sier Casey Greene ved University of Pennsylvania. Disse dataene kan deles bredere, og bidra til å fremme forskning, mens de virkelige postene er tett beskyttet.

GANfather, del III: Dårlige karer

Det er imidlertid en mørkere side. En maskin designet for å lage realistiske forfalskninger er et perfekt våpen for formidlere av falske nyheter som ønsker å påvirke alt fra aksjekurser til valg. AI-verktøy brukes allerede til å sette bilder av andres ansikter på kroppen til pornostjerner og legge ord i munnen på politikere. GAN-er skapte ikke dette problemet, men de vil gjøre det verre.

Hany Farid, som studerer digital rettsmedisin ved Dartmouth College, jobber med bedre måter å oppdage falske videoer, for eksempel å oppdage små endringer i fargen på ansikter forårsaket av inn- og utpust som GAN-er har vanskelig for å etterligne nøyaktig. Men han advarer om at GAN-er vil tilpasse seg etter tur. Vi er fundamentalt sett i en svak posisjon, sier Farid.

Dette katt-og-mus-spillet vil også spille innen cybersikkerhet. Forskere fremhever allerede risikoen for black box-angrep, der GAN-er brukes til å finne ut maskinlæringsmodellene som mange sikkerhetsprogrammer oppdager skadevare med. Etter å ha spådd hvordan en forsvarers algoritme fungerer, kan en angriper unngå den og sette inn falsk kode. Den samme tilnærmingen kan også brukes til å unngå spamfiltre og andre forsvar.

Det er mange områder innen vitenskap og ingeniørfag der vi trenger å optimalisere noe. Det kommer til å bli den neste store bølgen.

Goodfellow er godt klar over farene. Nå leder han et team hos Google som fokuserer på å gjøre maskinlæring sikrere, og advarer om at AI-fellesskapet må lære leksen fra tidligere bølger av innovasjon, der teknologer behandlet sikkerhet og personvern som en ettertanke. Da de våknet til risikoen, hadde de slemme gutta et betydelig forsprang. Det er klart at vi allerede er forbi starten, sier han, men forhåpentligvis kan vi gjøre betydelige fremskritt innen sikkerhet før vi er for langt inne.

Ikke desto mindre tror han ikke det vil være en rent teknologisk løsning på forfalskning. I stedet, mener han, må vi stole på samfunnsmessige, for eksempel å lære barna kritisk tenkning ved å få dem til å ta ting som tale- og debattkurs. I tale og debatt konkurrerer du mot en annen student, sier han, og du tenker på hvordan du kan lage villedende påstander, eller hvordan du kan lage korrekte påstander som er svært overbevisende. Han kan godt ha rett, men konklusjonen hans om at teknologi ikke kan kurere problemet med falske nyheter er det ikke mange som vil høre.

gjemme seg