Vi kan ikke stole på AI-systemer bygget på dyp læring alene

Rebooting AI av Gary Marcus og Ernest Davis med tillatelse fra Penguin Random House

Gary Marcus er ikke imponert over hypen rundt dyp læring. Mens NYU-professoren mener at teknikken har spilt en viktig rolle i å fremme AI, tror han også at feltets nåværende overvekt på den godt kan føre til at den faller bort.

Marcus, en nevroforsker av utdannet som har tilbrakt sin karriere i forkant av AI-forskning, siterer både tekniske og etiske bekymringer. Fra et teknisk perspektiv kan dyp læring være god til å etterligne de perseptuelle oppgavene til den menneskelige hjernen, som bilde- eller talegjenkjenning. Men det kommer til kort på andre oppgaver, som å forstå samtaler eller årsakssammenhenger. For å skape mer kapable og bredt intelligente maskiner, ofte omtalt som kunstig generell intelligens, må dyp læring kombineres med andre metoder.

Når et AI-system ikke virkelig forstår oppgavene sine eller verden rundt det, kan det også føre til farlige konsekvenser. Selv de minste uventede endringer i et systems miljø kan få det til å gå galt. Allerede har det vært utallige eksempler på dette: hatytringsdetektorer som er lette å lure, jobbsøknadssystemer som opprettholder diskriminering og selvkjørende biler som har krasjet, noen ganger drept sjåføren eller en fotgjenger. Jakten på kunstig generell intelligens er mer enn et interessant forskningsproblem. Det har veldig virkelige implikasjoner.

I deres nye bok Starter AI på nytt , Marcus og hans kollega Ernest Davis tar til orde for en ny vei fremover. De mener vi ikke er i nærheten av å oppnå en slik generell etterretning, men de er også sikre på at vi kan komme dit til slutt.

Jeg snakket med Marcus om svakhetene ved dyp læring, lærdommene feltet kan låne fra menneskesinnet, og hvorfor han er optimistisk.

Følgende er redigert for lengde og klarhet.

Hvorfor ønsker vi i det hele tatt generell etterretning? Smal AI har allerede generert mye verdi for oss.

Gary Marcus med tillatelse fra Gary Marcus

Det har det, og det vil generere enda mer. Men det er mange problemer som smal AI bare ikke virker særlig i stand til. Ting som samtaleforståelse for naturlig språk og generell assistanse i den virtuelle verden, eller ting som roboten Rosie som kanskje kan hjelpe deg med å rydde hjemme eller lage middag til deg. De er bare langt utenfor omfanget av hva vi kan gjøre med smal AI. Det er også et interessant empirisk spørsmål om smal AI kan få oss til trygge førerløse biler. Realiteten så langt er at smal AI har mange problemer med ekstreme tilfeller, selv for kjøring, som er et ganske begrenset problem.

Mer generelt tror jeg vi alle ønsker å se AI hjelpe oss med å gjøre nye oppdagelser innen medisin i stor skala. Det er ikke klart at dagens teknikker kommer til å bringe oss dit vi trenger å være, fordi biologi er komplisert. Du må virkelig kunne lese litteraturen. Forskere har årsaksforståelser om hvordan nettverk og molekyler samhandler; de kan utvikle teorier om baner og planeter eller hva som helst. Med smal AI kan vi ikke få maskiner til å gjøre det innovasjonsnivået. Med generell kunstig intelligens kan vi godt være i stand til å revolusjonere vitenskap, teknologi, medisin. Så jeg synes å jobbe mot generell AI er et veldig verdig prosjekt.

Det høres ut som om du bruker generell AI for å referere til robust AI?

Generell AI handler om at AI skal kunne tenke på farten og løse nye problemer på egen hånd. Dette er i motsetning til, la oss si, gå, hvor problemet ikke har endret seg på 2000 år.

Generell AI burde også kunne jobbe like komfortabelt med å resonnere om politikk som å resonnere om medisin. Det er analogen til hva folk har; enhver rimelig flink person kan gjøre mange, mange forskjellige ting. Du tar en undergraduate praktikant og i løpet av få dager får de dem til å jobbe med alt fra et juridisk problem til et medisinsk problem. Det er fordi de har en generell forståelse av verden, og de kan lese, så de er i stand til å bidra til et veldig bredt spekter av ting.

Forholdet mellom det og robust intelligens er at hvis du ikke er robust, vil du sannsynligvis ikke være i stand til å gjøre det generelle. Så for å bygge noe som er pålitelig nok til å håndtere en verden som er i konstant endring, må du sannsynligvis i det minste nærme deg generell intelligens.

Men du vet, vi er ganske langt fra det akkurat nå. AlphaGo kan spille veldig bra på et 19x19-brett, men må faktisk omskoleres for å spille på et rektangulært brett. Eller du tar ditt gjennomsnittlige dyplæringssystem, og det kan gjenkjenne en elefant så lenge elefanten er godt opplyst og du kan se teksturen til elefanten. Men hvis du setter elefanten i silhuett, vil den kanskje ikke kunne gjenkjenne den lenger.

Som du nevner i boken din, kan ikke dyp læring virkelig nå generell AI fordi den mangler dyp forståelse.

I kognitiv vitenskap snakker vi om å ha kognitive modeller av ting. Så jeg sitter på et hotellrom, og jeg forstår at det er et skap, det er en seng, det er fjernsynet som er montert på en uvanlig måte. Jeg vet at det er alle disse tingene her, og jeg identifiserer dem ikke bare. Jeg forstår også hvordan de forholder seg til hverandre. Jeg har disse ideene om hvordan omverdenen fungerer. De er ikke perfekte. De er feilbare, men de er ganske gode. Og jeg gjør mange slutninger rundt dem for å veilede mine hverdagshandlinger.

Den motsatte ytterligheten er noe sånt som Atari-spillsystemet som DeepMind laget, der det husket hva det trengte å gjøre da det så piksler på bestemte steder på skjermen. Hvis du får nok data, kan det se ut som du har forståelse, men det er faktisk en veldig grunn forståelse. Beviset er at hvis du forskyver ting med tre piksler, spiller det mye dårligere. Det bryter med endringen. Det er det motsatte av dyp forståelse.

Du foreslår at du går tilbake til klassisk AI for å løse denne utfordringen. Hva er styrken til klassisk AI som vi bør prøve å innlemme?

Jeg er rett og slett overrasket over hvor lite verdsettelse dyplæringsmiljøet generelt sett har for det.

Det er noen få. Først, klassisk AI faktisk er et rammeverk for å bygge kognitive modeller av verden som du deretter kan gjøre slutninger om. Den andre tingen er at klassisk AI er helt komfortabel med regler. Det er en merkelig sosiologi akkurat nå i dyp læring der folk ønsker å unngå regler. De vil gjøre alt med nevrale nettverk, og gjøre ingenting med noe som ser ut som klassisk programmering. Men det er problemer som rutinemessig løses på denne måten som ingen legger merke til, som å lage ruten din på Google maps.

Vi trenger faktisk begge tilnærmingene. Maskinlæringstingene er ganske gode til å lære av data, men de er veldig dårlige til å representere den typen abstraksjon som dataprogrammer representerer. Klassisk AI er ganske god til abstraksjon, men alt må håndkodes, og det er for mye kunnskap i verden til å legge inn alt manuelt. Så det virker åpenbart at det vi ønsker er en slags syntese som blander disse tilnærmingene.

Dette knytter seg til kapittelet der du nevner flere ting som vi kan lære av menneskesinnet. Den første bygger på det vi allerede har snakket om - ideen om at sinnet vårt består av mange forskjellige systemer som fungerer på forskjellige måter.

Jeg tror det er en annen måte å gjøre poenget på, som er: hvert kognitive system vi har gjør virkelig en annen ting. På samme måte må motpartene i AI utformes for å takle forskjellige problemer som har forskjellige egenskaper.

Akkurat nå prøver folk å bruke en slags teknologi som passer alle for å takle ting som virkelig er fundamentalt forskjellige. Å forstå en setning er fundamentalt forskjellig fra å gjenkjenne et objekt. Men folk prøver å bruke dyp læring for å gjøre begge deler. Dette er kvalitativt forskjellige problemer fra et kognitivt perspektiv, og jeg er rett og slett overrasket over hvor lite verdsettelse dyplæringssamfunnet generelt har for det. Hvorfor forvente at en sølvkule skal fungere for alt dette? Det er ikke realistisk, og det avslører ikke en sofistikert forståelse av hva utfordringen med AI er.

En annen ting du tar opp er behovet for AI-systemer for å forstå årsakssammenhenger. Tror du det kommer fra dyp læring, klassisk kunstig intelligens eller noe helt nytt?

Det er igjen et sted hvor dyp læring ikke er spesielt godt egnet. Dyplæring gir ikke forklaringer på hvorfor ting skjer, men snarere en sannsynlighet for hva som kan skje i en gitt omstendighet.

Naturen bygger det første utkastet, det grove utkastet. Så reviderer læring det utkastet gjennom resten av livet ditt.

Den typen ting vi snakker om - du ser på noen scenarier, og du har en viss forståelse av hvorfor det skjer og hva som kan skje hvis visse ting ble endret. Jeg kan se på staffeliet som hotell-TV-en er på og gjette at hvis jeg skjærer bort det ene bena, vil staffeliet velte og fjernsynet faller ned med det. Det er årsaksgrunnlag.

Klassisk AI gir oss noen verktøy for dette. Det kan for eksempel representere hva et støtteforhold er og hva som faller over. Jeg ønsker imidlertid ikke å overselge det. Et problem er klassisk kunstig intelligens for det meste avhenger av veldig fullstendig informasjon om hva som skjer, mens jeg nettopp gjorde den konklusjonen uten å kunne se hele staffeliet. Så jeg er på en eller annen måte i stand til å lage snarveier og utlede deler av staffeliet som jeg ikke engang kan se. Vi har egentlig ikke verktøy som kan gjøre det ennå.

En tredje ting du tar opp er ideen om at mennesker har medfødt kunnskap. Hvordan ser du på at det blir integrert i AI-systemer?

For mennesker, når du blir født, er hjernen din faktisk veldig forseggjort strukturert. Det er ikke løst, men naturen bygger det første utkastet, det grove utkastet. Så reviderer læring det utkastet gjennom resten av livet ditt.

Et grovt utkast til hjernen har allerede visse evner. En steinbukke som bare er noen timer gammel, kan klatre nedover fjellplanet uten å gjøre feil. Det har tydeligvis en viss forståelse av tredimensjonalt rom, sin egen kropp og forholdet mellom de to. Ganske sofistikerte greier.

Dette er en del av hvorfor jeg tror vi trenger hybrider. Det er vanskelig å se hvordan vi kunne bygge en robot som fungerer bra i verden uten tilsvarende kunnskap der fra starten, i motsetning til å starte med et blankt ark og lære gjennom enorm, massiv erfaring.

For mennesker kommer vår medfødte kunnskap fra genomene våre som har utviklet seg over tid. For AI-systemer må de komme en annen vei. Noe av det kan komme fra regler om hvordan vi bygger algoritmene våre. Noe av det kan komme fra regler om hvordan vi bygger datastrukturene som disse algoritmene manipulerer. Og så kan noe av det komme fra kunnskap om at vi bare direkte lærer maskinene.

Det er interessant at du knytter alt i boken tilbake til ideen om tillit og å bygge pålitelige systemer. Hvorfor valgte du spesielt den rammen?

Fordi jeg tror det er hele ballspillet akkurat nå. Jeg tror at vi lever i et merkelig øyeblikk i historien hvor vi gir mye tillit til programvare som ikke fortjener den tilliten. Jeg tror at bekymringene vi har nå ikke er permanente. Om hundre år vil AI garantere vår tillit – og kanskje før.

Men akkurat nå er AI farlig, og ikke på den måten Elon Musk er bekymret for. Men i veien for jobbintervjusystemer som diskriminerer kvinner uansett hva programmererne gjør fordi teknikkene de bruker er for usofistikerte.

Jeg vil at vi skal ha bedre AI. Jeg vil ikke at vi skal ha en AI-vinter der folk innser at disse tingene ikke fungerer og er farlige, og de ikke gjør noe med det.

På en måte føles boken din veldig optimistisk, fordi du antyder at det er mulig å bygge pålitelig AI. Vi må bare se i en annen retning.

Rett, boken er veldig kortsiktig pessimistisk og veldig langsiktig optimistisk. Vi tror at ethvert problem som vi beskrev i boken kan løses hvis feltet tar et bredere syn på hva de riktige svarene er. Og vi tror at hvis det skjer, vil verden bli et bedre sted.

For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.

gjemme seg