Vi vil aldri ha ekte AI uten først å forstå hjernen

Patrick T Powers

Jakten på AI har alltid handlet om å prøve å bygge maskiner som tenker – i det minste i en viss forstand. Men spørsmålet om hvor lik kunstig og biologisk intelligens bør være har delt meninger i flere tiår. Tidlig innsats for å bygge AI involverte beslutningsprosesser og informasjonslagringssystemer som var løst inspirert av måten mennesker så ut til å tenke på. Og dagens dype nevrale nettverk er løst inspirert av måten sammenkoblede nevroner brenner i hjernen. Men løs inspirasjon er typisk så langt det går.

Relatert historie

Kunstig generell intelligens: Er vi nærme, og er det i det hele tatt fornuftig å prøve?

En maskin som kan tenke som en person har vært den veiledende visjonen for AI-forskning siden de tidligste dagene – og er fortsatt dens mest splittende idé.

De fleste i AI bryr seg ikke så mye om detaljene, sier Jeff Hawkins, en nevrovitenskapsmann og teknologigründer. Det ønsker han å endre på. Hawkins har gått rundt de to verdenene innen nevrovitenskap og AI i nesten 40 år. I 1986, etter noen år som programvareingeniør hos Intel, dukket han opp ved University of California, Berkeley, for å starte en doktorgrad i nevrovitenskap, i håp om å finne ut hvordan intelligens fungerte. Men ambisjonen hans traff en vegg da han ble fortalt at det ikke var noen der for å hjelpe ham med et så stort prosjekt. Frustrert byttet han Berkeley for Silicon Valley og grunnla i 1992 Palm Computing, som utviklet PalmPilot - en forløper til dagens smarttelefoner.

Men hans fascinasjon for hjerner ble aldri borte. Femten år senere vendte han tilbake til nevrovitenskap og satte opp Redwood senter for teoretisk nevrovitenskap (nå på Berkeley). I dag løper han Numenta , et nevrovitenskapelig forskningsselskap basert i Silicon Valley. Der studerer han og teamet neocortex, den delen av hjernen som er ansvarlig for alt vi forbinder med intelligens. Etter en rekke gjennombrudd I løpet av de siste årene har Numenta endret fokus fra hjerner til AI, ved å bruke det de har lært om biologisk intelligens på maskiner.

Hawkins ideer har inspirert store navn innen AI, inkludert Andrew Ng, og høstet utmerkelser fra slike som Richard Dawkins, som skrev et entusiastisk forord til Hawkins nye bok Tusen hjerner: En ny teori om intelligens , publisert 2. mars.

Jeg hadde en lang prat med Hawkins på Zoom om hva forskningen hans på menneskelige hjerner betyr for maskinintelligens. Han er ikke den første Silicon Valley-gründeren som tror han har alle svarene – og ikke alle er sannsynligvis enige i konklusjonene hans. Men ideene hans kan ryste opp AI.

Samtalen vår er redigert for lengde og klarhet.

Hvorfor tror du AI er på vei i feil retning for øyeblikket?

Det er et komplisert spørsmål. Hei, jeg er ikke en kritiker av dagens AI. Jeg synes det er flott; det er nyttig. Jeg synes bare ikke det er intelligent.

Min hovedinteresse er hjerner. Jeg ble forelsket i hjerner for flere tiår siden. Jeg har hatt den holdningen lenge at før vi lager AI, må vi først finne ut hva intelligens faktisk er, og den beste måten å gjøre det på er å studere hjerner.

Tilbake i 1980, eller noe sånt, følte jeg at tilnærmingene til AI ikke kom til å føre til ekte intelligens. Og jeg har følt det samme gjennom alle de forskjellige fasene av AI – det er ikke noe nytt for meg.

Jeg ser på fremgangen som har blitt gjort nylig med dyp læring, og det er dramatisk, det er ganske imponerende - men det tar ikke bort fra det faktum at det mangler fundamentalt. Jeg tror jeg vet hva intelligens er; Jeg tror jeg vet hvordan hjerner gjør det. Og AI gjør ikke det hjerner gjør.

Sier du at for å bygge en AI må vi på en eller annen måte gjenskape en hjerne?

Nei, jeg tror ikke vi kommer til å bygge direkte kopier av hjerner. Jeg er ikke interessert i hjerneemulering i det hele tatt. Men vi må bygge maskiner som fungerer etter lignende prinsipper. De eneste eksemplene vi har på intelligente systemer er biologiske systemer. Hvorfor ville du ikke studere det?

Det er som om jeg viste deg en datamaskin for første gang og du sier: Det er fantastisk! Jeg skal bygge noe slikt. Men i stedet for å se på det, prøve å finne ut hvordan det fungerer, går du bare bort og begynner å prøve å lage noe fra bunnen av.

Så hva er det hjerner gjør som er avgjørende for intelligensen som du tror AI trenger å gjøre også?

Det er fire minimumsattributter for intelligens, en slags grunnlinje. Den første er å lære ved å bevege oss: vi kan ikke sanse alt rundt oss på en gang. Vi må flytte for å bygge opp en mental modell av ting, selv om det bare beveger øynene eller hendene våre. Dette kalles legemliggjøring.

Relatert historie

Et konsept innen psykologi hjelper AI med å navigere i verden bedre

Deretter blir denne sanseinngangen tatt opp av titusenvis av kortikale kolonner, hver med et delvis bilde av verden. De konkurrerer og kombinerer via et slags stemmesystem å bygge opp et helhetlig syn. Det er tusen hjerner idé . I et AI-system kan dette innebære en maskin som kontrollerer forskjellige sensorer – syn, berøring, radar og så videre – for å få en mer komplett modell av verden. Selv om det vanligvis vil være mange kortikale kolonner for hver sans, for eksempel syn.

Så er det kontinuerlig læring, hvor du lærer nye ting uten å glemme tidligere ting. Dagens AI-systemer kan ikke gjøre dette. Og til slutt strukturerer vi kunnskap ved hjelp av referanserammer , som betyr at vår kunnskap om verden er relativ til vårt ståsted. Hvis jeg skyver fingeren opp på kanten av kaffekoppen, kan jeg forutsi at jeg vil kjenne kanten på den, fordi jeg vet hvor hånden min er i forhold til koppen.

Laboratoriet ditt har nylig gått fra nevrovitenskap til AI. Tilsvarer det teorien om tusen hjerner som kommer sammen?

Mer eller mindre. Inntil for to år siden, hvis du gikk inn på kontoret vårt, var alt nevrovitenskap. Så tok vi overgangen. Vi følte at vi hadde lært nok om hjernen til å begynne å bruke den på AI.

Hva slags AI-arbeid driver du med?

Noe av det første vi så på var sparsomhet. Til enhver tid er det bare 2 % av nevronene våre som skyter; aktiviteten er sparsom. Vi har brukt denne ideen på dyplæringsnettverk, og vi får dramatiske resultater , som 50 ganger hastigheter på eksisterende nettverk. Sparsity gir deg også mer robuste nettverk, lavere strømforbruk. Nå jobber vi med kontinuerlig læring.

Det er interessant at du inkluderer bevegelse som en baseline for intelligens. Betyr det at en AI trenger en kropp? Trenger det å være en robot?

I fremtiden tror jeg skillet mellom AI og robotikk vil forsvinne. Men akkurat nå foretrekker jeg ordet legemliggjøring, fordi når du snakker om roboter, fremmaner det bilder av menneskelignende roboter, som ikke er det jeg snakker om. Nøkkelen er at AI må ha sensorer og være i stand til å flytte dem i forhold til seg selv og tingene den modellerer. Men du kan også ha en virtuell AI som beveger seg på internett.

Denne ideen er ganske forskjellig fra mange populære ideer om intelligens, om en kroppsløs hjerne.

Bevegelse er veldig interessant. Hjernen bruker de samme mekanismene for å bevege fingeren min over en kaffekopp, eller bevege øynene mine, eller til og med når du tenker på et konseptuelt problem. Hjernen din beveger seg gjennom referanserammer for å huske fakta som den har lagret på forskjellige steder.

Nøkkelen er at ethvert intelligent system, uansett fysisk form, lærer en modell av verden ved å sanse forskjellige deler av den, ved å bevege seg i den. Det er grunnfjellet; du kan ikke komme unna det. Enten det ser ut som en menneskelig robot, en slangerobot, en bil, et fly eller, du vet, bare en datamaskin som sitter på skrivebordet ditt og svir rundt på internett – de er alle de samme.

Hva synes de fleste AI-forskere om disse ideene?

Det store flertallet av AI-forskere omfavner egentlig ikke ideen om at hjernen er viktig. Jeg mener, ja, folk fant ut nevrale nettverk for en stund siden, og de er på en måte inspirert av hjernen. Men de fleste prøver ikke å gjenskape hjernen. Det er bare hva som fungerer, fungerer. Og dagens nevrale nettverk fungerer godt nok.

Relatert historie

AI-pioner Geoff Hinton: Dyplæring kommer til å kunne gjøre alt For 30 år siden var Hintons tro på nevrale nettverk motsatt. Nå er det vanskelig å finne noen som er uenige, sier han.

Og de fleste innen AI har veldig liten forståelse av nevrovitenskap. Det er ikke overraskende, for det er veldig vanskelig. Det er ikke noe du bare setter deg ned og bruker et par dager på å lese om. Nevrovitenskapen selv har slitt med å forstå hva i helvete som skjer i hjernen.

Men et av de store målene med å skrive denne boken var å starte en samtale om intelligens som vi ikke har. Jeg mener, min ideelle drøm er at alle AI-laboratorier i verden leser denne boken og begynner å diskutere disse ideene. Godtar vi dem? Er vi uenige? Det har egentlig ikke vært mulig før. Jeg mener, denne hjerneforskningen er mindre enn fem år gammel. Jeg håper det blir et virkelig vendepunkt.

Hvordan ser du på at disse samtalene endrer AI-forskningen?

Som et felt har AI manglet en definisjon av hva intelligens er. Du vet, Turing-testen er noe av det verste som har skjedd, etter min mening. Selv i dag fokuserer vi fortsatt så mye på benchmarks og smarte triks. Jeg prøver ikke å si at det ikke er nyttig. En AI som kan oppdage kreftceller er flott. Men er det intelligens? Nei. I boken bruker jeg eksemplet med roboter på Mars som bygger et habitat for mennesker. Prøv å forestille deg hva slags AI som kreves for å gjøre det. Er det mulig? Det er fullt mulig. Jeg tror på slutten av århundret vil vi ha slike maskiner. Spørsmålet er hvordan kommer vi unna, for eksempel, her er et annet triks til det grunnleggende som trengs for å bygge fremtiden.

Hva tok Turing galt da han startet samtalen om maskinintelligens?

Jeg mener bare at hvis du går tilbake og leser hans originale verk, prøvde han i bunn og grunn å få folk til å slutte å krangle med ham om du kunne bygge en intelligent maskin. Han sa: Her er noen ting å tenke på – slutt å plage meg. Men problemet er at det er fokusert på en oppgave. Kan en maskin gjøre noe et menneske kan? Og det har blitt utvidet til alle målene vi har satt for AI. Så å spille Go var en stor prestasjon for AI. Egentlig? [ ler ] Jeg mener, ok.

Problemet med alle ytelsesbaserte beregninger, og Turing-testen er en av dem, er at den bare unngår samtalen eller det store spørsmålet om hva et intelligent system er. Hvis du kan lure noen, hvis du kan løse en oppgave med en slags smart ingeniørkunst, så har du oppnådd den målestokken, men du har ikke nødvendigvis gjort noen fremskritt mot en dypere forståelse av hva det vil si å være intelligent.

Er fokuset på menneskelig prestasjon også et problem?

Jeg tror at mange intelligente maskiner i fremtiden ikke vil gjøre noe som mennesker gjør. Mange vil være veldig enkle og små - du vet, akkurat som en mus eller en katt. Så å fokusere på språk og menneskelig erfaring og alle disse tingene for å bestå Turing-testen er på en måte irrelevant for å bygge en intelligent maskin. Det er relevant hvis du vil bygge en menneskelignende maskin, men jeg tror ikke vi alltid vil gjøre det.

Du forteller en historie i boken om å pitche håndholdte datamaskiner til en sjef i Intel som ikke kunne se hva de var til for. Så hva vil disse fremtidige AI-ene gjøre?

Jeg vet ikke. Ingen vet. Men jeg er ikke i tvil om at vi vil finne en million nyttige ting for intelligente maskiner å gjøre, akkurat som vi har gjort for telefoner og datamaskiner. Ingen forutså på 1940- eller 50-tallet hva datamaskiner ville gjøre. Det vil være det samme med AI. Det blir bra. Noen dårlige, men for det meste bra.

Men jeg foretrekker å tenke på dette på lang sikt. I stedet for å spørre Hva er nytten med å bygge intelligente maskiner? Jeg spør Hva er meningen med livet? Vi lever i et enormt univers der vi er små prikker av ingenting. Jeg har hatt dette spørsmålstegnet i hodet mitt siden jeg var liten. Hvorfor bryr vi oss om noe? Hvorfor gjør vi alt dette? Hva bør målet vårt være som art?

Jeg tror det ikke handler om å bevare genpoolen: det handler om å bevare kunnskap. Og hvis du tenker på det på den måten, er intelligente maskiner avgjørende for det. Vi kommer ikke til å være der for alltid, men maskinene våre kan være det.

Jeg finner det inspirerende. Jeg vil ha en mening med livet mitt. Jeg tror AI – AI slik jeg ser for meg det, ikke dagens AI – er en måte å i hovedsak bevare oss selv for en tid og et sted vi ennå ikke kjenner.

gjemme seg