Google og andre bygger AI-systemer som tviler på seg selv

Saiman Chow

Den kraftigste tilnærmingen innen AI, dyp læring, får en ny evne: en følelse av usikkerhet.

Forskere ved Uber og Google jobber med modifikasjoner av de to mest populære rammeverkene for dyp læring som vil gjøre dem i stand til å håndtere sannsynlighet. Dette vil gi en måte for de smarteste AI-programmene å måle tilliten deres til en spådom eller en beslutning – i hovedsak for å vite når de bør tvile på seg selv.

Deep learning, som innebærer å mate eksempeldata til et stort og kraftig nevralt nettverk, har vært en enorm suksess de siste årene, og har gjort det mulig for maskiner å gjenkjenne objekter i bilder eller transkribere tale nesten perfekt. Men det krever mye treningsdata og datakraft, og det kan være overraskende sprøtt.

Litt kontraintuitivt tilbyr denne selvtvilen én løsning. Den nye tilnærmingen kan være nyttig i kritiske scenarier som involverer selvkjørende biler og andre autonome maskiner.

Du vil gjerne ha et system som gir deg et mål på hvor sikkert det er, sier Dustin Tran, som jobber med dette problemet i Google. Hvis en selvkjørende bil ikke kjenner nivået av usikkerhet, kan den gjøre en fatal feil, og det kan være katastrofalt.

Arbeidet gjenspeiler erkjennelsen av at usikkerhet er et sentralt aspekt ved menneskelig resonnement og intelligens. Å legge det til AI-programmer kan gjøre dem smartere og mindre utsatt for feil, sier Zoubin Ghahramani , en fremtredende AI-forsker som er professor ved University of Cambridge og sjefforsker ved Uber.

Dette kan vise seg å være svært viktig ettersom AI-systemer brukes i stadig mer kritiske scenarier. Vi ønsker å ha et bunnsolid rammeverk for dyp læring, men gjøre det lettere for folk å representere usikkerhet, fortalte Ghahramani meg nylig over en kaffe en morgen under en stor AI-konferanse i Long Beach, California.

Under den samme AI-konferansen samlet en gruppe forskere seg på en nærliggende bar en ettermiddag for å diskutere Pyro, et nytt programmeringsspråk utgitt av Uber som kombinerer dyp læring med sannsynlig programmering.

Møtet i Long Beach ble arrangert av Noah Goodman , en professor ved Stanford som også er tilknyttet Ubers AI Lab. Med krøllete, ustelt hår og en uknappet skjorte, kan han lett forveksles med en yogalærer i stedet for en AI-ekspert. Blant de på samlingen var Tran, som også har bidratt til utviklingen av Pyro.

Goodman forklarer at det å gi dyp læring evnen til å håndtere sannsynlighet kan gjøre det smartere på flere måter. Det kan for eksempel hjelpe et program med å gjenkjenne ting, med en rimelig grad av sikkerhet, fra bare noen få eksempler i stedet for mange tusen. Å tilby et mål på sikkerhet i stedet for et ja-eller-nei-svar bør også hjelpe med å utvikle komplekse systemer.

Og mens et konvensjonelt dyplæringssystem kun lærer av dataene det mates, kan Pyro også brukes til å bygge et system forhåndsprogrammert med kunnskap. Dette kan være nyttig i omtrent alle scenarier der maskinlæring for øyeblikket kan dukke opp.

Relatert historie

Relatert historie Alphabet, nummer 5 på listen vår over de 50 smarteste selskapene, tror det kan vri skydatamarkedet vekk fra Amazon ved å hjelpe bedrifter med å bruke maskinlæring med et verktøy kalt TensorFlow.

I tilfeller hvor du har forkunnskaper du ønsker å bygge inn i modellen, er sannsynlighetsprogrammering spesielt nyttig, sier Goodman. Folk vil bruke Pyro til alle slags ting.

Edward er et annet programmeringsspråk som omfavner usikkerhet, dette utviklet ved Columbia University med finansiering fra DARPA. Både Pyro og Edward er fortsatt i tidlige utviklingsstadier, men det er ikke vanskelig å se hvorfor Uber og Google er interessert.

Uber bruker maskinlæring på utallige områder, fra ruting av sjåfører til å sette høypris, og selvfølgelig i sine selvkjørende biler. Selskapet har investert tungt i kunstig intelligens, og ansatt en rekke eksperter som jobber med nye ideer. Google har bygget om hele virksomheten sin rundt AI og dyp læring på det siste.

David Blai , professor i statistikk og informatikk ved Columbia University og Trans rådgiver, sier å kombinere dyp læring og probabilistisk programmering er en lovende idé som trenger mer arbeid. I prinsippet er det veldig kraftig, sier han. Men det er mange, mange tekniske utfordringer.

Likevel, som Goodman bemerker, er Pyro og Edward også viktige for å bringe sammen to konkurrerende skoler i AI, den ene fokusert på nevrale nettverk og den andre på sannsynlighet.

De siste årene har nevrale nettverksskolen vært så dominerende at andre ideer nesten har blitt liggende bak. For å komme videre, må feltet kanskje omfavne disse andre ideene.

Den interessante historien her er at du ikke trenger å tenke på disse leirene som separate, sier Goodman. De kan komme sammen – faktisk kommer de sammen – i verktøyene vi nå bygger.

Du kan til og med si at de blir smartere, delvis ved å lære det de ikke vet.

gjemme seg