211service.com
Øker AIs IQ
Dagens kunstige intelligens er langt fra intelligent. Men Josh Tenenbaum, PhD '99, jobber med det. 27. juni 2018
Bob O'Connor
På en søndag ettermiddag i slutten av mars sitter kognitiv vitenskapsmann Josh Tenenbaum, PhD '99, foran et trebordsspill, svinger en magnetisk åre og prøver å banke en liten oransje ball inn i motstanderens mål. Tenenbaum, professor i computational cognitive science, og motstanderen hans, en førsteårsstudent, ler mens ballen spretter fra siden av brettet og rikosjetterer bakover inn i Tenenbaums mål, noe som koster ham et poeng.
Tenenbaums Building 46-arbeidsområde er fylt med leker – ikke bare det magnetiske padlespillet, men også et treformet puslespill og et spill kalt Stormy Seas, der spillere prøver å balansere små objekter med pirat-tema på en ustabil plattform. En førsteklassing ville vært hjemme her. Likevel inspirerer lekene også Tenenbaum og studentene hans til å utforske mer spennende spørsmål om hva som gjør mennesker intelligente – hva som gjør at vi kan tenke og lære så raskt, og til slutt hva som gjør oss smartere enn noe nåværende kunstig intelligenssystem.
Et menneske som så på Tenenbaum og eleven hans banke ballen frem og tilbake, ville raskt forstå at de spilte et spill. Etter noen få øyeblikk ville observatøren finne ut av reglene og kunne delta. Det ville være vanskelig nok å få en robot til å plukke opp det meste på dette bordet, enn si finne ut hva som skjer, sier Tenenbaum. Kunstig intelligens er ikke rustet til å jobbe bakover fra et mål og planlegge på en ny måte, sier han. Mennesker kan imidlertid gjøre det, delvis ved å lage mentale modeller av verden rundt dem. Det kan være mulig å bygge smartere maskiner ved å reversere disse mentale prosessene.
Til tross for all den siste hypen rundt kunstig intelligens, anser Tenenbaum ingen av dagens AI-systemer som virkelig intelligente. Ja, AI har gjort slående fremskritt for å gjøre det mulig for datamaskiner å utføre relativt smale oppgaver, som å gjenkjenne ansikter eller gjenstander. Men selv om mange av disse fokuserte AI-systemene fungerer utrolig bra og har en enorm innvirkning, har ikke forskere lyktes i å etterligne den generelle, fleksible intelligensen som lar folk løse problemer uten å være spesielt opplært til det. Hans arbeid, sier han, er inspirert av filosofi, inkludert spørsmål som Platon, Aristoteles, Kant og Hume har tenkt på. Hvordan går du fra detaljer til generelle? Hvordan ser du på én ting og sier: Det jeg lærer handler ikke bare om den tingen – det handler om andre ting også? Det er spennende for meg – å tenke på disse store spørsmålene om hvordan vi får vite noe, sier han.
Bob O'Connor
Tenenbaum argumenterer for at fokus på menneskesinnet er en verdifull måte å fremme AI. Historisk sett ble mange om ikke de fleste innovasjoner på feltet utført av folk som er interessert i å forstå menneskelig intelligens fra et matematisk eller ingeniørmessig perspektiv, sier han. Så selv om dette ikke er den eneste mulige tilnærmingen, tror han at det sannsynligvis vil være en fruktbar en. I tillegg er mange av den typen teknologi vi ser på AI for teknologier som vil leve i en menneskelig verden, sier han. Disse inkluderer maskiner som kan hjelpe med husarbeid eller til og med ta vare på barn eller eldre, ved å ta i bruk oppgaver på en menneskelig skala. Og, sier han, hvis vi vil at maskiner skal samhandle med oss slik vi samhandler med hverandre, så er det til en viss grad viktig for dem å ha en menneskelignende intelligens.
I mars, da instituttet lanserte MIT Intelligence Quest (nå kalt MIT Quest for Intelligence), et initiativ for å utforske grunnlaget for menneskelig intelligens, var Tenenbaum ærlig om grensene for eksisterende AI-systemer. Hver må bygges av virkelig smarte ingeniører, sa han, og hver gjør bare én ting. Men han utdypet sin dristigere visjon om å utvikle AI for å etterligne menneskelig læring. Tenk om vi kunne bygge en maskin som vokser til intelligens slik et menneske gjør, som starter som en baby og lærer som et barn, sa han. Det ville vært AI som er virkelig intelligent, hvis vi kunne bygge det. Han la til at det nesten helt sikkert ikke kunne gjøres på 10 år, sannsynligvis ikke på 20 - og ganske muligens ikke engang i vår levetid. Men det er greit, sa han. Det er derfor vi kaller det et oppdrag.
Intuitiv fysikk
I denne tidsalderen med big data og dyp læring er det lett å bli forført, sier Robert Goldstone, professor i psykologi og hjernevitenskap ved Indiana University. Han mener det er fristende å tenke at maskinlæringssystemer ikke trenger sammenhengende tolkninger av verden rundt dem for å oppføre seg intelligent – hvem trenger teori når vi har nok data? Tenenbaums arbeid viser imidlertid viktigheten av teori, sier Goldstone, fordi det viser at for å komme videre, må elevene lage interne modeller av miljøet sitt.
Tenk på riket av hverdagsfysikk, der mennesker viser klar intuisjon. Når vi ser et barn klatre i et tre, har vi en følelse av om grenene er sterke nok til å bære vekten hennes. Når vi ser en kopp plassert på kanten av et bord, vet vi at hvis bordet blir støtt, vil koppen sannsynligvis falle. Hver dag møter vi et visuelt mangfoldig spekter av scenarier, men vi kan resonnere og gjøre vurderinger om dem. Tenenbaum mener mennesker har en evne til mentalt å simulere fysikkens mekanismer, og dette lar oss forutsi hvordan objekter vil oppføre seg.
Mens han tester denne teorien, er Tenenbaums mål ikke bare å forstå menneskelig erkjennelse bedre, men også å lage dataprogrammer som kan tilnærme den mer effektivt. I ett prosjekt bygde han og teamet hans en serie virtuelle tårn med verktøy brukt i videospilldesign. De designet hvert tårn med 10 blokker stablet i mer eller mindre prekære arrangementer. Deretter presenterte teamet mennesker med disse konstruksjonene og spurte dem om tårnene ville falle, som i et spill med Jenga. Etter at personen svarte, falt tårnet - eller gjorde det ikke. Tenenbaum argumenterer for at folk nærmer seg denne oppgaven ved å bruke en intuitiv fysikkmotor - en mental modell basert på en forståelse av masse, friksjon, tyngdekraft og andre aspekter av den fysiske verden.
Bob O'Connor
I mellomtiden hadde Tenenbaum og teamet hans også skrevet et dataprogram for å fange menneskelige tanker og oppfatninger om slike fysiske scenarier. Målet deres var at programmet skulle kode informasjon om et blokktårn, for eksempel dets posisjon og konfigurasjon, og deretter kjøre simuleringer basert på den informasjonen for å forutsi om tårnet ville falle. Den ga spådommer som var sannsynlige, slik han sier at vår egen fysiske resonnement også gjør. (Vi har en tendens til å tenke i statistiske termer om forskjellige mulige utfall, forklarer han, fordi vi i den daglige verden må kjempe med usikkerhet om objekter vi observerer.)
I en artikkel publisert i 2013, Tenenbaum, postdoc Peter Battaglia og Jessica Hamrick ’11, MEng ’12, beskrevet tester systemet og fant ut at dets spådommer var sterkt korrelert med de som ble gjort av mennesker. I ytterligere eksperimenter manipulerte teamet massene til blokkene, slik at noen var tunge og noen var lette. De gjorde også et støt i bordet og spurte hvilke blokker som mest sannsynlig ville falle i gulvet. I hvert av disse tilfellene var datamodellens spådommer lik de som ble gjort av mennesker, sier Tenenbaum: Vi var i stand til å modellere den typen simulering noen kunne bygge i sitt eget hode.
Lære å lære
Til dags dato har de beste AI-algoritmene krevd at systemer trenes på tusenvis – eller i noen tilfeller millioner – av eksempler. Dette gjelder for eksempel i domenet for bokstavidentifikasjon, en standard benchmark innen maskinlæring. Det som er bemerkelsesverdig med menneskelig erkjennelse er imidlertid at vi ikke trenger 6000 eksempler på et brev for å lære hva det er og gjenkjenne det i forskjellige fonter eller forskjellige håndskrifter, sier Brenden Lake, PhD '14, en assisterende professor i psykologi og data vitenskap ved New York University og en tidligere doktorgradsstudent ved Tenenbaums.
Fra og med 2009 satte Lake, Tenenbaum og postdoc Ruslan Salakhutdinov (nå førsteamanuensis ved Carnegie Mellon University og Apples direktør for AI-forskning) ut for å utvikle et program inspirert av innsikt i hvordan folk lærer om og oppfatter karakterer. Etter å ha filmet 20 personer som tegnet bokstaver fra utenlandske alfabeter de aldri hadde brukt før, fant de sterke fellestrekk i hvordan folk gikk til oppgaven – delene de delte karakterene inn i, utgangspunktet deres og retningen på slagene deres. På grunnlag av disse observasjonene bestemte forskerne seg for å lage en håndskriftalgoritme som skulle ta hensyn til hvordan bokstaver ble produsert og ikke bare hvilke piksler som var til stede i det endelige resultatet.
Nøkkelideen var å representere konseptet med en bokstav som en program , som er en mye rikere representasjon enn det som vanligvis brukes i maskinlæring, sier Lake. De gjorde også programmet sannsynliggjort. Den kunne observere en skrevet karakter, utlede måten den mest sannsynlig hadde blitt tegnet på (programmet for å tegne den), og deretter forestille seg hvordan nye forekomster av den samme karakteren kan tegnes. Den kunne også romme noe usikkerhet i informasjonen den jobbet med og generere en rekke utdata: hvert eksempel på bokstaven A, for eksempel, var litt annerledes. Denne evnen til å tolerere usikkerhet hjalp algoritmen til å håndtere situasjoner i den virkelige verden. Med erfaring kan programmet også bli bedre til å tegne nye karakterer. Noe av det som begeistret oss var denne ideen om å «lære å lære», sier Tenenbaum. Og det, forklarer han, er hvordan vi får muligheten til å generalisere effektivt, ved å bruke sparsomme data eller bare ett eksempel.
I en artikkel fra 2015 publisert i Vitenskap , testet teamet algoritmen ved å vise den en enkelt ukjent bokstav og be den produsere en ny karakter som var lik. De presenterte menneskelige forsøkspersoner med samme oppgave, og ba deretter dommere om å bestemme hvilke av karakterene som var skapt av mennesker og hvilke av maskiner. Bemerkelsesverdig nok kunne ikke det store flertallet av dommerne se forskjellen. Algoritmen besto med andre ord en enkel, visuell form av Turing-testen, det klassiske kriteriet for maskinintelligens.
Modellerer babyer
I de tidlige dagene av kunstig intelligens var vitenskapen om menneskelig læring ikke avansert nok til å tilby mye veiledning. Turing kunne bare anta hvordan et barns hjerne var, sier Tenenbaum – den britiske matematikeren betraktet den som en tom notatbok – men nei, den er mye mer. Og som en del av hans driv etter å forstå opprinnelsen til kunnskap, har Tenenbaum også samarbeidet om arbeid med å utforske sinnet til små barn. I 2008 underviste han en klasse ved Harvard med den anerkjente psykologen Elizabeth Spelke, som har vist at selv små babyer har visse former for kunnskap som ser ut til å være innebygd. (I motsetning til det grunnleggende arbeidet til Jean Piaget – som mente at barn utvikle objektpermanens, forståelsen av at objekter ikke bare blunker inn og ut av eksistens, rundt åtte måneder – Spelke viste at en eller annen form for denne forståelsen er tilstede hos to til tre måneder gamle.) Spelke overbeviste Tenenbaum om at hjernen er satt opp for å utvikle visse konsepter, og at for å verdsette menneskelig intelligens fullt ut, er det nødvendig å modellere kjernekunnskapen til svært små barn. Dette inkluderer intuisjon om både fysikk og psykologi - spesielt vår evne til å tolke andre menneskers handlinger i forhold til deres mentale tilstander, tro og mål.
Bob O'Connor
Senest utforsket Tenenbaum og Spelke hvordan 10 måneder gamle babyer er i stand til å finne ut hva andre mennesker vil ha og hvor mye de verdsetter målene de forfølger. For å gjøre det laget forskerne animasjoner der blå, røde og gule karakterer hoppet over vegger eller utførte andre fysiske oppgaver for å nå hverandre. For eksempel kan en rød figur hoppe over en liten vegg for å komme til en blå figur, men nekte å hoppe over en middels vegg. Den samme figuren kan imidlertid skalere en høy vegg for å nå sin gule motstykke. Forskerne antok at hvis babyer så en karakter jobbe hardere for å oppnå et mål, ville de konkludere med at karakteren verdsatte det mer enn alternativet. Faktisk, når forskere viste en rød figur som stod mellom gul og blå uten vegg og deretter fikk den til å bevege seg mot blått, stirret babyene lenger. Det vil si at etter å ha sett den røde figuren utføre mer arbeid for å nå gul, hadde de antydet at rød foretrakk gult og ble overrasket da den valgte blått i stedet. Dette antyder at selv preverbale babyer har en intuitiv forståelse av balansen mellom kostnader og belønninger og hvordan den spiller inn i andre menneskers oppførsel, sier Tenenbaum, og legger til at denne psykologiske intuisjonen er grunnleggende for mer kompleks sosial forståelse senere. Arbeidet, ledet av postdoktor Tomer Ullman, PhD ’15, og Spelkes PhD-student Shari Liu, ble publisert i Vitenskap i 2017.
Tar en fottur
Hamrick var junior ved MIT da hun begynte på Tenenbaums laboratorium i 2010 og begynte å jobbe med det Jenga-lignende fysikkprosjektet. Når studentene først blir utsatt for forskning, fokuserer de vanligvis snevert på problemet foran dem, sier hun. Men Tenenbaum inspirerer dem til å tenke på hvordan det passer inn i de større spørsmålene i vitenskapen også (ikke ulikt måten han sier vi lærer). Det fikk meg til å føle at forskning var en fantastisk ting å gjøre, legger Hamrick til, og krediterer hennes erfaring i Tenenbaums laboratorium med beslutningen om å satse på en karriere innen vitenskap. (Hun er nå forsker ved DeepMind, et britisk AI-selskap eid av Google.)
En måte Tenenbaum har fremmet en nær og samarbeidsånd på i laboratoriet sitt, er ved å ta med studentene og postdoktorene på årlige fotturer, hvorav noen har vært notorisk intense, sier han. Da han vokste opp i California, betraktet han Yosemite nasjonalpark som et av favorittstedene hans. Og fra og med 2002, da han ble assisterende professor ved MIT, begynte han å organisere årlige turer til White Mountains i New Hampshire. Gruppen går vanligvis rundt Columbus Day, på høyden av høstløvsesongen. Men selv da har de tidvis vært borti vinterlige forhold i de høyere høydene. Tenenbaum minner om en tur langs Franconia Ridge Trail og spøker: Det var ikke en dødsmarsj – ingen døde – men det var litt snø og ikke alle var forberedt, selv om de ble advart!
Sammen med den intense kroppsligheten gir fotturer også gruppemedlemmer en mulighet til å snakke bredt om vitenskap og livet. Når folk vandrer langs en smal sti, har de en tendens til å spre seg. Noen ganger befinner jeg meg foran, noen ganger bak, sier Tenenbaum. Uansett, legger han til, har jeg alltid et så stort utvalg av samtaler som beveger seg opp og ned i linjen, samtidig som jeg blir inspirert av dette vakre stedet vi går gjennom.
Tenenbaum henter også inspirasjon fra foreldreskapet. Hans 16 år gamle datter, Abi, har vært kjent for å hjelpe til med forskningen hans; i en alder av åtte eller ni var hun den første deltakeren i Jenga-eksperimentet. Med en gang fant hun en feil – i hovedsak en måte å få en perfekt poengsum på – og da hun forklarte det for oss, sa vi «Å, godt poeng», og omskrev hele eksperimentet, husker han. Men mer generelt sett samsvarer foreldreskap med Tenenbaums interesse for menneskelig læring, spesielt hos babyer og barn. Opplevelsen av å se ungen din smake på iskrem eller se den første hesten sin er fantastisk, sier han. Det slår inn i min interesse for hva det er du lærer fra første gang du ser noe.
Ta tak i store spørsmål i skjæringspunktet mellom hjerner, sinn og intelligente maskiner
MIT Intelligence Quest (nå kalt MIT Quest for Intelligence) har som mål å gi AI ekte intelligens ved å bringe sammen tenkere innen en rekke disipliner, fra psykologi til informatikk. Initiativet behandler den menneskelige hjernen (og AI-systemene som prøver å etterligne den) som en stor ingeniørutfordring. Da prosjektet ble annonsert i mars, delte Josh Tenenbaum dette diagrammet som oppsummerte noen av de store spørsmålene MIT-forskere jobber med i seks hovedkategorier – og påpekte at spørsmål som ennå ikke er stilt kan vise seg å være viktigst.