211service.com
Mannen som hjalp til med å finne opp virtuelle assistenter tror de er dømt uten en ny AI-tilnærming
Ms. Tech
Siri, Alexa, Google Home – teknologi som analyserer språk finner i økende grad veien inn i hverdagen.
Boris Katz , en hovedforsker ved MIT, er ikke så imponert. I løpet av de siste 40 årene har Katz gitt viktige bidrag til maskiners språklige evner. På 1980-tallet utviklet han seg START , et system som er i stand til å svare på naturlig formulerte spørsmål. Ideene som ble brukt i START hjalp IBMs Watson til å vinne videre Fare! og la grunnlaget for dagens snakkende kunstige tjenere.
Men Katz bekymrer seg nå for at feltet lider av avhengighet av tiår gamle ideer, og at disse ideene ikke vil gi oss maskiner med ekte intelligens. Jeg møtte ham for å diskutere gjeldende grenser for AI-assistenter og for å høre hans tanker om hvor forskningen må gå hvis de noen gang skal bli smartere.
Hvordan ble du interessert i å få datamaskiner til å bruke språk?
Jeg møtte datamaskiner for første gang på 1960-tallet som student ved Moskva-universitetet. Den spesielle maskinen jeg brukte var en stormaskin kalt BESM-4. Man kunne bare bruke oktal kode for å kommunisere med den. Mitt første dataprosjekt gikk ut på å lære en datamaskin å lese, forstå og løse matematiske problemer.
Så utviklet jeg et dataprogram for å skrive poesi. Jeg husker fortsatt at jeg sto i maskinrommet og ventet på å se neste dikt generert av maskinen. Jeg ble lamslått av skjønnheten i diktene; de så ut til å være produsert av en intelligent enhet. Og jeg visste der og da at jeg vil jobbe resten av livet med å lage intelligente maskiner og finne måter å kommunisere med dem på.
Hva synes du om Siri, Alexa og andre personlige assistenter?
Det er morsomt å snakke om, for på den ene siden er vi veldig stolte av denne utrolige fremgangen – alle i lomma har noe som vi var med på å skape her for mange, mange år siden, som er fantastisk.
MED
Men på den annen side er disse programmene så utrolig dumme. Så det er en følelse av å være stolt og nesten flau. Du lanserer noe som folk føler er intelligent, men det er ikke engang i nærheten.
Det har vært betydelig fremgang innen AI takket være maskinlæring. Er ikke det å gjøre maskiner bedre på språk?
På den ene siden er det denne dramatiske fremgangen, og så er noe av denne fremgangen blåst opp. Hvis du ser på maskinlæringsfremskritt, kom alle ideene for 20 til 25 år siden. Det er bare det at ingeniører til slutt gjorde en god jobb med å gjøre disse ideene til virkelighet. Denne teknologien, så stor som den er, vil ikke løse problemet med ekte forståelse – med ekte intelligens.
Det ser ut til at vi gjør fremskritt innen AI, men … (se 10 banebrytende teknologier: Smooth-talking Personal Assistants ) ?
På et veldig høyt nivå er moderne teknikker – statistiske teknikker som maskinlæring og dyp læring – veldig gode til å finne regelmessigheter. Og fordi mennesker vanligvis produserer de samme setningene mye av tiden, er det veldig lett å finne dem på språket.
Se på prediktiv tekst. Maskinen vet bedre enn deg hva du skal si. Du kan kalle det intelligent, men det er bare å telle ord og tall. Fordi vi fortsetter å si det samme, er det enkelt å bygge systemer som fanger opp regelmessighetene og fungerer som om de er intelligente. Dette er den fiktive naturen til mye av den nåværende fremgangen.
Hva med det farlige språkgenererende verktøyet kunngjort nylig av OpenAI ?
Disse eksemplene er veldig imponerende, men jeg er ikke sikker på hva de lærer oss. OpenAI-språkmodellen ble trent på 8 millioner nettsider for å forutsi neste ord, gitt alle de foregående ordene i en eller annen tekst (som var om samme emne som den modellen ble trent på). Denne enorme mengden trening sørget absolutt for lokal sammenheng (syntaktisk og til og med semantisk) i teksten.
Hvorfor tror du AI er på vei feil vei i språket?
I språkbehandling, som på andre felt, ble det gjort fremskritt ved å trene modeller på enorme mengder data – mange millioner setninger. Men den menneskelige hjernen ville ikke være i stand til å lære språk ved å bruke dette paradigmet. Vi etterlater ikke babyene våre med et leksikon i barnesengen, og forventer at de skal mestre språket.
Når vi ser noe, beskriver vi det i språk; når vi hører noen snakke om noe, forestiller vi oss hvordan de beskrevne gjenstandene og hendelsene ser ut i verden. Mennesker lever i et fysisk miljø, fylt med visuelle, taktile og språklige sanseinndata, og den overflødige og komplementære naturen til disse inngangene gjør det mulig for menneskebarn å få mening ut av verden, og samtidig lære språk. Kanskje ved å studere disse modalitetene isolert, har vi gjort problemet vanskeligere enn enklere?
Hvorfor er sunn fornuft viktig?
Si at roboten din hjelper deg med å pakke, og du forteller det: Denne boken ville ikke passet i den røde boksen fordi den er også liten. Det er klart du vil at roboten din skal forstå at nett eske er for liten, slik at du kan fortsette å ha en meningsfull samtale. Men hvis du forteller roboten: Denne boken ville ikke passet inn i den røde boksen fordi den er også stor, du vil at roboten din skal forstå at bok er for stor.
Å vite hvilken enhet i en samtale et pronomen refererer til er en veldig vanlig oppgave som mennesker gjør hver dag, og likevel, som du kunne se fra disse og andre eksempler, er det ofte avhengig av dyp forståelse av verden, som for øyeblikket er utenfor rekkevidde av våre maskiner: forståelse av sunn fornuft og intuitiv fysikk, forståelse av andres tro og intensjoner, evne til å visualisere og resonnere om årsak og virkning, og mye mer.
Du prøver å lære maskiner om språk ved å bruke simulerte fysiske verdener. Hvorfor det?
Jeg har ennå ikke sett en baby hvis foreldre legger et leksikon i barnesengen og sier: Gå og lær. Og dette er hva datamaskinene våre gjør i dag. Jeg tror ikke disse systemene vil lære slik vi vil at de skal eller forstå verden slik vi vil.
Det som skjer med babyer er at de umiddelbart får taktil opplevelse av verden. Så begynner babyer å se verden og absorbere hendelser og objekters egenskaper. Og så hører babyen etter hvert språklige innspill. Og det er dette komplementære innspillet som får magien med forståelse til å skje.
Hva er en bedre tilnærming?
En vei videre er å få en større forståelse av menneskelig intelligens og deretter bruke den forståelsen for å skape intelligente maskiner. AI-forskning må bygge på ideer fra utviklingspsykologi, kognitiv vitenskap og nevrovitenskap, og AI-modeller bør reflektere det som allerede er kjent om hvordan mennesker lærer og forstår verden.
Virkelig fremgang kommer først når forskere kommer ut av kontorene våre og begynner å snakke med folk på andre felt. Sammen vil vi komme nærmere å forstå intelligens og finne ut hvordan vi kan replikere den i intelligente maskiner som kan snakke, se og operere i vår fysiske verden.
Utfordringen med å lage virkelig intelligente maskiner er veldig vanskelig, men det er også en av de viktigste utfordringene vi har.