211service.com
Facebooks perfekte, umulige chatbot
Tim Liedtke
Amazons Alexa kan tilkalle en Uber og tilfredsstille en fireårings krav om fiselyder. Siri kan kontrollere den Internett-tilkoblede termostaten din. Hver serverer millioner av brukere hver dag. Men en heldig gruppe på rundt 10 000 mennesker, hovedsakelig i California, vet at Facebooks assistent, kalt M, er den smarteste i gjengen.
Anbefale og reservere et romantisk hotell i Marokko som også passer for små barn? Ikke noe problem. Få tilbud fra lokale entreprenører for landskapsarbeid for hagen din? Vurder det som gjort. Facebooks eksperimentelle assistent, som tilbys i selskapets Messenger-app, viser verdien av å ha en ekte digital butler i lommen. I stedet for bare å hente enkle opplysninger fra databaser, kan M forstå komplekse bestillinger og utføre handlinger som å bestille teaterbilletter eller kontakte selskaper for informasjon.
M er så smart fordi den jukser. Det fungerer som Siri ved at når du trykker ut en melding til M, prøver algoritmer å finne ut hva du vil. Når de ikke kan, faller ikke M tilbake til å søke på nettet eller si at jeg beklager, jeg forstår ikke spørsmålet. I stedet tar et menneske usynlig over, og svarer på forespørselen din som om algoritmene fortsatt var ved roret. (Facebook nektet å si hvor mange av disse arbeiderne det har, eller å gjøre M tilgjengelig for å prøve.)
Det designet er for dyrt å skalere til de 1,2 milliarder menneskene som bruker Facebook Messenger, så Facebook tilbød M til noen tusen brukere i 2015 som et slags halvoffentlig FoU-prosjekt. Å flette sammen menneskelige arbeidere og algoritmer var ment å avsløre hvordan folk ville reagere på en allvitende virtuell assistent, og å gi data som ville la algoritmene lære å ta over arbeidet til deres menneskelige trenere.
Alle i dette feltet drømmer om å lage assistenten som endelig skal bli veldig, veldig, veldig smart, sier Alex Lebrun, som startet prosjektet. M er ment å åpne en vei for å virkelig gjøre det.
Nå to år på den veien, kan Facebooks forskningsprosjekt med rette kalles vellykket. Brukere som M, og teorien om at programvare kan lære å ta over noe arbeid fra de menneskelige trenerne har blitt bekreftet. Likevel er M fortsatt langt fra punktet hvor det kan være et ekte produkt som tilbys til de andre 99,9 prosentene av Messenger-brukerne, og fremgangen har vært vanskeligere enn forventet.
Vi visste at det var en stor utfordring, men den er enda større enn jeg trodde, sier Lebrun. Læringshastigheten, veksten av automatiseringen – vi har sett at det ville gå tregere enn vi håpet. Ms historie er en påminnelse om hvor langt kunstig intelligens har kommet de siste årene – og hvor langt det må gå.
M er for måneskudd
Folk er overraskende lek å snakke med dumme maskiner. Den første chatboten ble opprettet i 1964 av MIT-professor Joseph Weizenbaum. Det trasket ut hermetiske linjer som svar på spesifikke søkeord, mest vellykket når du spiller rollen som terapeut. Til Weizenbaums irritasjon ble mange mennesker som prøvde det, inkludert hans egen sekretær, slått til tross for at de visste at boten, kalt Eliza, ikke visste noe. Jeg hadde ikke innsett at ekstremt korte eksponeringer for et relativt enkelt dataprogram kunne indusere kraftig vrangforestilling hos ganske normale mennesker, skrev han senere.
Det er mye vanskeligere å lage en chatbot som hjelper deg ved å få ting gjort, ikke bare som en klangbunn eller skriftefar. Når en virtuell tjener blir bedt om å gjøre noe, vil ikke et vagt eller avvisende svar kutte det. Dagens programvare er dårlig til å forstå språk og verden, så virtuelle assistenter, som Siri eller Alexa, må eksplisitt programmeres til å håndtere en gitt oppgave.
Det er derfor bots på markedet har begrensede repertoarer. Og det forklarer sannsynligvis hvorfor forslag i fjor om at chatboter ble satt til å transformere hvordan vi bruker datamaskiner mye som mobilapper gjorde, drevet av Microsoft, Facebook og noen teknologiinvestorer, ikke ser ut til å ha vært mye. Bots er akkurat nå i fortvilelsens bunn, sier Greg Cohn, administrerende direktør i Burner, et mobilpersonvernselskap som har begynt å hjelpe Airbnb-verter med å lage en enkel bot for å svare på vanlige spørsmål fra gjester. For industriobservatører føles det som om de er overhyped og underleverer.
Lebrun bygde M fordi han hadde brukt mer enn et tiår på å bygge konvensjonelle, smale chatbots og drømte om å tilby mye mer. Han begynte i Facebook tidlig i 2015 da det sosiale nettverket kjøpte opp Wit.ai, et selskap han var med å grunnlegge for å hjelpe bedrifter med å lage chatbots for funksjoner som kundestøtte. Lebrun hadde tidligere solgt et chatbot-selskap til talegjenkjenningsgiganten Nuance.
Hver eneste bot på markedet, inkludert min, var regelbasert, og du vet at en dag vil du nå et tak og aldri gå gjennom, sier Lebrun. Barna våre jobber ikke med regler eller manus, og en dag blir de smartere enn deg.
M ble i utgangspunktet bare tilbudt Facebook-ansatte, og deretter til noen tunge Messenger-brukere i California. Og det tok ikke lang tid å demonstrere at algoritmer faktisk kunne lære å gjøre noe av arbeidet som ble utført av menneskene som driver assistenten.
Tim Liedtke
Facebooks forskningsgruppe for kunstig intelligens brukte M til å teste en ny type læringsprogramvare kalt et minnenettverk, som hadde vist evne til å svare på spørsmål om enkle historier. Programvaren bruker et slags arbeidsminne for å salte bort viktig informasjon for senere bruk, et design som Google også tester for å forbedre programvarens resonneringsferdigheter.
Weizenbaum hadde antydet tilbake i 1964 at noe slikt kunne gjøre Eliza smartere, og i løpet av noen uker fungerte det for M. Lebrun husker at han ble overrasket etter å ha takket assistenten for å ha bestilt kinobilletter. Den genererte automatisk svaret Du er velkommen. Nyt filmen. M hadde lært å huske og bruke konteksten til oppgaven den hjalp til med. Vi ble virkelig imponert, sier Lebrun. Ingen skrev et program for å gjøre det.
Minnenettverk fortsatte med å gjøre mer. De slår nå til hvis noen ber M om å få levert blomster, for eksempel automatisk ved å bruke nøkkelinformasjon fra forespørselen, for eksempel budsjett eller adresse, for å generere forslag fra blomsterhandlere på nettet. Den menneskelige treneren velger deretter hva han vil tilby brukeren.
Andre funn har vært mindre jubel. Den ene er den enorme appetitten M låser opp hos brukerne. Med begrensede, helautomatiske assistenter som Siri eller Alexa, har folk en tendens til å finne seg til rette i å bruke noen få funksjoner de synes fungerer pålitelig. Med M gjør de det ikke.
Folk prøver først å spørre om været i morgen; så sier de «Er det en italiensk restaurant tilgjengelig?» Deretter har de et spørsmål om immigrasjon, og etter en stund ber de M organisere bryllupet deres, sier Lebrun. Vi visste at det ville være farlig, og det er bredere enn våre forventninger.
Menneskelige trenere gjør sitt beste når de mottar tøffe spørsmål som Ordne at en papegøye skal besøke vennen min , men noen ganger nekter de helt å hjelpe. Selv om M automatisk skulle avslå de mest komplekse brukerforespørslene, gjør den store variasjonen av forespørslene deres det vanskeligere å nå målet om å få algoritmer til å ta over fra menneskelige trenere. En teknikk kalt dyp læring har nylig gjort maskinlæring kraftigere (minnenettverk er et eksempel). Men å lære å håndtere en lang rekke komplekse scenarier, med lite data om hver, fordi de ikke oppstår ofte, er ikke den typen problem dyplæring utmerker seg ved. Det er mye smartere, og det kan lære veldig komplekse oppgaver, men det trenger mye data, sier Lebrun.
Langt trekk
Langsommere fremgang enn forventet har fått Facebook til å tenke nytt om prosjektet sitt. Forrige uke dukket det opp en funksjon kalt M Suggestions i Messenger, som i funksjon ligner på den typen begrensede roboter M er ment å fortrenge. Den ser på chattene dine med venner etter ledetråder om at du kanskje vil gjøre ting som å bestille en tur med Uber, eller sende noen penger, og tilbyr en knapp for å oppnå disse målene med et enkelt trykk.
Vi bestemte oss for å finne en brukstilfelle der vi kan akselerere levering av verdi til brukere, sier Laurent Landowski, som begynte i Facebook med Lebrun som medgründer av Wit.ai og nå har tilsyn med M. (Lebrun returnerte til hjemlandet Frankrike i januar, og ble med i Facebooks AI-forskning lab i Paris.)
Den originale, menneskeavhengige M er fortsatt der ute, og gir mye større verdi til sine få heldige brukere. Facebook sier de er forpliktet til prosjektet, og det nåværende øyeblikket innen kunstig intelligens er et godt tidspunkt for langsiktige spill. De siste par årene har dyp læring økt etablerte teknikker og forventninger til programvare som behandler språk, sier Justine Cassell , professor ved Carnegie Mellon. Vi er i glansdagene til disse nye maskinlæringsalgoritmene, sier hun. Faktisk har Googles oversettelsesnøyaktighet nylig hoppet til et nesten menneskelig nivå.
Det betyr ikke at det er en selvfølge at programvare kan lære å spille butler ved å se mennesker gjøre det. Jeg tror ikke vi vet ennå, sier Cassell. Men Facebooks forskere sier at de har mange ideer å utforske.
Den ene er å få den automatiserte siden av M til å lære av positive eller negative tilbakemeldinger i meldingene brukere sender, ved å bruke en teknikk inspirert av prosessen med å trene dyr med belønning (se 10 Breakthrough Technologies 2017: Reinforcement Learning ). M kan avansere raskere om ikke bare avhengig av hva dens menneskelige kontraktører gjør. For å vekke ideer i det bredere forskningsmiljøet, har Facebooks team gitt ut verktøy for å hjelpe andre med å teste og sammenligne uskriptede assistentroboter. Og lovende nye teknikker kan nå også testes i større skala, i M Suggestions.
Lebrun og Landowski tror at de fortsatt er på vei til å bringe den virkelige M til massene. Noen ganger sier vi at dette er tre år eller fem år - men kanskje det er 10 år eller mer, sier Landowski.
Lebrun legger til: Det er så vanskelig, og vi gjør fremgang sakte, men jeg tror vi har alt vi trenger. Han kan ha rett, men du kan også forestille deg at noen som møtte Eliza i 1964 sa omtrent det samme.