For å bygge en smartere chatbot, lær den først et andrespråk

MR. tech





Fra Alexa og Siri til utallige chatbots og automatiserte kundestøttelinjer, datamaskiner lærer gradvis å snakke. Det eneste problemet er at de fortsatt er veldig lett forvirrede.

Et forskerteam hos Salesforce har kommet opp med en smart måte å forbedre ytelsen til mange moderne språkprogrammer – å lære en algoritme å snakke et annet språk før den trener den til å utføre andre oppgaver.

Å lære maskiner å holde en sammenhengende samtale er fortsatt en av de store enestående utfordringene i AI fordi å løse betydningen av muntlig eller skrevet tekst så ofte er avhengig av en bredere forståelse av verden, eller sunn fornuftskunnskap (se AIs språkproblem).



Det viser seg at opplæring av et maskinlæringssystem til å oversette mellom to språk automatisk lærer det nyttige ting om forholdet og passende kontekst til ord. Når dette systemet brukes som grunnlaget for et annet maskinlæringssystem – et system som er trent til å føre en samtale, for eksempel eller til å oppdage følelsene i tekst – yter det langt bedre enn et system som er trent fra bunnen av.

Vi tar maskinoversettelsesdata, og vi lærer i utgangspunktet modellen hvordan den skal forstå ord og kontekst, sier Richard Socher , sjefforsker i Salesforce og en ekspert på bruk av maskinlæring og språk.

Arbeidet er ett eksempel på hvordan maskinlæringsfremskritt kan bidra til å forbedre språkferdighetene til AI-systemer. Mange dyplæringsbaserte datasynssystemer benytter seg av en form for forhåndstrening i nettverk, og Socher antyder at maskinoversettelse kan tilby en lignende måte å starte opp naturlige språksystemer.



Salesforce, en online plattform for å administrere kundeinteraksjoner på tvers av salg, markedsføring og handel, tilbyr allerede en rekke AI-verktøy gjennom Einstein-plattformen. Disse inkluderer et verktøy for automatisk å klassifisere følelsen av e-post eller chat-meldinger, og et annet for å prioritere potensielle kunder en arbeider forfølger basert på hans eller hennes tidligere aktivitet.

Socher mener denne oppdagelsen vil bidra til å forbedre de naturlige språkegenskapene til Einstein-plattformen. For chatbots og automatisering av kundestøtte er dette supernyttig, sier han.

Salesforce-forskerne trente et dyplæringssystem for å oversette mellom engelsk og tysk. Dette innebar å mate et stort antall oversatte dokumenter til et nevralt nettverk med mange lag, og justere parametrene til nettverket til det lærte å produsere en anstendig oversettelse for seg selv. Systemet representerer ord ved hjelp av vektorer, som er en vanlig måte å kode og analysere betydning i tekst.



Forskerne trente deretter det tospråklige nettverket til å gjøre en rekke ting: bestemme følelsen til et tekststykke; klassifisere ulike typer spørsmål; og svare på spørsmål. Og de viser at deres forhåndstrente nettverk overgikk ytelsen til en som ikke har lært et andrespråk.

Datasett for maskinoversettelse er spesielt store, noe som hjelper med maskinlæringsutfordringen. Det er en viktig sammenheng mellom oversettelse og resten av språket, sier Bryan McCann, en forsker ved Salesforce involvert i prosjektet. [Oversettelsesdatasett] er veldig generelle; de inneholder informasjon som kan være nyttig over hele linjen for naturlig språkbehandling.

gjemme seg