211service.com
Maskinlæring har blitt brukt til å automatisk oversette språk som har gått tapt
Gammelgresk innskrevet i stein Don Lloyd | Flickr
I 1886 kom den britiske arkeologen Arthur Evans over en eldgammel stein med et merkelig sett med inskripsjoner på et ukjent språk. Steinen kom fra middelhavsøya Kreta, og Evans reiste umiddelbart dit for å jakte på flere bevis. Han fant raskt mange steiner og tavler med lignende skrifter og daterte dem fra rundt 1400 fvt.
Det gjorde inskripsjonen til en av de tidligste formene for skrift som noen gang er oppdaget. Evans hevdet at dens lineære form tydelig var avledet fra frekt ripede linjebilder som tilhørte kunstens barndom, og derved etablerte dens betydning i språkvitenskapens historie.
Han og andre bestemte senere at steinene og tavlene var skrevet i to forskjellige skrifter. Den eldste, kalt Linear A, er fra mellom 1800 og 1400 fvt, da øya ble dominert av den minoiske sivilisasjonen fra bronsealderen.
Det andre manuset, Linear B, er nyere, og dukket opp først etter 1400 fvt, da øya ble erobret av mykenere fra det greske fastlandet.
Evans og andre prøvde i mange år å tyde de eldgamle skriftene, men de tapte språkene motsto alle forsøk. Problemet forble uløst til 1953, da en amatørlingvist ved navn Michael Ventris knakk koden for Linear B.
Løsningen hans var bygget på to avgjørende gjennombrudd. For det første antok Ventris at mange av de gjentatte ordene i Linear B-vokabularet var navn på steder på øya Kreta. Det viste seg å være riktig.
Hans andre gjennombrudd var å anta at skriften registrerte en tidlig form for gammelgresk. Den innsikten tillot ham umiddelbart å tyde resten av språket. I prosessen viste Ventris at gammelgresk først dukket opp i skriftlig form mange århundrer tidligere enn tidligere antatt.
Ventris sitt arbeid var en stor prestasjon. Men det eldgamle manuset, Linear A, har vært et av de store enestående problemene innen lingvistikk frem til i dag.
Det er ikke vanskelig å forestille seg at nyere fremskritt innen maskinoversettelse kan hjelpe. På bare noen få år har studiet av lingvistikk blitt revolusjonert av tilgjengeligheten av enorme kommenterte databaser, og teknikker for å få maskiner til å lære av dem. Følgelig har maskinoversettelse fra ett språk til et annet blitt rutine. Og selv om det ikke er perfekt, har disse metodene gitt en helt ny måte å tenke språk på.
Gå inn Jiaming Luo og Regina Barzilay fra MIT og Yuan Cao fra Googles AI-laboratorium i Mountain View, California. Dette teamet har utviklet et maskinlæringssystem som er i stand til å tyde tapte språk, og de har demonstrert det ved å la det dechiffrere Linear B – første gang dette har blitt gjort automatisk. Tilnærmingen de brukte var veldig forskjellig fra standard maskinoversettelsesteknikker.
Først litt bakgrunn. Den store ideen bak maskinoversettelse er forståelsen av at ord er relatert til hverandre på lignende måter, uavhengig av språket som er involvert.
Så prosessen begynner med å kartlegge disse relasjonene for et spesifikt språk. Dette krever enorme databaser med tekst. En maskin søker deretter i denne teksten for å se hvor ofte hvert ord vises ved siden av hvert annet ord. Dette mønsteret av utseende er en unik signatur som definerer ordet i et flerdimensjonalt parameterrom. Faktisk kan ordet betraktes som en vektor innenfor dette rommet. Og denne vektoren fungerer som en kraftig begrensning på hvordan ordet kan vises i enhver oversettelse maskinen kommer opp med.
Disse vektorene følger noen enkle matematiske regler. For eksempel: konge – mann + kvinne = dronning. Og en setning kan betraktes som et sett med vektorer som følger etter hverandre for å danne en slags bane gjennom dette rommet.
Den viktigste innsikten som muliggjør maskinoversettelse er at ord på forskjellige språk opptar de samme punktene i deres respektive parameterrom. Det gjør det mulig å kartlegge et helt språk til et annet språk med en-til-en korrespondanse.
På denne måten blir prosessen med å oversette setninger prosessen med å finne lignende baner gjennom disse mellomrommene. Maskinen trenger aldri engang å vite hva setningene betyr.
Denne prosessen er helt avhengig av de store datasettene. Men for et par år siden viste et tysk team av forskere hvordan en lignende tilnærming med mye mindre databaser kunne hjelpe til med å oversette mye sjeldnere språk som mangler de store databasene med tekst. Kunsten er å finne en annen måte å begrense maskintilnærmingen som ikke er avhengig av databasen.
Nå har Luo og co gått lenger for å vise hvordan maskinoversettelse kan tyde språk som har gått tapt helt. Begrensningen de bruker har å gjøre med måten språk er kjent for å utvikle seg over tid.
Tanken er at et hvilket som helst språk bare kan endres på bestemte måter - for eksempel vises symbolene på beslektede språk med lignende distribusjoner, relaterte ord har samme rekkefølge av tegn, og så videre. Med disse reglene som begrenser maskinen, blir det mye lettere å tyde et språk, forutsatt at stamspråket er kjent.
Luo og co satte teknikken på prøve med to tapte språk, Linear B og Ugaritic. Språkforskere vet at Linear B koder for en tidlig versjon av gammelgresk og at ugaritisk, som ble oppdaget i 1929, er en tidlig form for hebraisk.
Gitt at informasjonen og begrensningene som pålegges av språklig evolusjon, er Luo og cos maskin i stand til å oversette begge språkene med bemerkelsesverdig nøyaktighet. Vi var i stand til å oversette 67,3 % av lineære B-kognater til deres greske ekvivalenter i dechiffreringsscenarioet, sier de. Så vidt vi vet, er eksperimentet vårt det første forsøket på å dechiffrere Linear B automatisk.
Det er imponerende arbeid som tar maskinoversettelse til et nytt nivå. Men det reiser også det interessante spørsmålet om andre tapte språk - spesielt de som aldri har blitt dechiffrert, for eksempel Linear A.
I denne artikkelen er Lineær A iøynefallende ved sitt fravær. Luo og co nevner det ikke engang, men det må være stort i deres tenkning, slik det gjør for alle lingvister. Likevel er det fortsatt behov for betydelige gjennombrudd før dette skriptet blir tilgjengelig for maskinoversettelse.
For eksempel vet ingen hvilket språk Linear A koder. Forsøk på å tyde det til gammelgresk har alle mislyktes. Og uten forfedrespråket fungerer ikke den nye teknikken.
Men den store fordelen med maskinbaserte tilnærminger er at de kan teste det ene språket etter det andre raskt uten å bli slitne. Så det er ganske mulig at Luo og co kan takle Linear A med en brute-force-tilnærming – bare forsøk å dechiffrere den til alle språk som maskinoversettelse allerede fungerer for.
Hvis det fungerer, vil det være en imponerende prestasjon, en som selv Michael Ventris ville bli overrasket over.
Ref: arxiv.org/abs/1906.06718 : Nevral dekryptering via minimumskostnadsflyt: fra ugaritisk til lineær B