211service.com
Maskinlæring forbedrer arabisk taletranskripsjon
Levert av Qatar Stiftelsen
Takket være fremskritt innen tale og naturlig språkbehandling, er det håp om at du en dag kanskje kan spørre din virtuelle assistent hva de beste salatingrediensene er. For øyeblikket er det mulig å be om å spille av musikk, eller åpne på talekommando, som er en funksjon som allerede finnes på mange enheter.
Hvis du snakker marokkansk, algerisk, egyptisk, sudanesisk eller noen av de andre dialektene i det arabiske språket, som er enormt varierte fra region til region, hvor noen av dem er gjensidig uforståelige, er det en annen historie. Hvis morsmålet ditt er arabisk, finsk, mongolsk, navajo eller et annet språk med høy morfologisk kompleksitet, kan du føle deg utenfor.
Disse komplekse konstruksjonene fascinerte Ahmed Ali for å finne en løsning. Han er hovedingeniør ved Arabic Language Technologies-gruppen ved Qatar Computing Research Institute (QCRI) – en del av Qatar Foundations Hamad Bin Khalifa University og grunnlegger av ArabicSpeech, et fellesskap som eksisterer til fordel for arabisk talevitenskap og taleteknologier.
Qatar Foundations hovedkvarter
Ali ble betatt av ideen om å snakke med biler, apparater og dingser for mange år siden mens han var hos IBM. Kan vi bygge en maskin som er i stand til å forstå forskjellige dialekter – en egyptisk barnelege for å automatisere en resept, en syrisk lærer for å hjelpe barn med å få kjernedelene fra leksjonen, eller en marokkansk kokk som beskriver den beste couscousoppskriften? sier han. Algoritmene som driver disse maskinene kan imidlertid ikke sile gjennom de rundt 30 variantene av arabisk, enn si gi mening om dem. I dag fungerer de fleste talegjenkjenningsverktøy bare på engelsk og en håndfull andre språk.
Koronaviruspandemien har ytterligere drevet en allerede økende avhengighet av stemmeteknologier, hvor måten naturlig språkbehandlingsteknologi har hjulpet folk med å overholde retningslinjer for opphold hjemme og fysiske avstandstiltak. Men mens vi har brukt talekommandoer for å hjelpe til med e-handelskjøp og administrere husholdningene våre, byr fremtiden på enda flere applikasjoner.
Millioner av mennesker over hele verden bruker massive åpne nettkurs (MOOC) for åpen tilgang og ubegrenset deltakelse. Talegjenkjenning er en av hovedfunksjonene i MOOC, der studentene kan søke innenfor bestemte områder i det muntlige innholdet i kursene og muliggjøre oversettelser via undertekster. Taleteknologi gjør det mulig å digitalisere forelesninger for å vise talte ord som tekst i universitetsklasserom.
Ahmed Ali, Hamad Bin Kahlifa-universitetet
I følge en fersk artikkel i Speech Technology magazine anslås markedet for stemme- og talegjenkjenning å nå 26,8 milliarder dollar innen 2025, ettersom millioner av forbrukere og selskaper over hele verden kommer til å stole på stemmeroboter for ikke bare å samhandle med apparater eller biler, men også for å forbedre kundeservice, drive helseinnovasjoner og forbedre tilgjengelighet og inkludering for de med hørsels-, tale- eller motoriske problemer.
I en undersøkelse fra 2019 spådde Capgemini at innen 2022 ville mer enn to av tre forbrukere velge taleassistenter i stedet for besøk til butikker eller bankfilialer; en andel som med rette kunne stige, gitt det hjemmebaserte, fysisk distanserte livet og handelen som epidemien har påtvunget verden i mer enn halvannet år.
Ikke desto mindre klarer disse enhetene ikke å levere til store deler av kloden. For de 30 typene arabisk og millioner av mennesker er det en betydelig tapt mulighet.
Arabisk for maskiner
Engelsk- eller fransktalende stemmeroboter er langt fra perfekte. Likevel er det spesielt vanskelig å lære maskiner å forstå arabisk av flere grunner. Dette er tre vanlige utfordringer:
- Mangel på diakritikk. Arabiske dialekter er på folkemunne, som i primært talt. Det meste av den tilgjengelige teksten er ikke-diakritisert, noe som betyr at den mangler aksenter som for eksempel akutt (´) eller grav (`) som indikerer lydverdiene til bokstaver. Derfor er det vanskelig å fastslå hvor vokalene går.
- Mangel på ressurser. Det er mangel på merkede data for de forskjellige arabiske dialektene. Samlet mangler de standardiserte ortografiske regler som dikterer hvordan et språk skal skrives, inkludert normer eller stavemåte, orddeling, ordskift og vektlegging. Disse ressursene er avgjørende for å trene datamodeller, og det faktum at det er for få av dem har hindret utviklingen av arabisk talegjenkjenning.
- Morfologisk kompleksitet. Arabisktalende deltar i mye kodebytte. For eksempel, i områder kolonisert av franskmennene – Nord-Afrika, Marokko, Algerie og Tunisia – inkluderer dialektene mange lånte franske ord. Følgelig er det et høyt antall av det som kalles ord utenfor vokabularet, som talegjenkjenningsteknologier ikke kan forstå fordi disse ordene ikke er arabiske.
Men feltet beveger seg lynraskt, sier Ali. Det er et samarbeid mellom mange forskere for å få det til å gå enda raskere. Alis laboratorie for arabisk språkteknologi leder ArabicSpeech-prosjektet for å samle arabiske oversettelser med dialektene som er hjemmehørende i hver region. For eksempel kan arabiske dialekter deles inn i fire regionale dialekter: nordafrikansk, egyptisk, gulf og levantinsk. Men gitt at dialekter ikke følger grenser, kan dette gå så finmasket som én dialekt per by; for eksempel kan en egyptisk morsmålstaler skille mellom ens aleksandrinske dialekt fra sine medborgere fra Aswan (en 1000 kilometer avstand på kartet).
Bygge en teknisk kunnskapsrik fremtid for alle
På dette tidspunktet er maskiner omtrent like nøyaktige som menneskelige transkriberere, mye takket være fremskritt innen dype nevrale nettverk, et underfelt av maskinlæring innen kunstig intelligens som er avhengig av algoritmer inspirert av hvordan den menneskelige hjernen fungerer, biologisk og funksjonelt. Men inntil nylig har talegjenkjenning vært litt hacket sammen. Teknologien har en historie med å stole på forskjellige moduler for akustisk modellering, bygging av uttaleleksikon og språkmodellering; alle moduler som må trenes separat. Nylig har forskere trent modeller som konverterer akustiske funksjoner direkte til teksttranskripsjoner, og potensielt optimaliserer alle deler for sluttoppgaven.
Selv med disse fremskrittene, kan Ali fortsatt ikke gi en talekommando til de fleste enheter på sitt morsmål på arabisk. Det er 2021, og jeg kan fortsatt ikke snakke med mange maskiner på dialekten min, kommenterer han. Jeg mener, nå har jeg en enhet som kan forstå engelsken min, men maskingjenkjenning av multidialekt arabisk tale har ikke skjedd ennå.
Å få dette til er fokuset i Alis arbeid, som har kulminert i den første transformatoren for arabisk talegjenkjenning og dens dialekter; en som har oppnådd hittil uovertruffen ytelse. Kalt QCRI Advanced Transcription System, blir teknologien for tiden brukt av kringkasterne Al-Jazeera, DW og BBC for å transkribere nettinnhold.
Det er noen få grunner til at Ali og teamet hans har lyktes med å bygge disse talemotorene akkurat nå. Primært, sier han, er det behov for å ha ressurser på tvers av alle dialektene. Vi må bygge opp ressursene for så å kunne trene modellen. Fremskritt innen databehandling betyr at beregningsintensiv maskinlæring nå skjer på en grafikkbehandlingsenhet, som raskt kan behandle og vise kompleks grafikk. Som Ali sier, vi har en flott arkitektur, gode moduler, og vi har data som representerer virkeligheten.
Forskere fra QCRI og Kanari AI bygde nylig modeller som kan oppnå menneskelig paritet i arabiske kringkastingsnyheter. Systemet demonstrerer virkningen av å undertekste Aljazeera daglige rapporter. Mens engelsk human error rate (HER) er omtrent 5,6 %, avslørte forskningen at arabisk HER er betydelig høyere og kan nå 10 % på grunn av morfologisk kompleksitet i språket og mangelen på standard ortografiske regler i dialektal arabisk. Takket være de siste fremskrittene innen dyp læring og ende-til-ende-arkitektur, klarer den arabiske talegjenkjenningsmotoren å utkonkurrere morsmål i kringkastingsnyheter.
Mens moderne standard arabisk talegjenkjenning ser ut til å fungere bra, er forskere fra QCRI og Kanari AI oppslukt av å teste grensene for dialektal prosessering og oppnå gode resultater. Siden ingen snakker moderne standard arabisk hjemme, er oppmerksomhet på dialekt det vi trenger for at stemmeassistentene våre skal forstå oss.
Dette innholdet er skrevet av Qatar Computing Research Institute , Hamad Bin Khalifa University, medlem av Qatar Foundation. Den ble ikke skrevet av MIT Technology Reviews redaksjon.