Behandling på enheten og AI går hånd i hånd

I samarbeid med Qualcomm

Enten du kjører et autonomt kjøretøy, bruker ansiktsgjenkjenning for å få tilgang til bankkontoen din, eller holder enheten din trygg mot raskt skiftende sikkerhetstrusler, spiller kunstig intelligens (AI) en større rolle i livene våre. Tidligere var skyens kraft nødvendig for denne behandlingen, men edge-enheter, som smarttelefoner og droner, er nå utstyrt for å kjøre dataintensive AI-operasjoner. Faktisk er edge-enheten i mange tilfeller den foretrukne plattformen for å kjøre AI-drevne applikasjoner.

Realiteten er at flere AI-applikasjoner dukker opp i dag enn de fleste av oss er klar over. Når en enhet er utstyrt med AI, kan den utvide og forbedre livene våre enormt, enten ved å ta skarpere bilder og videoer, kommunisere med oss ​​mer naturlig, eller oppfatte miljøet og autonomt navigere oss trygt til målet vårt.

AI er et paraplybegrep designet for å omfatte alt som hjelper en enhet å gjenskape den menneskelige hjernen, sier Gary Brotman, direktør for produktadministrasjon for Qualcomm. Maskinlæring (ML) er en bred klasse av teknikker og algoritmer for å løse problemene som gjør AI mulig. Klassen vi fokuserer på er dyp læring (DL) og tilbakevendende nevrale nettverk (RNN), som kjører på selve enheten.

Den betydelige forbedringen av AI-algoritmer og prosessering på enheten, to avgjørende ingredienser for å gjøre AI allestedsnærværende, fører til mer sømløse og overbevisende brukeropplevelser. Dette gjelder spesielt når AI-basert funksjonalitet flyttes til kjøretøy, husholdningsenheter og Internet of Things (IoT) sensorer. Forbedrede persepsjons- og kognitive evner på grunn av de mange teknologiene under AI-paraplyen, som ML, DL og RNN, kan nå kjøres på moderne avanserte enheter.

For eksempel kan AI på enheten forbedre bildegjenkjenning og avansert bildebehandling, for eksempel å produsere bokeh-effekter (en myk bakgrunn uten fokus) og stiloverføringer. AI-utstyrte enheter kan også lære å gjenkjenne nøkkelord og stemmer, forbedre deres respons til forbrukeren og hjelpe til med fremmedspråkoversettelse.

I tillegg kan AI hjelpe enheter og apper med å bli mer bevisste på brukerpreferanser og omgivelser, forstå intensjoner og svare på kontekstuelt relevante måter. AI på enheten din resulterer i en mer kontekstuelt rik opplevelse, sier Brotman. Og over tid vil enheten din kunne forutsi og ha en dypere forståelse av hva du skal gjøre videre.

AI i hånden din

AI på enheten har flere betydelige fordeler. Den første er ytelse. Behandlingen på enheten er bare raskere – ingen tur-retur til skyen, sier Brotman. Personvern er neste. Folk er komfortable med å dele noen personlige data, men ikke alt. Og den tredje er pålitelighet. Mobilnettverk er utbredt, men det er ingen garanti for at du alltid vil ha en tilkobling.

Opptreden: Å kjøre AI-algoritmer på enheten – uavhengig av skyen – kan forbedre responstiden og effektiviteten betraktelig, siden data ikke trenger å overføres mellom skyen og enheten. Dette er viktig fordi mobile AI-funksjoner har en tendens til å være tidssensitive for brukeropplevelse og beslutningstaking.

AI-apper har en tendens til å være sanntids- og oppdragskritiske, sier Jeff Gehlhaar, visepresident for teknologi for Qualcomm. Mange tilfeller av AI-bruk som forbedrer en opplevelse har ikke råd til ventetid.

Et autonomt kjøretøy som trenger å sette på bremsene, har for eksempel ikke råd til et millisekund med ventetid som kan være et resultat av skybehandling. Beslutninger må tas på et brøkdel av et sekund for at kjøretøyet skal fungere sikkert.

Når det gjelder brukeropplevelse, kan et naturlig stemmebrukergrensesnitt bare tolerere så mye forsinkelse. Brukere er vant til umiddelbare svar når de bruker et talegrensesnitt for naturlig språkbehandling, og følgene av nettverksforsinkelser vil føre til dårlige opplevelser.

Personvern og sikkerhet: Å beholde dataene dine på enheten sikrer personvern, og AI brukes også til biometrisk autentisering ved hjelp av stemme, fingeravtrykk, iris og ansiktsgjenkjenning. Å bruke ansiktet til å låse opp en enhet begynner å bli vanlig, sier Brotman. Og 3D ansiktsgjenkjenning dukker opp for å gi en høyere grad av autentisitet for å aktivere mobilbetalinger.

Behandling på enheten av AI-applikasjoner kan også øke både enheten og datasikkerheten ved å opprettholde et våkent øye for avvikende oppførsel. AI kan bidra til å oppdage skadelig programvare og unormal oppførsel, sier Gehlhaar. Vi kan trene det nevrale nettverket til å se hvordan dårlige skuespillere oppfører seg. Og den kan oppdage den dårlige oppførselen, som å spørre: 'Hvorfor åpner kameraapplikasjonen min kontaktdatabase?'

Pålitelighet: Selv i de mest avanserte områdene i verden er mobilnettets dekning ikke allestedsnærværende. Når det gjelder visse AI-drevne egenskaper, er det imidlertid ikke rom for feil. Autonome kjøretøy har rett og slett ikke råd til å oppleve et mistet trådløst signal, slik det kan oppstå når de går inn i en tunnel eller parkeringshus. Behandling på enheten, i tillegg til andre redundansfunksjoner, vil alltid være et krav for oppdragskritiske bruksområder som autonom kjøring.

Bringer AI til Edge-enheter

Selv om disse AI-funksjonene nå kan kjøres på enheten, har skyen fortsatt en rolle, spesielt som et komplement til prosessering på enheten. AI-apper er fortsatt avhengige av skyplattformer for å administrere store data og for å trene de nevrale nettverksmodellene som driver AI-slutninger.

Edge-enhetene selv må også være utstyrt for å effektivt kjøre AI-arbeidsbelastninger. For eksempel må behandlingen skje innenfor plattformens begrensninger, inkludert strømforbruk og termiske grenser. Applikasjonsprosessorer med forskjellige prosesseringsmotorer er spesielt godt egnet for å kjøre AI-oppgaver effektivt. Qualcomm Snapdragon Mobile Platform, for eksempel, er utstyrt med tre separate prosesseringsmotorer - en sentral prosesseringsenhet (CPU), grafikkbehandlingsenhet (GPU) og digital signalprosessor (DSP) med vektorbehandlingsevner - som alle spiller nøkkelroller i AI på enheten.

Med heterogen databehandling er det en rekke forskjellige motorer inne i brikken for å mest effektivt behandle en gitt oppgave, sier Pat Lawlor, teknisk markedssjef i Qualcomm. CPU, GPU og DSP har forskjellige styrker og svakheter, og de kan fungere sammen eller hver for seg, avhengig av AI-oppgaven. De utfyller hverandre, og AI-oppgavene kjører på de riktige motorene for høy ytelse ved lav effekt.

Den økte prosessorkraften innebygd i brikkesettene til moderne edge-enheter hjelper dem med å håndtere den intense behandlingen. For eksempel kan Qualcomm Hexagon 685 DSP, Adreno 630 GPU og Kryo 385 CPU i Snapdragon 845 levere opptil to til tre ganger raskere AI-behandling enn forrige generasjon. Hexagon DSP, for eksempel, ble opprinnelig designet for vektormatematiske arbeidsbelastninger som lydbehandling og fortsetter å bli forbedret for å adressere AI-arbeidsbelastninger, for eksempel akselererende nevrale nettverk under AI-inferens.

Hva er det neste for mobil AI?

Mobil AI er et raskt voksende marked. Med kontinuerlige fremskritt innen nevrale nettverk, DL-algoritmer og maskinvaredesign, vil vi se enorme forbedringer i nøyaktighet og hastighet, pluss nye, oppslukende brukeropplevelser.

I det bredere mobilitetsuniverset er også 5G trådløse nettverk i horisonten. AI vil forbedre og forsterke 5G og omvendt, sier Brotman. 5G vil gjøre det mulig for enheter å kommunisere mer fritt med hverandre for å dele data og dele kontekst. Med denne utviklingen vil vi oppleve et fullt tilkoblet univers av intelligente edge-enheter, som tilrettelegger for mer personlig tilpassede sanntidsbrukeropplevelser.

Livene våre i dag blir rikere av egenskapene til enhetene våre, og fremtiden vår vil i økende grad bli forbedret av fremskrittene som gjøres innen AI. Konvergensen av disse to kraftige trendene former allerede opplevelser i våre personlige og forretningsmessige liv.

For å lære mer om AI på enheten, besøk qualcomm.com/artificial-intelligence .

gjemme seg