211service.com
Utover AI-hype-syklusen: Tillit og fremtiden til AI
Levert av Plage
Det er ingen mangel på løfter når det kommer til AI. Noen sier at det vil løse alle problemer mens andre advarer om at det vil bringe verdens undergang slik vi kjenner den. Begge posisjonene spilles jevnlig ut i Hollywood-plotlinjer som Westworld, Carbon Black, Minoritetsrapport, Henne, og Ex machina . Disse historiene er overbevisende fordi de krever at vi som skapere og forbrukere av AI-teknologi bestemmer om vi stoler på et AI-system eller, mer presist, stoler på hva systemet gjør med informasjonen det har blitt gitt.
Dette innholdet ble produsert av Nuance. Den ble ikke skrevet av MIT Technology Reviews redaksjon.
Joe Petro er CTO i Nuance.
Disse historiene gir også en viktig lærdom for de av oss som bruker dagene våre på å designe og bygge AI-applikasjoner: tillit er en kritisk faktor for å avgjøre suksessen til en AI-applikasjon. Hvem vil samhandle med et system de ikke stoler på?
Den svarte boksen og å forstå det ukjente
Selv som en begynnende teknologi er AI utrolig kompleks og kraftig, og gir fordeler ved å utføre beregninger og oppdage mønstre i enorme datasett med hastighet og effektivitet. Men denne kraften, kombinert med black box-oppfatninger av AI og dens appetitt på brukerdata, introduserer mange variabler, ukjente og mulige utilsiktede konsekvenser. Skjult i praktiske applikasjoner av AI er det faktum at tillit kan ha en dyp effekt på brukerens oppfatning av systemet, så vel som de tilknyttede selskapene, leverandørene og merkene som bringer disse applikasjonene til markedet.
Fremskritt som allestedsnærværende sky- og edge-beregningskraft gjør AI mer kapabel og effektiv samtidig som det gjør det enklere og raskere å bygge og distribuere applikasjoner. Historisk har fokus vært på programvareutvikling og design av brukeropplevelse. Men det er ikke lenger et tilfelle av bare å designe et system som løser for x . Det er vårt ansvar å skape en engasjerende, personlig tilpasset, friksjonsfri og pålitelig opplevelse for hver bruker.
AI er datahungrig: Vit hva du mater den
Evnen til å gjøre dette vellykket er i stor grad avhengig av brukerdata. Systemytelse, pålitelighet og brukertillit til AI-modellutdata påvirkes like mye av kvaliteten på modelldesignet som dataene som legges inn i den. Data er drivstoffet som driver AI-motoren som praktisk talt konverterer den potensielle energien til brukerdata til kinetisk energi i form av praktisk innsikt og intelligent utgang. Akkurat som å fylle en Formel 1-racerbil med dårlig eller forurenset drivstoff vil redusere ytelsen, og førerens evne til å konkurrere, kan et AI-system trent med feil eller utilstrekkelig data gi unøyaktige eller uforutsigbare resultater som bryter brukertilliten. Når den først er brutt, er tillit vanskelig å gjenvinne. Det er grunnen til at strenge dataforvaltningspraksis fra AI-utviklere og -leverandører er avgjørende for å bygge effektive AI-modeller samt skape kundeaksept, -tilfredshet og -bevaring.
Ansvarlig dataforvaltning etablerer en tillitskjede som strekker seg fra forbrukere til selskapene som samler inn brukerdata og de av oss som bygger AI-drevne systemer. Det er vårt ansvar å kjenne til og forstå personvernlover og retningslinjer og vurdere sikkerhet og samsvar i den primære designfasen. Vi må ha en dyp forståelse av hvordan dataene brukes og hvem som har tilgang til dem. Vi må også oppdage og eliminere skjulte skjevheter i dataene gjennom omfattende testing.
Behandle brukerdata som proprietær 'kildekode'
Behandle brukerdata som sensitiv intellektuell eiendom (IP). Det er den proprietære kildekoden som brukes til å bygge AI-modeller som løser spesifikke problemer, skaper skreddersydde opplevelser og oppnår målrettede ønskede resultater. Disse dataene er utledet fra personlige brukerinteraksjoner, for eksempel samtaler mellom forbrukere og ringeagenter, leger og pasienter, og banker og kunder. Det er sensitivt fordi det skaper intime, svært detaljerte digitale brukerprofiler basert på privatøkonomisk, helsemessig, biometrisk og annen informasjon.
Brukerdata må beskyttes og brukes like nøye som enhver annen IP, spesielt for AI-systemer i sterkt regulerte bransjer som helsevesen og finansielle tjenester. Leger bruker AI-tale, naturlig språkforståelse og virtuelle samtaleagenter laget med pasienthelsedata for å dokumentere behandling og tilgang diagnostisk veiledning i sanntid . I bank- og finanstjenester behandler AI-systemer millioner av kundetransaksjoner og bruker biometriske stemmeavtrykk, øyebevegelser og atferdsdata (for eksempel hvor raskt du skriver, ordene du bruker, hvilken hånd du sveiper med) for å oppdage mulig svindel eller autentisere brukeridentiteter .
Både helsepersonell og bedrifter lager sin egen merkede digitale inngangsdør som gir effektive, personlige brukeropplevelser gjennom SMS, nett, telefon, video, apper og andre kanaler. Forbrukere velger også tidsbesparende sanntids digitale interaksjoner. Helsevesen og kommersielle organisasjoner ønsker med rette å kontrollere og sikre pasient- og kundeforhold og data i hver metode for digitalt engasjement for å bygge merkevarebevissthet, personlig tilpassede interaksjoner og lojalitet.
Hver AI-leverandør og -utvikler trenger ikke bare å være klar over den iboende sensitive naturen til brukerdata, men også behovet for å operere med høye etiske standarder for å bygge og opprettholde den nødvendige tillitskjeden.
Her er nøkkelspørsmål å vurdere:
Hvem har tilgang til dataene? Ha en klar og gjennomsiktig policy som inkluderer strenge beskyttelser som å begrense tilgangen til visse typer data, og forby videresalg eller tredjepartsdeling. De samme retningslinjene bør gjelde for skyleverandører eller andre utviklingspartnere.
Hvor lagres dataene, og hvor lenge? Spør hvor dataene bor (sky, kant, enhet) og hvor lenge de vil bli oppbevart. Implementeringen av EUs generelle databeskyttelsesforordning, California Consumer Privacy Act, og utsiktene til ytterligere statlig og føderal personvernbeskyttelse, bør gjøre datalagring og oppbevaringspraksis til toppen under AI-utvikling.
Hvordan defineres og deles fordeler? AI-applikasjoner må også testes med forskjellige datasett for å gjenspeile de tiltenkte applikasjonene i den virkelige verden, eliminere utilsiktet skjevhet og sikre pålitelige resultater.
Hvordan manifesterer dataene seg i systemet? Forstå hvordan data vil flyte gjennom systemet. Fås tilgang til og behandles sensitive data av et nevralt nett som en serie med 0-er og 1-er, eller lagres de i sin opprinnelige form med medisinsk eller personlig identifiserende informasjon? Etabler og følg passende retningslinjer for oppbevaring og sletting av data for hver type sensitive data.
Hvem kan realisere kommersiell verdi fra brukerdata? Vurder de potensielle konsekvensene av datadeling for formål utenfor det opprinnelige omfanget eller kilden til dataene. Redegjør for mulige fusjoner og oppkjøp, mulige oppfølgingsprodukter og andre faktorer.
Er systemet sikkert og kompatibelt? Design og bygg for personvern og sikkerhet først. Vurder hvordan åpenhet, brukersamtykke og systemytelse kan påvirkes gjennom hele produktets eller tjenestens livssyklus.
Realiteten til AI i aksjon
Biometriske applikasjoner bidrar til å forhindre svindel og forenkler autentisering. HSBCs VoiceID stemmebiometrisystem har forhindret tyveri av nesten 400 millioner pund (omtrent 493 millioner dollar) av telefonsvindlere i Storbritannia. Den sammenligner en persons stemmeavtrykk med tusenvis av individuelle taleegenskaper i en etablert stemmeregistrering for å bekrefte en brukers identitet. Andre selskaper bruker stemmebiometri for å validere identiteten til eksterne kundesenteransatte før de får tilgang til proprietære systemer og data. Behovet for slike tiltak øker etter hvert som forbrukerne gjennomfører flere digitale og telefonbaserte interaksjoner.
Intelligente applikasjoner leverer sikker, personlig tilpasset, digital-første kundeservice. Et globalt telekommunikasjonsselskap bruker konversasjons-AI for å skape konsistente, sikre og personlige kundeopplevelser på tvers av sin store og mangfoldige merkevareportefølje. Med kunder som i økende grad engasjerer seg på tvers av digitale kanaler, så selskapet til teknologipartnere for å utvide sin egen interne ekspertise samtidig som det sikret at det ville beholde kontrollen over dataene sine ved å distribuere en virtuell assistent for kundeservice.
En topp-tre-forhandler bruker stemmedrevet virtuell assistent-teknologi for å la kjøpere laste opp bilder av varer de har sett offline, og presenterer deretter varer som de kan vurdere å kjøpe basert på disse bildene.
Ambient AI-drevne kliniske applikasjoner forbedrer helseopplevelser samtidig som de lindrer utbrenthet hos lege. EmergeOrtho i North Carolina bruker Nuance Dragon Ambient eXperience (DAX)-applikasjon for å transformere hvordan dens ortopediske praksis over hele staten kan engasjere seg med pasienter og dokumentere omsorg. Den omgivende kliniske intelligens-telehelseapplikasjonen fanger nøyaktig hver lege-pasient-interaksjon i undersøkelsesrommet eller på en telehelsesamtale, og oppdaterer deretter automatisk pasientens helsejournal. Pasienter har legens fulle oppmerksomhet mens de effektiviserer det elektroniske papirarbeidet som leger må fylle ut for å få betalt for å levere omsorg.
AI-drevne bildediagnostiske systemer sikrer at pasientene får nødvendig oppfølgingsbehandling. Radiologer ved flere sykehus bruker kunstig intelligens og naturlig språkbehandling for automatisk å identifisere og trekke ut anbefalinger for oppfølgingsundersøkelser for mistenkte kreftformer og andre sykdommer sett på røntgenbilder og andre bilder. Den samme teknologien kan hjelpe til med å håndtere en bølge av etterslep og oppfølgingsbildebehandling ettersom covid-19-restriksjonene letter, slik at leverandørene kan planlegge prosedyrer, starte inntektsgjenvinning og opprettholde pasientbehandling.
Når den digitale transformasjonen akselererer, må vi løse utfordringene vi står overfor i dag, samtidig som vi forbereder oss på en overflod av fremtidige muligheter. I hjertet av denne innsatsen er forpliktelsen til å bygge tillit og dataforvaltning i våre AI-utviklingsprosjekter og organisasjoner.