211service.com
'Trustworthy AI' er et rammeverk for å hjelpe til med å håndtere unik risiko
'Trustworthy AI' er et rammeverk for å hjelpe til med å håndtere unik risiko
Levert av Deloitte AI Institute
Kunstig intelligens (AI)-teknologi fortsetter å utvikle seg med stormskritt og blir raskt en potensiell forstyrrer og viktig muliggjører for nesten alle selskaper i hver bransje. På dette stadiet er en av barrierene for utbredt AI-distribusjon ikke lenger selve teknologien; snarere er det et sett med utfordringer som ironisk nok er langt mer menneskelige: etikk, styresett og menneskelige verdier.
Irfan Saif er rektor i Deloitte Risk and Financial Advisory. Beena Ammanath er administrerende direktør i Deloitte Consulting LLP.
Ettersom AI utvides til nesten alle aspekter av det moderne livet, øker risikoen for å oppføre seg feil AI eksponentielt – til et punkt hvor disse risikoene bokstavelig talt kan bli et spørsmål om liv og død. Eksempler fra den virkelige verden på AI som har gått galt inkluderer systemer som diskriminerer mennesker basert på rase, alder eller kjønn, og sosiale mediesystemer som utilsiktet sprer rykter og desinformasjon og mer.
Enda verre, disse eksemplene er bare toppen av isfjellet. Ettersom kunstig intelligens blir distribuert i større skala, vil de tilknyttede risikoene sannsynligvis bare øke – potensielt ha alvorlige konsekvenser for samfunnet for øvrig, og enda større konsekvenser for de ansvarlige selskapene. Fra et forretningsperspektiv inkluderer disse potensielle konsekvensene alt fra søksmål, regulatoriske bøter og sinte kunder til forlegenhet, skade på omdømme og ødeleggelse av aksjonærverdier.
Men med AI som nå blir en nødvendig forretningsevne – ikke bare en fin å ha – har ikke selskaper lenger muligheten til å unngå AIs unike risikoer ved å unngå AI helt. I stedet må de lære å identifisere og håndtere AI-risikoer effektivt. For å oppnå potensialet for samarbeid mellom mennesker og maskiner, må organisasjoner kommunisere en plan for AI som tas i bruk og snakkes fra postrommet til styrerommet. Ved å ha et etisk rammeverk på plass, skaper organisasjoner et felles språk for å artikulere tillit og bidra til å sikre integriteten til data blant alle deres interne og eksterne interessenter. Å ha et felles rammeverk og linse for å anvende styring og styring av risikoer knyttet til AI konsekvent på tvers av virksomheten, kan muliggjøre raskere og mer konsekvent bruk av AI.
Det pålitelige AI-rammeverket
For å bedre møte utfordringene knyttet til AI-etikk og styring – hjelper det å utnytte et rammeverk. Deloittes Trustworthy AI-rammeverk introduserer seks nøkkeldimensjoner som, når de vurderes samlet i design-, utviklings-, distribusjons- og driftsfasene av AI-systemimplementering, kan bidra til å ivareta etikk og bygge en pålitelig AI-strategi.
Pålitelig AI-rammeverket er utviklet for å hjelpe bedrifter med å identifisere og redusere potensielle risikoer knyttet til AI-etikk på alle stadier av AI-livssyklusen. Her er en nærmere titt på hver av rammeverkets seks dimensjoner.
Det pålitelige AI-rammeverket
1. Rettferdig, ikke partisk
Pålitelig AI må være utformet og opplært til å følge en rettferdig, konsistent prosess og ta rettferdige avgjørelser. Den må også inkludere interne og eksterne kontroller for å redusere diskriminerende skjevhet.
Bias er en pågående utfordring for mennesker og samfunn, ikke bare AI. Utfordringen er imidlertid enda større for AI fordi den mangler en nyansert forståelse av sosiale standarder – for ikke å nevne den ekstraordinære generelle intelligensen som kreves for å oppnå sunn fornuft – som potensielt kan føre til beslutninger som er teknisk korrekte, men sosialt uakseptable. AI lærer av datasettene som brukes til å trene den, og hvis disse datasettene inneholder skjevheter fra den virkelige verden, kan AI-systemer lære, forsterke og forplante denne skjevheten i digital hastighet og skala.
For eksempel kan et AI-system som bestemmer på farten hvor de skal plassere jobbannonser på nett, urettferdig målrette annonser for høyere betalende jobber mot et nettsteds mannlige besøkende fordi de virkelige dataene viser at menn vanligvis tjener mer enn kvinner. På samme måte kan et finansselskap som bruker kunstig intelligens for å screene boliglånssøknader finne at algoritmen deres diskriminerer mennesker urettferdig basert på faktorer som ikke er sosialt akseptable, som rase, kjønn eller alder. I begge tilfeller kan selskapet som er ansvarlig for AI møte betydelige konsekvenser, inkludert regulatoriske bøter og omdømmeskade.
For å unngå problemer knyttet til rettferdighet og skjevhet, må bedrifter først finne ut hva som er rettferdig. Dette kan være mye vanskeligere enn det høres ut siden det for et gitt problem generelt ikke er noen enkelt definisjon av rettferdig som alle mennesker er enige om. Bedrifter må også aktivt se etter skjevheter i algoritmene og dataene deres, foreta de nødvendige justeringene og implementere kontroller for å sikre at ytterligere skjevheter ikke dukker opp uventet. Når skjevhet oppdages, må den forstås og deretter reduseres gjennom etablerte prosesser for å løse problemet og gjenoppbygge kundenes tillit.
AI kan ikke lenger behandles som en svart boks som mottar input og genererer utdata uten en klar forståelse av hva som foregår på innsiden.
2. Gjennomsiktig og forklarlig
For at AI skal være pålitelig, har alle deltakere rett til å forstå hvordan dataene deres brukes og hvordan AI tar beslutninger. AIs algoritmer, attributter og korrelasjoner må være åpne for inspeksjon, og beslutningene må være fullt ut forklarbare.
Ettersom beslutninger og prosesser som er avhengige av AI øker både i antall og viktighet, kan AI ikke lenger behandles som en svart boks som mottar input og genererer output uten en klar forståelse av hva som foregår på innsiden.
For eksempel er nettforhandlere som bruker kunstig intelligens til å gi produktanbefalinger til kunder, under press for å forklare algoritmene deres og hvordan anbefalingsbeslutninger tas. Tilsvarende står det amerikanske rettssystemet overfor pågående kontroverser om bruken av ugjennomsiktige AI-systemer for å informere om straffeutmålingsbeslutninger.
Viktige spørsmål å vurdere på dette området inkluderer å identifisere AI-brukstilfellene der åpenhet og forklaring er spesielt viktig, og deretter forstå hvilke data som brukes og hvordan beslutninger tas for disse brukstilfellene. Også når det gjelder åpenhet er det et økende press på informere folk eksplisitt når de samhandler med AI, i stedet for å ha AI maskeraden som en ekte person.
3. Ansvarlig og ansvarlig
Pålitelige AI-systemer må inkludere retningslinjer som tydelig fastslår hvem som er ansvarlig og ansvarlig for produksjonen deres. Å skylde på selve teknologien for dårlige beslutninger og feilberegninger er bare ikke godt nok – ikke for menneskene som blir skadet, og absolutt ikke for myndighetene. Dette er et nøkkelspørsmål som sannsynligvis bare vil bli viktigere ettersom AI brukes til et voksende utvalg av stadig mer kritiske applikasjoner som sykdomsdiagnose, formueforvaltning og autonom kjøring.
For eksempel, hvis et førerløst kjøretøy forårsaker en kollisjon, hvem er ansvarlig og ansvarlig for skaden? Sjåføren? Bileieren? Produsenten? AI-programmererne? Konsernsjefen?
På samme måte kan du vurdere eksemplet med et investeringsselskap som bruker en automatisert plattform drevet av AI for å handle på vegne av sine kunder. Hvis en klient investerer sparepengene sine gjennom firmaet og deretter mister alt på grunn av dårlige algoritmer, bør det være en mekanisme på plass for å identifisere hvem som er ansvarlig for problemet, og hvem som er ansvarlig for å gjøre ting riktig.
Nøkkelfaktorer å vurdere inkluderer hvilke lover og forskrifter som kan bestemme juridisk ansvar og hvorvidt AI-systemer er reviderbare og dekkes av eksisterende varslerlover. Også hvordan vil problemer kommuniseres til publikum og regulatorer, og hvilke konsekvenser vil de ansvarlige stå overfor?
4. Robust og pålitelig
For at AI skal oppnå utbredt bruk, må den være minst like robust og pålitelig som de tradisjonelle systemene, prosessene og menneskene den utvider eller erstatter.
For at AI skal anses som pålitelig, må den være tilgjengelig når den skal være tilgjengelig og må generere konsistente og pålitelige utdata – utføre oppgaver riktig under mindre enn ideelle forhold og når du møter uventede situasjoner og data. Pålitelig AI må skalere opp godt, forbli robust og pålitelig ettersom dens innvirkning utvides og vokser. Og hvis det mislykkes, må det mislykkes på en forutsigbar, forventet måte.
Tenk på eksemplet med et helseselskap som bruker kunstig intelligens til å identifisere unormale hjerneskanninger og foreskrive passende behandling. For å være pålitelig er det helt avgjørende for Al-algoritmene å produsere konsistente og pålitelige resultater siden liv kan stå på spill.
Bedrifter må vurdere og håndtere alle typer risikoer – eksterne, fysiske, digitale – og deretter kommunisere disse risikoene til brukerne.
For å oppnå AI som er robust og pålitelig, må bedrifter sikre at deres AI-algoritmer gir de riktige resultatene for hvert nye datasett. De trenger også etablerte prosesser for å håndtere problemer og inkonsekvenser hvis og når de oppstår. Den menneskelige faktoren er et kritisk element her: å forstå hvordan menneskelig input påvirker pålitelighet; bestemme hvem de rette personene er til å gi innspill; og sikre at disse menneskene er riktig utstyrt og trent – spesielt med hensyn til skjevheter og etikk.
5. Respekt for personvernet
Personvern er et kritisk problem for alle typer datasystemer, men det er spesielt kritisk for AI siden den sofistikerte innsikten som genereres av AI-systemer ofte stammer fra data som er mer detaljerte og personlige. Pålitelig AI må overholde dataforskrifter og kun bruke data til de oppgitte og avtalte formålene.
Spørsmålet om AI-personvern strekker seg ofte utover et selskaps egne vegger. For eksempel har personvernet til lyddata fanget av AI-assistenter skapt overskrifter i det siste, med kontroverser som har oppstått om i hvilken grad et selskaps leverandører og partnere gis tilgang til dataene, og om dataene skal deles med rettshåndhevelsesbyråer.
Bedrifter må vite hvilke kundedata som samles inn og hvorfor, og om dataene brukes på den måten kundene har forstått og avtalt. Kunder bør også gis det nødvendige nivået av kontroll over dataene sine, inkludert muligheten til melde deg på eller velge bort av å få dataene deres delt. Og hvis kunder har bekymringer om personvern, trenger de en mulighet til å gi uttrykk for disse bekymringene.
6. Trygg og sikker
For å være pålitelig må AI være beskyttet mot cybersikkerhetsrisikoer som kan føre til fysisk og/eller digital skade. Selv om sikkerhet og sikkerhet er helt klart viktig for alle datasystemer, er de spesielt avgjørende for AI på grunn av AIs store og økende rolle og innvirkning på aktiviteter i den virkelige verden.
For eksempel, hvis et AI-basert finanssystem blir hacket, kan resultatet bli skade på omdømmet og tapte penger eller data. Det er selvfølgelig alvorlige konsekvenser. De er imidlertid ikke på langt nær så alvorlige som de potensielle konsekvensene av at et AI-drevet kjøretøy blir hacket, noe som kan sette folks liv i fare.
Et annet eksempel på AI-cybersikkerhetsrisiko er et nylig datainnbrudd som involverer millioner av fingeravtrykk og ansiktsgjenkjenning . Dette bruddet var spesielt alvorlig fordi det involverte folks biometriske data, som er permanente og ikke kan endres (i motsetning til et stjålet passord eller annen standard type data som raskt og enkelt kan endres for å begrense skaden).
For å bidra til å sikre sikkerheten og sikkerheten til AI-systemene deres, må bedrifter grundig vurdere og adressere alle typer risikoer – eksterne, fysiske og digitale blant mange andre – og deretter kommunisere disse risikoene til brukerne. Selv om eksterne risikoer har en tendens til å få mest oppmerksomhet, kan interne risikoer som svindel være like alvorlige. For hver AI-brukstilfelle må bedrifter vurdere om de potensielle fordelene i tilstrekkelig grad oppveier de tilknyttede risikoene.
AI du kan stole på
AI-etikk dukker opp som den største enkeltutfordringen for fortsatt AI-fremgang og utbredt distribusjon – og det er en utfordring bedrifter ikke lenger kan ignorere nå som AI blir en viktig forretningsevne. Trustworthy AI-rammeverket tilbyr en strukturert og omfattende måte å tenke på AI-etikk på, og hjelper bedrifter med å designe, utvikle, distribuere og drifte AI-systemer de kan stole på.
For mer informasjon, besøk www.deloitte.com/us/trustai .