211service.com
AI kan gjøres juridisk ansvarlig for sine avgjørelser
Kunstig intelligens kommer til å spille en betydelig større rolle i samfunnet. Og det reiser spørsmålet om ansvarlighet. Hvis vi er avhengige av maskiner for å ta stadig viktigere beslutninger, må vi ha oppreisningsmekanismer dersom resultatene skulle vise seg å være uakseptable eller vanskelige å forstå.
Men å få AI-systemer til å forklare beslutningene sine er ikke helt enkelt. Et problem er at forklaringer ikke er gratis; de krever betydelige ressurser både i utviklingen av AI-systemet og måten det avhøres på i praksis.
En annen bekymring er at forklaringer kan avsløre forretningshemmeligheter ved å tvinge utviklere til å publisere AI-systemets indre funksjoner. En fordel med disse systemene er dessuten at de kan gi mening om komplekse data på måter som ikke er tilgjengelige for mennesker. Så å gjøre forklaringene deres forståelige for mennesker kan kreve en reduksjon i ytelsen.
Forklaringssystemer må være atskilt fra AI-systemer, sier Harvard-teamet
Hvordan skal vi da gjøre AI ansvarlig for sine beslutninger uten å kvele innovasjon?
I dag får vi et slags svar takket være arbeidet til Finale Doshi-Velez, Mason Kortz og andre ved Harvard University i Cambridge, Massachusetts. Disse menneskene er datavitere, kognitive forskere og juridiske forskere som sammen har utforsket de juridiske problemene som AI-systemer reiser, identifisert nøkkelproblemer og foreslått mulige løsninger. Sammen er vi eksperter på forklaring i loven, på opprettelsen av AI-systemer, og på mulighetene og begrensningene til menneskelig resonnement, sier de.
De begynner med å definere forklaring. Når vi snakker om en forklaring på en beslutning, mener vi generelt grunnene eller begrunnelsene for det bestemte utfallet, snarere enn en beskrivelse av beslutningsprosessen generelt, sier de.
Skillet er viktig. Doshi-Velez og co påpeker at det er mulig å forklare hvordan et AI-system tar beslutninger på samme måte som det er mulig å forklare hvordan tyngdekraften fungerer eller hvordan man baker en kake. Dette gjøres ved å legge ut reglene systemet følger, uten å referere til noen spesifikk fallende gjenstand eller kake.
Dette er frykten til industrifolk som ønsker å holde funksjonene til AI-systemene hemmelige for å beskytte sine kommersielle fordeler.
Men denne typen åpenhet er ikke nødvendig i mange tilfeller. Å forklare hvorfor en gjenstand falt i en arbeidsulykke, for eksempel, krever normalt ikke en forklaring på tyngdekraften. I stedet kreves det vanligvis forklaringer for å svare på spørsmål som disse: Hva var hovedfaktorene i en beslutning? Ville endring av en bestemt faktor ha endret beslutningen? Hvorfor førte to saker som så like ut til forskjellige avgjørelser?
Å svare på disse spørsmålene krever ikke nødvendigvis en detaljert forklaring av hvordan et AI-system fungerer.
Så når bør forklaringer gis? I hovedsak, når fordelen oppveier kostnadene. Vi finner at det er tre forhold som karakteriserer situasjoner der samfunnet anser at en beslutningstaker er forpliktet – moralsk, sosialt eller juridisk – til å gi en forklaring, sier Doshi-Velez og co.
Teamet sier at beslutningen må ha innvirkning på en annen person enn beslutningstakeren. Det må være verdi å vite om avgjørelsen er tatt feil. Og det må være noen grunn til å tro at det har oppstått (eller vil oppstå) en feil i beslutningsprosessen.
For eksempel kan observatører mistenke at en avgjørelse var påvirket av en eller annen irrelevant faktor, for eksempel at en kirurg nekter å utføre en operasjon på grunn av månefasen. Eller de kan mistro et system hvis det tok den samme avgjørelsen under to helt forskjellige sett med omstendigheter. I så fall kan de mistenke at det ikke har tatt hensyn til en viktig faktor. En annen bekymring oppstår med beslutninger som ser ut til å være til fordel for én gruppe urettferdig, som når bedriftsdirektører tar beslutninger som er til fordel for dem selv på bekostning av deres aksjonærer.
Det må med andre ord være god grunn til å mene en avgjørelse er utilbørlig før det kreves en forklaring. Men det kan også være andre grunner til å gi forklaringer, som å forsøke å øke tilliten til forbrukerne.
Så Doshi-Velez og co ser på konkrete juridiske situasjoner der det kreves forklaringer. De påpeker at fornuftige sinn kan og er forskjellige om det er moralsk forsvarlig eller sosialt ønskelig å kreve en forklaring. Lover på den annen side er kodifisert, og selv om man kan krangle om en lov er riktig, vet vi i det minste hva loven er, sier de.
I henhold til amerikansk lov kreves forklaringer i en lang rekke situasjoner og i varierende detaljnivå. Det kreves for eksempel forklaringer i saker om objektivt ansvar, skilsmisse eller diskriminering; for administrative vedtak; og for dommere og juryer. Men detaljnivået varierer enormt.
Alt dette har viktige implikasjoner for AI-systemer. Doshi-Velez og co konkluderer med at juridisk gjennomførbare forklaringer er mulige for AI-systemer. Dette er fordi forklaringen på en beslutning kan gjøres separat fra en beskrivelse av dens indre virkemåte. Dessuten sier teamet at et forklaringssystem bør betraktes som forskjellig fra AI-systemet.
Det er et betydelig resultat. Det betyr ikke at tilfredsstillende forklaringer alltid vil være enkle å generere. Hvordan kan vi for eksempel vise at et sikkerhetssystem som bruker bilder av et ansikt som input ikke diskriminerer på grunnlag av kjønn? Det er bare mulig å bruke et alternativt ansikt som er likt på alle måter bortsett fra kjønn, sier teamet.
Men forklaringer på beslutningene AI-systemer tar er generelt mulig. Og det fører laget til en klar konklusjon. Vi anbefaler at AI-systemer foreløpig kan og bør holdes til en lignende forklaringsstandard som mennesker er i dag, sier de.
Men vår bruk og forståelse av AI vil sannsynligvis endre seg på måter vi ennå ikke forstår (og kanskje aldri vil). Av den grunn må denne tilnærmingen revurderes. I fremtiden kan vi ønske å holde en AI til en annen standard, sier Doshi-Velez og co.
Ganske!
Ref: arxiv.org/abs/1711.01134 : Ansvarlighet for AI under loven: Forklaringens rolle