211service.com
Hvis AI skal hjelpe oss i en krise, trenger vi en ny type etikk
Ms Tech | Pixabay
Jess Whittlestone ved Leverhulme Center for the Future of Intelligence ved University of Cambridge og hennes kolleger publiserte en kommentar stykke i Nature Machine Intelligence denne uken og hevder at hvis kunstig intelligens kommer til å gjøre det hjelpe i en krise , vi trenger en ny, raskere måte å gjøre AI-etikk på, som de kaller etikk for at det haster.
JESS WHITTLESTONEFor Whittlestone betyr dette å forutse problemer før de oppstår, finne bedre måter å bygge sikkerhet og pålitelighet inn i AI-systemer, og vektlegge teknisk ekspertise på alle nivåer av teknologiens utvikling og bruk. I kjernen av disse anbefalingene er ideen om at etikk bare må bli en del av hvordan AI lages og brukes, snarere enn et tillegg eller ettertanke.
Til syvende og sist vil AI være raskere å distribuere når det er nødvendig hvis det er laget med etikk innebygd, hevder hun. Jeg ba henne fortelle meg hva dette betyr.
Dette intervjuet er redigert for lengde og klarhet.
Hvorfor trenger vi en ny type etikk for AI?
Med denne pandemien er vi plutselig i en situasjon der folk virkelig snakker om hvorvidt AI kan være nyttig, om det kan redde liv. Men krisen har gjort det klart at vi ikke har robuste nok etiske prosedyrer til at AI kan distribueres trygt, og absolutt ikke de som kan implementeres raskt.
Hva er galt med den etikken vi har?
Jeg brukte de siste par årene på å gjennomgå AI-etiske initiativer, se på begrensningene deres og spørre hva mer vi trenger. Sammenlignet med noe som biomedisinsk etikk, er ikke etikken vi har for AI veldig praktisk. Den fokuserer for mye på prinsipper på høyt nivå. Vi kan alle være enige om at AI bør brukes for godt. Men hva betyr det egentlig? Og hva skjer når prinsipper på høyt nivå kommer i konflikt?
For eksempel har AI potensial til å redde liv, men dette kan gå på bekostning av sivile friheter som personvern. Hvordan adresserer vi disse avveiningene på måter som er akseptable for mange forskjellige mennesker? Vi har ikke funnet ut hvordan vi skal håndtere de uunngåelige uenighetene.
AI-etikk har også en tendens til å reagere på eksisterende problemer i stedet for å forutse nye. De fleste av problemene som folk diskuterer i dag rundt algoritmisk skjevhet dukket opp bare når høyprofilerte ting gikk galt, for eksempel med vedtak om politiarbeid og prøveløslatelse.
Men etikken må være proaktiv og forberede seg på det som kan gå galt, ikke det som allerede har gått galt. Det er klart at vi ikke kan forutsi fremtiden. Men etter hvert som disse systemene blir kraftigere og blir brukt i flere høyinnsatsdomener, vil risikoen bli større.
Hvilke muligheter har vi gått glipp av ved å ikke ha disse prosedyrene på plass?
Det er lett å overhype hva som er mulig, og AI kom sannsynligvis aldri til å spille en stor rolle i denne krisen. Maskinlæringssystemer er ikke modne nok.
Men det er en håndfull tilfeller der AI blir testet for medisinsk diagnose eller for ressursallokering på tvers av sykehus. Vi kunne kanskje ha vært i stand til å bruke den slags systemer mer utbredt, og redusere noe av belastningen på helsevesenet, hvis de hadde vært designet fra starten med etikk i tankene.
Spesielt med ressursallokering er det du som bestemmer hvilke pasienter som er høyest prioritert. Du trenger et etisk rammeverk innebygd før du bruker AI for å hjelpe deg med slike beslutninger.
Så er etikk for haster bare en oppfordring for å gjøre eksisterende AI-etikk bedre?
Det er en del av det. Det faktum at vi ikke har robuste, praktiske prosesser for AI-etikk gjør ting vanskeligere i et krisescenario. Men i tider som denne har man også større behov for åpenhet. Folk snakker mye om mangelen på åpenhet med maskinlæringssystemer som svarte bokser. Men det er en annen form for åpenhet, når det gjelder hvordan systemene brukes.
Dette er spesielt viktig i en krise, når regjeringer og organisasjoner tar hastebeslutninger som innebærer avveininger. Hvem sin helse prioriterer du? Hvordan redder du liv uten å ødelegge økonomien? Hvis en AI blir brukt i offentlig beslutningstaking, er åpenhet viktigere enn noen gang.
Hva må endres?
Vi må tenke etikk annerledes. Det bør ikke være noe som skjer på siden eller etterpå - noe som bremser deg. Det burde rett og slett være en del av hvordan vi bygger disse systemene i utgangspunktet: etikk ved design.
Noen ganger føler jeg at etikk er feil ord. Det vi sier er at maskinlæringsforskere og ingeniører må opplæres til å tenke gjennom implikasjonene av det de bygger, enten de driver med grunnleggende forskning som å designe en ny forsterkningslæringsalgoritme eller noe mer praktisk som å utvikle en søknad om helsetjenester. Hvis arbeidet deres finner veien til produkter og tjenester i den virkelige verden, hvordan kan det se ut? Hva slags problemer kan det reise?
Noe av dette har allerede startet. Vi jobber med noen AI-forskere i tidlig karriere, og snakker med dem om hvordan de kan bringe denne tankegangen til arbeidet deres. Det er litt av et eksperiment, for å se hva som skjer. Men selv NeurIPS [en ledende AI-konferanse] ber nå forskere om å inkludere en uttalelse på slutten av artikler som skisserer potensielle samfunnsmessige konsekvenser av arbeidet deres.
Du har sagt at vi trenger folk med teknisk ekspertise på alle nivåer av AI-design og bruk. Hvorfor det?
Jeg sier ikke at teknisk ekspertise er etikkens ende, men det er et perspektiv som må representeres. Og jeg vil ikke høres ut som om jeg sier at alt ansvaret ligger på forskere, fordi mange av de viktige avgjørelsene om hvordan AI blir brukt tas lenger opp i kjeden, av industrien eller av myndigheter.
Men jeg er bekymret for at menneskene som tar disse avgjørelsene ikke alltid forstår hvordan det kan gå galt. Så du må involvere folk med teknisk ekspertise. Våre intuisjoner om hva AI kan og ikke kan gjøre er ikke særlig pålitelige.
Det du trenger på alle nivåer av AI-utvikling er folk som virkelig forstår detaljene i maskinlæring for å jobbe med folk som virkelig forstår etikk. Tverrfaglig samarbeid er imidlertid vanskelig. Folk med ulike kompetanseområder snakker ofte om ting på ulike måter. Hva en maskinlærende forsker mener med personvern kan være veldig forskjellig fra hva en advokat mener med personvern, og du kan ende opp med at folk snakker forbi hverandre. Derfor er det viktig for disse ulike gruppene å venne seg til å jobbe sammen.
Du presser på for en ganske stor institusjonell og kulturell overhaling. Hva får deg til å tro at folk vil gjøre dette i stedet for å sette opp etiske styrene eller tilsynskomiteer – som alltid får meg til å sukke litt fordi de har en tendens til å være tannløse?
Ja, jeg sukker også. Men jeg tror denne krisen tvinger folk til å se viktigheten av praktiske løsninger. Kanskje i stedet for å si: Å, la oss ha dette tilsynsstyret og det tilsynsstyret, vil folk si: Vi må få dette gjort, og vi må få det gjort ordentlig.