211service.com
Å gi algoritmer en følelse av usikkerhet kan gjøre dem mer etiske
Algoritmer er best til å forfølge et enkelt matematisk mål - men mennesker vil ofte ha flere uforenlige ting. 18. januar 2019
Ms. Tech
Algoritmer brukes i økende grad for å ta etiske beslutninger. Det kanskje beste eksemplet på dette er et høyteknologisk perspektiv på det etiske dilemmaet kjent som tralleproblemet: hvis en selvkjørende bil ikke kan stoppe seg selv fra å drepe en av to fotgjengere, hvordan skal bilens kontrollprogramvare velge hvem som lever og hvem som dør ?
I virkeligheten er ikke denne gåten en veldig realistisk skildring av hvordan selvkjørende biler oppfører seg. Men mange andre systemer som allerede er her eller ikke er langt unna, vil måtte gjøre alle mulige reelle etiske avveininger. Vurderingsverktøy som i dag brukes i strafferettssystemet må vurdere risikoer for samfunnet mot skader på enkelttiltalte; autonome våpen må veie soldaters liv opp mot sivile.
Problemet er at algoritmer aldri ble utviklet for å håndtere slike vanskelige valg. De er bygget for å forfølge ett enkelt matematisk mål, for eksempel å maksimere antallet soldaters liv reddet eller minimere antallet sivile dødsfall. Når du begynner å håndtere flere, ofte konkurrerende, mål eller prøver å gjøre rede for immaterielle ting som frihet og velvære, finnes det ikke alltid en tilfredsstillende matematisk løsning.
Vi som mennesker vil ha flere uforenlige ting, sier Peter Eckersley, forskningsdirektør for Partnership on AI, som nylig ga ut en papir som utforsker dette problemet. Det er mange situasjoner med høy innsats der det faktisk er upassende – kanskje farlig – å programmere i en enkelt objektiv funksjon som prøver å beskrive din etikk.
Disse løsningsløse dilemmaene er ikke spesifikke for algoritmer. Etikere har studert dem i flere tiår og omtaler dem som umulighetsteoremer. Så da Eckersley først gjenkjente deres anvendelser til kunstig intelligens, lånte han en idé direkte fra etikkfeltet for å foreslå en løsning: hva om vi bygget usikkerhet inn i algoritmene våre?
Vi tar beslutninger som mennesker på ganske usikre måter mye av tiden, sier han. Vår oppførsel som moralske vesener er full av usikkerhet. Men når vi prøver å ta den etiske oppførselen og bruke den i AI, har den en tendens til å bli konkretisert og gjort mer presis. I stedet, foreslår Eckersley, hvorfor ikke eksplisitt utforme algoritmene våre for å være usikre på hva som er riktig å gjøre?
Eckersley legger frem to mulige teknikker for å uttrykke denne ideen matematisk. Han begynner med premisset om at algoritmer typisk er programmert med klare regler om menneskelige preferanser. Vi må for eksempel fortelle det at vi definitivt foretrekker vennlige soldater fremfor vennlige sivile, og vennlige sivile fremfor fiendtlige soldater – selv om vi faktisk ikke var sikre eller ikke trodde at det alltid burde være tilfelle. Algoritmenes design gir lite rom for usikkerhet.
Den første teknikken, kjent som delvis bestilling, begynner å introdusere bare den minste usikkerhet. Du kan programmere algoritmen til å foretrekke vennlige soldater fremfor fiendtlige soldater og vennlige sivile fremfor fiendtlige soldater, men du vil ikke spesifisere en preferanse mellom vennlige soldater og vennlige sivile.
I den andre teknikken, kjent som usikker rekkefølge, har du flere lister over absolutte preferanser, men hver enkelt har en sannsynlighet knyttet til seg. Tre fjerdedeler av tiden foretrekker du kanskje vennlige soldater fremfor vennlige sivile fremfor fiendtlige soldater. En fjerdedel av tiden foretrekker du kanskje vennlige sivile fremfor vennlige soldater fremfor fiendtlige soldater.
Algoritmen kan håndtere denne usikkerheten ved å beregne flere løsninger og deretter gi mennesker en meny med alternativer med tilhørende avveininger, sier Eckersley. Si at AI-systemet var ment å hjelpe med å ta medisinske avgjørelser. I stedet for å anbefale en behandling fremfor en annen, kan den presentere tre mulige alternativer: en for å maksimere pasientens levetid, en annen for å minimere pasientens lidelse, og en tredje for å minimere kostnadene. La systemet være eksplisitt usikker, sier han, og gi dilemmaet tilbake til menneskene.
Carla Gomes, professor i informatikk ved Cornell University, har eksperimentert med lignende teknikker i arbeidet sitt. I ett prosjekt har hun utviklet et automatisert system for å evaluere virkningen av nye vannkraftdamprosjekter i Amazonas-bassenget. Demningene gir en kilde til ren energi. Men de endrer også deler av elven dypt og forstyrrer dyrelivets økosystemer.
Dette er et helt annet scenario fra autonome biler eller andre [vanlige refererte etiske dilemmaer], men det er en annen setting der disse problemene er reelle, sier hun. Det er to motstridende mål, så hva bør du gjøre?
Det overordnede problemet er veldig sammensatt, legger hun til. Det vil kreve en del forskning for å løse alle problemer, men Peters tilnærming tar et viktig skritt i riktig retning.
Det er et problem som bare vil vokse med vår avhengighet av algoritmiske systemer. Flere og flere, kompliserte systemer krever at AI er ansvarlig, sier Roman V. Yampolskiy, førsteamanuensis i informatikk ved University of Louisville. Ingen enkelt person kan forstå kompleksiteten til, du vet, hele aksjemarkedet eller militære responssystemer. Så vi har ikke noe annet valg enn å gi fra oss noe av kontrollen vår til maskiner.
En tidligere versjon av denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, abonner her gratis.