Hva kan AI-eksperter lære av buddhismen? En ny tilnærming til maskinlæringsetikk har som mål å finne ut

Kategori: Kunstig intelligens Lagt ut 15. desember

Raske fremskritt innen kunstig intelligens har skapt en rekke nyere initiativ som tar sikte på å overbevise ingeniører, programmerere og andre til å prioritere etiske hensyn i arbeidet sitt – men nesten alle har sin opprinnelse i rike vestlige land. En innsats fra den enorme ingeniørforeningen IEEE prøver nå å endre det, med sitt eget AI-etiske forslag som den sier vil være et globalt, flerspråklig samarbeid.

Bare i løpet av de siste to årene har en rekke nye anstrengelser for å utforske etikk innen AI lansert, inkludert den Elon Musk-støttede ideelle organisasjonen OpenAI , bedriftsalliansen Partnership on AI , Carnegie Mellon Universitys AI-etikkforskningssenter og Ethics & Society-forskningen enhet hos Googles AI-datterselskap DeepMind.

Men de fleste av disse prosjektene er basert i USA eller Storbritannia, ledes av en liten gruppe forskere, og utsteder oppdateringer kun på engelsk, noe som kan begrense deres evne til å fremme AI som kommer hele menneskeheten til gode, ikke bare de i utviklede land.

Siden 2016 har en gruppe kalt IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonome Systems har skrevet et dokument kalt Ethically Aligned Design som anbefaler samfunnsmessige og politiske retningslinjer for teknologier som chatbots og hjemmeroboter. Denne uken avduket gruppen en oppdatert versjon av dokumentet som integrerer tilbakemeldinger fra folk i Øst-Asia, Latin-Amerika, Midtøsten og andre regioner.

Mange av disse kommentarene kom fra medlemmer som initiativet ble rekruttert fra Brasil, Kina, Iran, Israel, Japan, Korea, Mexico, den russiske føderasjonen og Thailand i år. Gruppen teller nå rundt 250 personer over hele verden og fortsetter å vokse, ifølge leder av eksekutivkomiteen Raja Chatila.

Disse internasjonale medlemmene oversatte deler av dokumentet til deres morsmål slik at det kunne sirkuleres bredt i deres land, og de sendte rapporter om tilstanden til AI-etikk i sine regioner til initiativets eksekutivkomité.

For å diversifisere synspunktene ytterligere, opprettet initiativet en klassisk etikkkomité for å identifisere ikke-vestlige verdisystemer, som buddhisme eller konfucianisme, som kunne innlemmes i dokumentets etiske retningslinjer. Gruppen ba også om tilbakemeldinger fra oppsøkende organisasjoner, som AI4All , som lærer kvinner og fargede personer om AI.

Det er ennå ikke klart hvordan initiativet vil blande disse forskjellige tradisjonene og synspunktene – den endelige versjonen vil ikke bli publisert før i 2019 – men gruppen har noen foreløpige ideer. Å sitere den buddhistiske troen på at ingenting eksisterer isolert kan minne AI-designere om at de har ansvaret for systemene de lager, for eksempel. På samme måte kan det å lære utviklere om den filosofiske tradisjonen sør for Sahara Ubuntu, som understreker verdien av fellesskap, få dem til å jobbe tett både med etikere og målgruppen for å finne ut om deres behov er identifisert og dekket, i henhold til den nyeste versjonen av dokument.

Til tross for alvoret, er det ingen garanti for at satsingen vil gi resultater. Som andre etiske retningslinjer for kunstig intelligens i arbeid, gir Ethically Aligned Design bare anbefalinger; den har ingen mulighet til å håndheve forslagene sine. Men økende bevissthet om måtene AI kan diskriminere brukere på hvis designere ikke tar hensyn til mangfold – og økende forbrukerkrav om ansvarlighet – peker på verdien av å tenke globalt når de formulerer etiske prinsipper for AI.