211service.com
AI-etikkgrupper gjentar en av samfunnets klassiske feil
Getty
Internasjonale organisasjoner og selskaper kjemper for å utvikle globale retningslinjer for etisk bruk av kunstig intelligens. Erklæringer, manifester og anbefalinger flommer over internett. Men disse anstrengelsene vil være nytteløse hvis de ikke tar hensyn til de kulturelle og regionale kontekstene AI opererer i.
AI-systemer har gjentatte ganger vist seg å forårsake problemer som uforholdsmessig påvirker marginaliserte grupper mens de er til fordel for noen få privilegerte. Den globale AI-etiske innsatsen som pågår i dag – som det er dusinvis av – tar sikte på å hjelpe alle til å dra nytte av denne teknologien, og forhindre at den forårsaker skade. Generelt sett gjør de dette ved å lage retningslinjer og prinsipper for utviklere, finansierere og regulatorer å følge. De kan for eksempel anbefale rutinemessige interne revisjoner eller kreve beskyttelse for brukernes personlig identifiserbare informasjon.
Vi tror disse gruppene er velmenende og gjør et verdifullt arbeid. AI-fellesskapet bør faktisk bli enige om et sett med internasjonale definisjoner og konsepter for etisk AI. Men uten mer geografisk representasjon vil de produsere en global visjon for AI-etikk som gjenspeiler perspektivene til mennesker i bare noen få regioner i verden, spesielt Nord-Amerika og Nordvest-Europa.
Dette arbeidet er ikke enkelt eller greit. Rettferdighet, personvern og skjevhet betyr forskjellige ting (pdf) på forskjellige steder. Folk har også ulike forventninger til disse konseptene avhengig av deres egne politiske, sosiale og økonomiske realiteter. Utfordringene og risikoene som AI utgjør, varierer også avhengig av hvor man befinner seg.
Hvis organisasjoner som jobber med global AI-etikk ikke klarer å erkjenne dette, risikerer de å utvikle standarder som i beste fall er meningsløse og ineffektive på tvers av alle verdens regioner. I verste fall vil disse mangelfulle standardene føre til flere AI-systemer og verktøy som opprettholder eksisterende skjevheter og er ufølsomme for lokale kulturer.
I 2018, for eksempel, var Facebook trege med å handle på feilinformasjon sprer seg i Myanmar som til slutt førte til brudd på menneskerettighetene. En vurdering (pdf) betalt av selskapet fant ut at dette tilsynet delvis skyldtes Facebooks retningslinjer for fellesskapet og retningslinjer for innholdsmoderering, som ikke klarte å adressere landets politiske og sosiale realiteter.
Det er en klar mangel på regionalt mangfold i mange AI-rådgivende styrer, ekspertpaneler og råd.
For å forhindre slike overgrep, må selskaper som jobber med etiske retningslinjer for AI-drevne systemer og verktøy engasjere brukere fra hele verden for å bidra til å lage passende standarder for å styre disse systemene. De må også være klar over hvordan deres politikk gjelder i ulike sammenhenger.
Til tross for risikoen, er det en klar mangel på regionalt mangfold i mange AI-rådgivende styrer, ekspertpaneler og råd utnevnt av ledende internasjonale organisasjoner. De ekspertrådgivningsgruppe for Unicefs AI for Children-prosjekt har for eksempel ingen representanter fra regioner med høyeste konsentrasjon av barn og unge voksne, inkludert Midtøsten, Afrika og Asia.
Dessverre, slik det er i dag, er hele feltet innen AI-etikk i alvorlig fare for å begrense seg til språk, ideer, teorier og utfordringer fra en håndfull regioner – først og fremst Nord-Amerika, Vest-Europa og Øst-Asia.
Denne mangelen på regionalt mangfold gjenspeiler nåtiden konsentrasjon av AI-forskning (pdf) : 86 % av artikler publisert på AI-konferanser i 2018 ble tilskrevet forfattere i Øst-Asia, Nord-Amerika eller Europa. Og færre enn 10 % av referansene oppført i AI-artikler publisert i disse regionene er til artikler fra en annen region. Patenter er også svært konsentrerte: 51 % av AI-patenter publisert i 2018 ble tilskrevet Nord-Amerika.
De av oss som jobber med AI-etikk vil gjøre mer skade enn gagn hvis vi lar feltets mangel på geografisk mangfold definere vår egen innsats. Hvis vi ikke er forsiktige, kan vi ende opp med å kodifisere AIs historiske skjevheter til retningslinjer som fordreier teknologien i generasjoner fremover. Vi må begynne å prioritere stemmer fra lav- og mellominntektsland ( spesielt t slange i Global Sør ) og de fra historisk marginaliserte samfunn.
Fremskritt innen teknologi har ofte vært til fordel for Vesten, samtidig som den har forverret økonomisk ulikhet, politisk undertrykkelse og miljøødeleggelse andre steder. Å inkludere ikke-vestlige land i AI-etikk er den beste måten å unngå å gjenta dette mønsteret på.
Relatert historie
Deltakelsesvask kan bli den neste farlige kjepphest innen maskinlæring Mange mennesker deltar allerede i feltets arbeid uten anerkjennelse eller lønn.Den gode nyheten er at det er mange eksperter og ledere fra underrepresenterte regioner å inkludere i slike rådgivende grupper. Imidlertid ser det ut til at mange internasjonale organisasjoner ikke prøver veldig hardt for å be om deltakelse fra disse menneskene. Den nyopprettede Global AI Ethics Consortium , for eksempel, har ingen grunnleggende medlemmer som representerer akademiske institusjoner eller forskningssentre fra Midtøsten, Afrika eller Latin-Amerika. Denne utelatelsen er et sterkt eksempel på koloniale mønstre (pdf) gjentar seg selv.
Hvis vi skal bygge etiske, trygge og inkluderende AI-systemer i stedet for å engasjere oss i etikk vask , må vi først bygge tillit til de som historisk sett har blitt skadet av de samme systemene. Det starter med meningsfylt engasjement.
På Montreal AI Ethics Institute , der vi begge jobber, prøver vi å ta en annen tilnærming. Vi arrangerer digitale AI-etikkmøter, som er åpne diskusjoner som alle med internettforbindelse eller telefon kan bli med på. Under disse hendelsene har vi koblet til en mangfoldig gruppe individer, fra en professor bosatt i Macau til en universitetsstudent som studerer i Mumbai.
I mellomtiden har grupper som Partnership on AI, som anerkjenner mangelen på geografisk mangfold i AI bredere, anbefalte endringer til visumlover og foreslåtte retningslinjer som gjør det lettere for forskere å reise og dele arbeidet sitt. Maskhane , en grasrotorganisasjon, samler forskere fra Afrika som behandler naturlig språk for å styrke maskinoversettelsesarbeid som har neglisjert ikke-dominerende språk.
Det er oppmuntrende å se internasjonale organisasjoner som prøver å inkludere flere forskjellige perspektiver i diskusjonene om kunstig intelligens. Det er viktig for oss alle å huske at regionalt og kulturelt mangfold er nøkkelen til enhver samtale om AI-etikk. Å gjøre ansvarlig AI til normen, snarere enn unntaket, er umulig uten stemmene til folk som ikke allerede har makt og innflytelse.
TIL bhishek Gupta er grunnleggeren av Montreal AI Ethics Institute og en maskinlæringsingeniør hos Microsoft, hvor han sitter i CSE Responsible AI Board. Victoria Heath er forsker ved Montreal AI Ethics Institute og seniorforsker ved NATO Association of Canada .