211service.com
Problemene AI har i dag går århundrer tilbake
Ari Liloan
I mars 2015 brøt det ut protester ved University of Cape Town i Sør-Afrika over campusstatuen av den britiske kolonialisten Cecil Rhodes. Rhodes, en gruvemagnat som hadde foræret landet som universitetet ble bygget på, hadde begått folkemord mot afrikanere og lagt grunnlaget for apartheid. Under samlingsbanneret til Rhodes Must Fall krevde studentene at statuen ble fjernet. Protestene deres utløste en global bevegelse for å utrydde den koloniale arven som består i utdanning.
Begivenhetene provoserte også Shakir Mohamed, en sørafrikansk AI-forsker ved DeepMind, til å reflektere over hvilke koloniale arv som også kan eksistere i forskningen hans. I 2018, akkurat da AI-feltet begynte å regne med problemer som algoritmisk diskriminering, skrev Mohamed et blogginnlegg med sine første tanker. I den oppfordret han forskere til å avkolonisere kunstig intelligens - for å reorientere feltets arbeid bort fra vestlige knutepunkter som Silicon Valley og engasjere nye stemmer, kulturer og ideer for å veilede teknologiens utvikling.
Nå i kjølvannet av fornyet rop for Rhodes Must Fall på Oxford Universitys campus, ansporet av George Floyds drap og den globale antirasismebevegelsen, har Mohamed har gitt ut en ny artikkel sammen med sin kollega William Isaac og Oxford PhD-kandidat Marie-Therese Png. Den utfyller Mohameds originale ideer med spesifikke eksempler på hvordan AI-utfordringer er forankret i kolonialismen, og presenterer strategier for å håndtere dem ved å gjenkjenne den historien.
Hvordan kolonialitet manifesterer seg i AI
Selv om historisk kolonialisme kan være over, eksisterer dens virkninger fortsatt i dag. Dette er hva lærde kaller kolonialitet: ideen om at dagens maktubalanser mellom raser, land, rike og fattige og andre grupper er forlengelser av maktubalansene mellom kolonisator og kolonisert.
Ta strukturell rasisme som eksempel. Europeere oppfant opprinnelig konseptet med raser og forskjellene mellom dem for å rettferdiggjøre den afrikanske slavehandelen og deretter koloniseringen av afrikanske land. I USA kan virkningene av den ideologien nå spores gjennom landets egen historie med slaveri, Jim Crow, og politibrutalitet.
På samme måte, hevder avisens forfattere, forklarer denne kolonihistorien noen av de mest urovekkende egenskapene og virkningene til AI. De identifiserer fem manifestasjoner av kolonialitet i feltet:
Algoritmisk diskriminering og undertrykkelse. Båndene mellom algoritmisk diskriminering og kolonial rasisme er kanskje de mest åpenbare: Algoritmer bygget for å automatisere prosedyrer og trent på data i et rasistisk urettferdig samfunn ender opp med å gjenskape disse rasistiske resultatene i resultatene deres. Men mye av stipendet på denne typen skade fra AI fokuserer på eksempler i USA. Å undersøke det i sammenheng med kolonialitet gir et globalt perspektiv: Amerika er ikke det eneste stedet med sosiale ulikheter. Det er alltid grupper som blir identifisert og utsatt, sier Isaac.
Spøkelsesarbeid. Fenomenet spøkelsesarbeid , det usynlige dataarbeidet som kreves for å støtte AI-innovasjon, utvider på en fin måte det historiske økonomiske forholdet mellom kolonisator og kolonisert. Mange tidligere amerikanske og britiske kolonier – Filippinene, Kenya og India – har blitt spøkelsesarbeidende knutepunkter for amerikanske og britiske selskaper. Landenes billige, engelsktalende arbeidsstyrker, som gjør dem til en naturlig egnethet for dataarbeid, eksisterer på grunn av deres kolonihistorie.
Betatesting. AI-systemer blir noen ganger prøvd ut på mer sårbare grupper før de implementeres for ekte brukere. Cambridge Analytica, for eksempel, betatestet sine algoritmer på de nigerianske og kenyanske valget i 2015 og 2017 før de brukte dem i USA og Storbritannia. Studier fant senere at disse eksperimentene aktivt forstyrret den kenyanske valgprosessen og uthulet sosial samhørighet. Denne typen testing gjenspeiler det britiske imperiets historiske behandling av koloniene som laboratorier for nye medisiner og teknologier.
AI-styring. De geopolitiske maktubalansene som kolonitiden etterlot seg, former også aktivt AI-styring. Dette har utspilt seg i det nylige hastverket med å utforme globale AI-etiske retningslinjer: utviklingsland i Afrika, Latin-Amerika og Sentral-Asia har i stor grad blitt utelatt fra diskusjonene, noe som har ført til at noen nekte å delta i internasjonale dataflytavtaler . Resultatet: utviklede land fortsetter å ha uforholdsmessig fordel av globale normer formet for deres fordel, mens utviklingsland fortsetter å falle lenger bak.
Internasjonal samfunnsutvikling. Til slutt påvirker de samme geopolitiske maktubalansene måten AI brukes til å hjelpe utviklingsland. AI for good eller AI for bærekraftig utviklingsinitiativer er ofte paternalistiske. De tvinger utviklingsland til å stole på eksisterende AI-systemer i stedet for å delta i å lage nye designet for deres egen kontekst.
Forskerne bemerker at disse eksemplene ikke er omfattende, men de viser hvor vidtrekkende koloniale arv er i global AI-utvikling. De binder også sammen det som virker som ulike problemer under én samlende avhandling. Det gjør oss i stand til en ny grammatikk og vokabular for å snakke om både hvorfor disse problemene betyr noe og hva vi skal gjøre for å tenke på og ta tak i disse problemene på lang sikt, sier Isaac.
Hvordan bygge dekolonial AI
Fordelen med å undersøke skadelige virkninger av AI gjennom denne linsen, hevder forskerne, er rammeverket det gir for å forutsi og redusere fremtidig skade. Png mener at det egentlig ikke er noe som heter utilsiktede konsekvenser – bare konsekvensene av blindsonene organisasjoner og forskningsinstitusjoner har når de mangler mangfoldig representasjon.
På denne måten foreslår forskerne tre teknikker for å oppnå dekolonial, eller mer inkluderende og gunstig, AI:
Kontekstbevisst teknisk utvikling. Først bør AI-forskere som bygger et nytt system vurdere hvor og hvordan det skal brukes. Arbeidet deres bør heller ikke ende med å skrive koden, men bør inkludere testing av den, støtte retningslinjer som legger til rette for riktig bruk, og organisere tiltak mot upassende.
Omvendt veiledning. For det andre bør de lytte til marginaliserte grupper. Et eksempel på hvordan du gjør dette er den spirende praksisen med deltakende maskinlæring , som søker å involvere de menneskene som er mest berørt av maskinlæringssystemer i deres design. Dette gir fagene en sjanse til å utfordre og diktere hvordan maskinlæringsproblemer rammes inn, hvilke data som samles inn og hvordan, og hvor de endelige modellene brukes.
Solidaritet. Marginaliserte grupper bør også gis støtte og ressurser til å sette i gang sitt eget AI-arbeid. Det eksisterer allerede flere samfunn av marginaliserte AI-utøvere, inkludert Deep Learning Indaba , Svart i AI , og Queer i AI , og deres arbeid bør forsterkes.
Siden de publiserte papiret, sier forskerne, har de sett overveldende interesse og entusiasme. Det signaliserer i hvert fall for meg at det er en mottakelighet for dette arbeidet, sier Isaac. Det føles som om dette er en samtale som samfunnet ønsker å begynne å engasjere seg i.