Slutt å snakk om AI-etikk. Det er på tide å snakke om makt.

Kapittelillustrasjoner fra Atlas of AI

Vladan Joler





På begynnelsen av 1900-tallet tok en tysk hest Europa med storm. Smart Hans, som han ble kjent, kunne tilsynelatende utføre alle slags triks som tidligere var begrenset til mennesker. Han kunne legge til og trekke fra tall, fortelle tid og lese en kalender, til og med stave ord og setninger – alt ved å stemple svaret med en hov. A var ett trykk; B var to; 2+3 var fem. Han var en internasjonal sensasjon – og et bevis, mente mange, på at dyr kunne læres å resonnere like godt som mennesker.

Problemet var at smarte Hans egentlig ikke gjorde noen av disse tingene. Som etterforskerne senere oppdaget, hadde hesten lært å gi det riktige svaret ved å observere endringer i spørsmålsstillernes holdning, pust og ansiktsuttrykk. Hvis spørsmålsstilleren sto for langt unna, ville Hans miste evnene. Hans intelligens var bare en illusjon.

Denne historien brukes som en advarende historie for AI-forskere når de evaluerer egenskapene til algoritmene deres. Et system er ikke alltid så intelligent som det ser ut til. Pass på å måle den riktig.



GJENNOM KATE CRAWFORD

Men i hennes nye bok, Atlas over AI , snur ledende AI-forsker Kate Crawford denne moralen på hodet. Problemet, skriver hun, var med måten folk definerte Hans prestasjoner: Hans utførte allerede bemerkelsesverdige bragder med kommunikasjon mellom arter, offentlig ytelse og betydelig tålmodighet, men disse ble ikke anerkjent som intelligens.

Så begynner Crawfords utforskning av historien til kunstig intelligens og dens innvirkning på vår fysiske verden. Hvert kapittel forsøker å utvide vår forståelse av teknologien ved å avsløre hvor snevert vi har sett på og definert den.

Crawford gjør dette ved å ta oss med på en global reise, fra gruvene der de sjeldne jordartelementene som brukes i datamaskinproduksjonen blir utvunnet til Amazons oppfyllelsessentre der menneskekropper har blitt mekanisert i selskapets nådeløse streben etter vekst og profitt. I kapittel én forteller hun at hun kjørte en varebil fra hjertet av Silicon Valley til et lite gruvesamfunn i Nevadas Clayton Valley. Der undersøker hun de destruktive miljøpraksisene som kreves for å skaffe litiumet som driver verdens datamaskiner. Det er en kraftfull illustrasjon av hvor nær disse to stedene er i det fysiske rommet, men hvor langt fra hverandre de er i rikdom.



Ved å forankre analysen hennes i slike fysiske undersøkelser, fjerner Crawford den eufemistiske rammen om at kunstig intelligens rett og slett er effektiv programvare som kjører i skyen. Hennes nærbilde, levende beskrivelser av jorden og arbeidskraft AI er bygget på, og de dypt problematiske historiene bak, gjør det umulig å fortsette å snakke om teknologien rent abstrakt.

I kapittel fire, for eksempel, tar Crawford oss ​​med på en annen tur – denne gjennom tid i stedet for rom. For å forklare historien til feltets besettelse av klassifisering, besøker hun Penn Museum i Philadelphia, hvor hun stirrer på rader og rader med menneskehodeskaller.

Hodeskallene ble samlet av Samuel Morton, en amerikansk kraniolog fra 1800-tallet, som mente det var mulig å objektivt dele dem inn i de fem verdensrasene ved hjelp av deres fysiske mål: afrikansk, indianer, kaukasisk, malaysisk og mongolsk. Crawford trekker paralleller mellom Mortons arbeid og de moderne AI-systemene som fortsetter å klassifisere verden i faste kategorier.



Disse klassifiseringene er langt fra objektive, argumenterer hun. De pålegger en sosial orden, naturaliserer hierarkier og forstørrer ulikheter. Sett gjennom dette objektivet kan AI ikke lenger betraktes som en objektiv eller nøytral teknologi.

I sin 20 år lange karriere har Crawford kjempet mot de virkelige konsekvensene av store datasystemer, maskinlæring og kunstig intelligens. I 2017, sammen med Meredith Whittaker, grunnla hun forskningsinstituttet AI Now som en av de første organisasjonene dedikert til å studere de sosiale implikasjonene av disse teknologiene. Hun er også nå professor ved USC Annenberg, i Los Angeles, og den første besøkslederen i AI og rettferdighet ved École Normale Supérieure i Paris, samt senior rektor ved Microsoft Research.

For fem år siden, sier Crawford, jobbet hun fortsatt med å introdusere ideen om at data og AI ikke var nøytrale. Nå har samtalen utviklet seg, og AI-etikken har blomstret opp i sitt eget felt. Hun håper boken hennes vil hjelpe den til å modnes enda mer.



Jeg satte meg ned med Crawford for å snakke om boken hennes.

Følgende er redigert for lengde og klarhet.

Hvorfor valgte du å gjøre dette bokprosjektet, og hva betyr det for deg?

Crawford: Så mange av bøkene som er skrevet om kunstig intelligens snakker egentlig bare om svært snevre tekniske prestasjoner. Og noen ganger skriver de om AIs store menn, men det er egentlig alt vi har hatt når det gjelder å kjempe med hva kunstig intelligens er.

Jeg tror det har produsert denne veldig skjeve forståelsen av kunstig intelligens som rent tekniske systemer som på en eller annen måte er objektive og nøytrale, og – som Stuart Russell og Peter Norvig sier i læreboken deres -som intelligente agenter som tar den beste avgjørelsen av enhver mulig handling.

Jeg ønsket å gjøre noe helt annet: å virkelig forstå hvordan kunstig intelligens er laget i vid forstand. Dette betyr å se på naturressursene som driver den, energien den forbruker, den skjulte arbeidskraften langs hele forsyningskjeden, og de enorme datamengdene som trekkes ut fra hver plattform og enhet vi bruker hver dag.

Relatert historie

Deepfake Amazon-arbeidere sår forvirring på Twitter. Det er ikke problemet.

Beretningene er sannsynligvis bare parodier, ikke en del av en skummel bedriftsstrategi, men de illustrerer hva slags ting som kan skje en dag.

Ved å gjøre det ønsket jeg virkelig å åpne opp denne forståelsen av AI som verken kunstig eller intelligent. Det er motsatte av kunstig. Det kommer fra de mest materielle delene av jordskorpen og fra menneskekropper som arbeider, og fra alle gjenstandene som vi produserer og sier og fotograferer hver dag. Det er heller ikke intelligent. Jeg tror det er denne store arvesynden i feltet, der folk antok at datamaskiner på en eller annen måte er som menneskehjerner, og hvis vi bare trener dem som barn, vil de sakte vokse til disse overnaturlige vesenene.

Det er noe jeg synes er veldig problematisk - at vi har kjøpt denne ideen om intelligens når vi faktisk bare ser på former for statistisk analyse i stor skala som har like mange problemer som dataene den er gitt.

Var det umiddelbart åpenbart for deg at det er slik folk burde tenke om AI? Eller var det en reise?

Det har absolutt vært en reise. Jeg vil si at et av vendepunktene for meg var tilbake i 2016, da jeg startet et prosjekt kalt Anatomien til et AI-system med Vladan Joler. Vi møttes på en konferanse spesifikt om stemmeaktivert AI, og vi prøvde å effektivt tegne det som trengs for å få en Amazon Echo til å fungere. Hva er komponentene? Hvordan trekker den ut data? Hva er lagene i datapipelinen?

Vi innså, vel – faktisk, for å forstå det, må du forstå hvor komponentene kommer fra. Hvor ble sjetongene produsert? Hvor er gruvene? Hvor blir det smeltet? Hvor er logistikken og forsyningskjeden?

Til slutt, hvordan sporer vi slutten av levetiden til disse enhetene? Hvordan ser vi på hvor e-avfallstippene er plassert i steder som Malaysia og Ghana og Pakistan? Det vi endte opp med var dette svært tidkrevende toårige forskningsprosjektet for å virkelig spore de materielle forsyningskjedene fra vugge til grav.

Når du begynner å se på AI-systemer i den større skalaen, og på den lengre tidshorisonten, skifter du bort fra disse svært smale beretningene om AI-rettferdighet og etikk til å si: dette er systemer som produserer dyptgripende og varige geomorfe endringer på planeten vår, som samt øke formene for arbeidsulikhet som vi allerede har i verden.

Så det fikk meg til å innse at jeg måtte skifte fra en analyse av bare én enhet, Amazon Echo, til å bruke denne typen analyse til hele bransjen. Det var den store oppgaven for meg, og det er derfor Atlas over AI tok fem år å skrive. Det er et stort behov for å faktisk se hva disse systemene virkelig koster oss, fordi vi så sjelden gjør arbeidet med å faktisk forstå deres sanne planetariske implikasjoner.

Den andre tingen jeg vil si som har vært en virkelig inspirasjon er det voksende feltet av forskere som stiller disse større spørsmålene rundt arbeid, data og ulikhet. Her tenker jeg på Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown – listen fortsetter. Jeg ser på dette som et bidrag til denne kunnskapen ved å bringe inn perspektiver som forbinder miljø, arbeidsrettigheter og databeskyttelse.

Du reiser mye gjennom boka. Nesten hvert kapittel starter med at du faktisk ser deg rundt på omgivelsene dine. Hvorfor var dette viktig for deg?

Det var et veldig bevisst valg å basere en analyse av AI på spesifikke steder, for å bevege seg bort fra disse abstrakte ingenstedene av algoritmisk plass, der så mange av debattene rundt maskinlæring skjer. Og forhåpentligvis fremhever det det faktum at når vi ikke gjør det, når vi bare snakker om disse ingensteds-rommene med algoritmisk objektivitet, er det også et politisk valg, og det har konsekvenser.

Når det gjelder å sette sammen lokasjonene, er dette virkelig grunnen til at jeg begynte å tenke på denne metaforen om et atlas, fordi atlas er uvanlige bøker. Det er bøker som du kan åpne opp og se på omfanget av et helt kontinent, eller du kan zoome inn og se på en fjellkjede eller en by. De gir deg disse endringene i perspektiv og skalaskift.

Det er denne vakre linjen jeg bruker i boken fra fysikeren Ursula Franklin. Hun skriver om hvordan kart føyer sammen det kjente og det ukjente i disse metodene for kollektiv innsikt. Så for meg var det virkelig å trekke på kunnskapen jeg hadde, men også å tenke på de faktiske stedene der AI blir konstruert veldig bokstavelig talt fra steiner og sand og olje.

Hva slags tilbakemeldinger har boka fått?

En av tingene jeg har blitt overrasket over i de tidlige svarene er at folk virkelig føler at denne typen perspektiv var forsinket. Det er et øyeblikk av erkjennelse av at vi trenger å ha en annen type samtale enn de vi har hatt de siste årene.

Vi har brukt altfor mye tid på å fokusere på snevre tekniske rettelser for AI-systemer og alltid sentrere tekniske svar og tekniske svar. Nå må vi kjempe med systemenes miljøavtrykk. Vi må kjempe med de veldig reelle formene for arbeidsutnyttelse som har skjedd i konstruksjonen av disse systemene.

Og vi begynner nå også å se den giftige arven av hva som skjer når du bare river ut så mye data fra internett som du kan, og bare kaller det jordsannhet. Den typen problematisk innramming av verden har forårsaket så mange skader, og som alltid har disse skadene blitt følt mest av alt av lokalsamfunn som allerede var marginalisert og ikke opplevde fordelene med disse systemene.

Hva håper du folk vil begynne å gjøre annerledes?

Jeg håper det kommer til å bli mye vanskeligere å ha disse blindveissamtalene der termer som etikk og AI for alltid har vært så fullstendig denaturert av noen egentlig betydning . Jeg håper den trekker gardinen til side og sier, la oss faktisk se på hvem som styrer spakene til disse systemene. Det betyr å skifte bort fra bare å fokusere på ting som etiske prinsipper til å snakke om makt.

Hvordan går vi bort fra denne etikkinnrammingen?

Relatert historie

Bekymret for firmaets AI-etikk? Disse oppstartene er her for å hjelpe. Et voksende økosystem av ansvarlige AI-foretak lover å hjelpe organisasjoner med å overvåke og fikse AI-modellene deres.

Hvis det har vært en reell felle i teknologisektoren det siste tiåret, er det at teorien om endring alltid har sentrert ingeniørkunst. Det har alltid vært, hvis det er et problem, er det en teknisk løsning for det. Og først nylig begynner vi å se at det utvides til Å, vel, hvis det er et problem, da regulering kan fikse det. Politikere har en rolle.

Men jeg tror vi må utvide det enda mer. Vi må også si: Hvor er sivilsamfunnsgruppene, hvor er aktivistene, hvor er talsmennene som tar opp spørsmål om klimarettferdighet, arbeidstakerrettigheter, databeskyttelse? Hvordan inkluderer vi dem i disse diskusjonene? Hvordan inkluderer vi berørte lokalsamfunn?

Med andre ord, hvordan gjør vi dette til en langt dypere demokratisk samtale rundt hvordan disse systemene allerede påvirker livene til milliarder av mennesker på først og fremst uansvarlige måter som lever utenfor regulering og demokratisk tilsyn?

Slik sett prøver denne boken å desentrere teknologien og begynner å stille større spørsmål rundt: Hva slags verden ønsker vi å leve i?

Hva slags verden gjør du ønsker å bo i? Hva slags fremtid drømmer du om?

Jeg ønsker å se gruppene som har gjort det virkelig harde arbeidet med å ta opp spørsmål som klimarettferdighet og arbeidsrettigheter samles, og innse at disse tidligere ganske separate frontene for sosial endring og raserettferdighet virkelig har delt bekymringer og et felles grunnlag som å koordinere og organisere.

Fordi vi ser på en veldig kort tidshorisont her. Vi har å gjøre med en planet som allerede er under alvorlig belastning. Vi ser på en dyp konsentrasjon av makt til usedvanlig få hender. Du må virkelig gå tilbake til de første dagene av jernbanen for å se en annen industri som er så konsentrert, og nå kan du til og med si at teknologien har overkjørt det.

Så vi må kjempe med måter vi kan pluralisere våre samfunn på og ha større former for demokratisk ansvarlighet. Og det er et kollektivt handlingsproblem. Det er ikke et individuelt valgproblem. Det er ikke slik at vi velger det mer etiske teknologimerket fra sokkelen. Det er at vi må finne måter å jobbe sammen om disse planetariske utfordringene.

Oppdater : Beskrivelsen av AI Now-instituttet er avklart.

gjemme seg