211service.com
Google-ansatte står i kø for å kaste Googles etiske råd for AI
Getty Images/Leon Neal
Nesten tusen Google-ansatte, akademiske forskere og andre tall fra teknologiindustrien har signert ett brev protesterer mot sammensetningen av et uavhengig råd som Google opprettet for å veilede etikken i AI-prosjektene sine.
Søkegiganten annonsert opprettelsen av rådet forrige uke på EmTech Digital, MIT Technology Review sitt arrangement i San Francisco. Det er kjent som Advanced Technology External Advisory Council (ATEAC), og har åtte medlemmer, inkludert økonomer, filosofer, beslutningstakere og teknologer med ekspertise på spørsmål som algoritmisk skjevhet. Det er ment å holde fire møter i året, fra og med denne måneden, og skrive rapporter designet for å gi tilbakemelding på prosjekter i selskapet som bruker kunstig intelligens.
Men to av disse medlemmene viste seg å være kontroversielle. Den ene, Dyan Gibbens, er administrerende direktør i Trumbull, et selskap som utvikler autonome systemer for forsvarsindustrien – et omstridt valg gitt at tusenvis av Google-ansatte protesterte mot selskapets beslutning om å forsyne det amerikanske flyvåpenet med AI for droneavbildning. Den største forargelsen har imidlertid kommet over inkluderingen av Kay Coles James, president for Heritage Foundation, en tenketank som motsetter seg regulering av karbonutslipp, tar en hard linje mot immigrasjon og har argumentert mot beskyttelse av LHBTQ-rettigheter.
Ett medlem av rådet, Alessandro kjøper , en professor ved Carnegie Mellon University som spesialiserer seg på digitale personvernspørsmål, kunngjorde 30. mars at han ikke ville ta opp rollen. Selv om jeg er dedikert til forskning som sliter med viktige etiske spørsmål om rettferdighet, rettigheter og inkludering i AI, tror jeg ikke dette er det rette forumet for meg å engasjere meg i dette viktige arbeidet,' tvitret han .
Opprettelsen av ATEAC – og inkluderingen av Gibbens og James – kan faktisk ha blitt designet for å blidgjøre Googles høyreorienterte kritikere. Omtrent samtidig som rådet ble kunngjort, var Sundar Pichai, Googles administrerende direktør, i møte med president Donald Trump. Trump tvitret senere: Han uttalte sterkt at han er fullstendig forpliktet til det amerikanske militæret, ikke det kinesiske militæret. [Vi] diskuterte også politisk rettferdighet og forskjellige ting Google kan gjøre for landet vårt. Møtet endte veldig bra!
Men en Google-ansatt som var involvert i utkastet til protestbrevet, som uttalte seg på betingelse av anonymitet, sa at James er mer enn bare en konservativ stemme i rådet. Hun er en reaksjonær som benekter at transpersoner eksisterer, som støtter radikalt anti-immigrant-posisjoner, og støtter anti-klimaendringer, anti-vitenskapelige posisjoner.
Noen kjente AI-algoritmer kan forsterke skjevheter som allerede er sett i samfunnet; noen har blitt vist til feilidentifisere transpersoner , for eksempel. I den sammenhengen er det ganske sjokkerende at [James] ble inkludert, sa den ansatte. Disse teknologiene former våre sosiale institusjoner, våre liv og tilgang til ressurser. Når AI svikter, svikter det ikke for rike hvite menn som jobber i teknologiselskaper. Det mislykkes for akkurat de befolkningene som Heritage Foundations politikk allerede tar sikte på å skade.
Meldinger lagt ut til en intern Google-kommunikasjonsplattform kritiserte spesielt utnevnelsen av James. I følge et innlegg tidligere rapportert av Verge og bekreftet av den ansatte, James fortjener ikke en Google-legitimert plattform, og hører absolutt ikke hjemme i noen samtale om hvordan Google-teknologi skal brukes i verden.
Fra klokken 17:30 amerikansk østlig tid i dag hadde det offentlige brevet, sendt til Medium, blitt signert av 855 Google-ansatte og 143 andre personer, inkludert en rekke fremtredende akademikere. Ikke bare er James’ synspunkter i motsetning til Googles uttalte verdier, heter det i brevet, men de er direkte i strid med prosjektet om å sikre at utvikling og anvendelse av AI prioriterer rettferdighet fremfor profitt. Et slikt prosjekt bør i stedet sette representanter fra sårbare miljøer i sentrum for beslutningstaking.
Korreksjon : En tidligere versjon av denne historien sa at bare syv Google-ansatte hadde signert brevet på Medium.