211service.com
Hei Google, beklager at du mistet etisk råd, så vi laget et til deg
Vel, det tok ikke lang tid. Etter litt mer enn en uke gikk Google tilbake med å opprette Advanced Technology External Advisory Council, eller ATEAC – en komité som skulle gi selskapet veiledning om hvordan man etisk utvikler nye teknologier som AI. Inkluderingen av Heritage Foundations president, Kay Coles James, i rådet forårsaket et ramaskrik over hennes anti-miljøvern, anti-LHBTQ og anti-immigrant synspunkter, og ledet nesten 2500 Google-ansatte å signere en begjæring om fjerning. I stedet bestemte internettgiganten seg rett og slett for å legge ned hele greia.
Hvordan gikk det så galt? Og kan Google rette dem opp? Vi fikk et dusin eksperter innen kunstig intelligens, teknologi og etikk til å fortelle oss hvor selskapet gikk seg vill og hva det kan gjøre videre. Hvis disse menneskene hadde vært på ATEAC, kunne historien ha fått et annet utfall.
'Vær transparent og spesifikk om rollene og ansvaret etikkstyrene har'
Rashida Richardson, direktør for policyforskning ved AI Now Institute
'Vi har ingen innsikt i om etikktavler faktisk er et moralsk kompass eller bare et annet gummistempel'
I teorien kan etikkstyrer være en stor fordel når det gjelder å sørge for at AI-produkter er trygge og ikke diskriminerende. Men for at etikkråd skal ha noen meningsfull innvirkning, må de være offentlig ansvarlige og ha reell tilsynsmyndighet.
Det betyr at teknologiselskaper bør være villige til å dele kriteriene de bruker for å velge hvem som skal sitte i disse etiske styrene. De bør også være transparente og spesifikke om rollene og ansvaret deres etikkstyrer har, slik at publikum kan vurdere deres effektivitet. Ellers har vi ingen innsikt i om etikktavler faktisk er et moralsk kompass eller bare enda et gummistempel. Gitt den globale innflytelsen og ansvaret til store AI-selskaper, er dette nivået av åpenhet og ansvarlighet avgjørende.
Vurder hva det faktisk betyr å styre teknologi effektivt og rettferdig
Jake Metcalf, teknologietikkforsker ved Data & Society
ATEAC-bulleturen viser oss hvor full og omstridt denne nye alderen av teknisk etikk sannsynligvis vil være. Google leste tydelig feil av rommet i dette tilfellet. Politisk marginale populasjoner som er underlagt de klassifiserende innfallene til AI/ML-teknologier, vil sannsynligvis oppleve de verste etiske skadene fra automatiserte beslutninger. Google favoriserer Kay Coles James på grunn av mangfoldet av synspunkter fremfor hennes åpne hat mot transkjønnede mennesker, viser at de ikke i tilstrekkelig grad vurderer hva det faktisk betyr å styre teknologien effektivt og rettferdig.
«Etikk betyr to forskjellige ting som kan være motstridende i praksis. Selskaper er mottagelige for førstnevnte og livredde for sistnevnte.
Det er vanskelig for bedrifter fordi etikk betyr to forskjellige ting som kan være motstridende i praksis: det er både det daglige arbeidet med å forstå og dempe konsekvenser (som å kjøre et skjevhetsdeteksjonsverktøy eller arrangere et deliberativt designmøte), og dommen om hvordan samfunnet kan bestilles mest rettferdig (for eksempel om ulik skade på marginaliserte samfunn betyr at en produktlinje bør økes). Selskaper er mottagelige for førstnevnte, og livredde for sistnevnte. Men hvis AI-etikk ikke handler om å forhindre automatisert misbruk, blokkere overføring av farlige teknologier til autokratiske myndigheter eller forby automatisering av statlig vold, så er det vanskelig å vite hva teknologiselskaper tror det er annet enn tomme gester. Under det fine nye verktøyet for etikkrapporter som er overbevisende med selskapets KPI-beregninger, er en ekte bekymring for at liv står på spill. Å holde dem i hodet på en gang er en utfordring for selskaper byråkratisk og for etikere som er investert i å se mer rettferdige teknologier vinne frem.
Først anerkjenner elefanten i rommet: Googles AI-prinsipper
Evan Selinger, professor i filosofi ved Rochester Institute of Technology
Google satte kibosh på ATEAC uten først å anerkjenne elefanten i rommet: AI-prinsippene som administrerende direktør Sundar Pichai artikulerte i løpet av sommeren. Ledende akademikere, folk i sivilsamfunnsorganisasjoner og senioransatte i teknologiselskaper har konsekvent fortalt meg at selv om prinsippene ser bra ut på papiret, er de fleksible nok til å bli tolket på måter som vil spare Google fra å måtte kompromittere langsiktig vekst strategier – ikke minst fordi håndhevelsesmekanismene for brudd på prinsippene ikke er veldefinerte, og til syvende og sist forblir hele virksomheten et selvregulerende forsøk.
Når det er sagt, ville det absolutt bidra til å gjøre ledelse mer ansvarlig overfor et etikkstyre hvis gruppen var (a) riktig sammensatt; (b) gitt klare og robuste institusjonelle fullmakter (i stedet for bare å være der for å gi råd); og (c) også selv holdes til gjennomsiktige ansvarlighetsstandarder for å sikre at det ikke blir et tannhjul i en rasjonaliserende, etikk-vaskemaskin.
Endre personene som har ansvaret for å sette sammen disse gruppene
Ellen Pao, grunnlegger ved Project Include
Denne mislykkede innsatsen viser nøyaktig hvorfor Google trenger bedre rådgivere. Men kanskje de også trenger å endre personene som har ansvaret for å sette sammen disse gruppene – og kanskje deres interne team burde gjøre dette arbeidet også. Det var flere problemer med resultatet som vi alle har sett, men også problemer med prosessen. Når du ikke har kommunisert til hele gruppen om hvem de skal jobbe med, er det en stor feil. Å bringe mennesker som er mer reflekterende av verden vi lever i burde ha skjedd internt før man forsøkte å sette sammen en ekstern gruppe.
Sidenotat, folk bør undersøke gruppene de blir med i, konferansepanelene de snakker på, og teamene deres før de forplikter seg slik at de vet hva de melder seg på. Det er utrolig hvor mye du kan påvirke dem og hvordan du kan endre sammensetningen til en gruppe bare ved å spørre.
Styrk antagonisme – ikke disse vennlige interne partnerskapene og håndholdte innsatsen
Meg Leta Jones, assisterende professor i kommunikasjon, kultur og teknologi ved Georgetown University
Etiske styrene er ingens hverdagsjobb, og tilbyr kun mulighet for sjeldne samtaler på høyt nivå som i beste fall gir innsikt og i verste fall dekning. Hvis vi ønsker å etablere tillit til institusjoner inkludert teknologier, teknologiselskaper, media og myndigheter, krever vår nåværende politiske kultur antagonisme – ikke disse vennlige interne partnerskapene og håndholdte innsatsen. Å styrke antagonister og støtte antagonisme kan mer hensiktsmessig og effektivt møte målene for 'etisk AI.'
'Etikktavler gir i beste fall innsikt og i verste fall dekker'
Se innover og styrk ansatte som står i solidaritet med utsatte grupper
Anna Lauren Hoffmann, assisterende professor ved The Information School ved University of Washington
Googles mislykkede ATEAC-styre gjør det klart at AI-etikk ikke bare handler om hvordan vi tenker opp, utvikler og implementerer AI-teknologier – det handler også om hvordan vi driver etikk. Levde sårbarheter, fordelinger av makt og innflytelse, og hvis stemmer blir høye, er alle integrerte hensyn når man forfølger etikk i den virkelige verden. For det formål gjør ATEAC-debakelen og andre tilfeller av pushback (for eksempel mot Project Maven , Dragonfly og retningslinjer for seksuell trakassering ) det klart at Google allerede har en enorm ressurs i mange av sine egne ansatte. Mens vi også trenger meningsfull regulering og eksternt tilsyn, bør selskapet se innover og styrke de allerede marginaliserte ansatte som er klare til å organisere seg og stå i solidaritet med sårbare grupper for å takle gjennomgripende problemer med transfobi, rasisme, fremmedfrykt og hat.
Et styre kan ikke bare være «noen viktige personer vi kjenner». Du trenger faktiske etikere
Patrick Lin, direktør for Etikk + Emerging Sciences Group på Cal Poly
Med Aaliyahs ord, tror jeg at neste trinn for Google er å børste støvet av deg selv og prøve igjen. Men de må være mer gjennomtenkte om hvem de setter i styret – det kan ikke bare være en «la oss spørre noen viktige personer vi kjenner»-liste, slik versjon 1.0 av rådet så ut til å ha vært. For det første, hvis det er en oppriktig interesse for å få etisk veiledning, trenger du faktiske etikere – eksperter som har profesjonell opplæring i teoretisk og anvendt etikk. Ellers ville det være en avvisning av verdien av ekspertise, som vi allerede ser alt for mye av i disse dager, for eksempel når det kommer til grunnleggende vitenskap.
'Tenk deg om selskapet ønsket å innkalle et AI-lovråd, men det var bare én advokat på det.'
Tenk om selskapet ønsket å innkalle et AI-lovråd, men det var bare én advokat på det (akkurat som det bare var én filosof i AI-etikkrådet v1.0). Det ville heve alvorlige røde flagg. Det er ikke nok for noen å jobbe med spørsmål av juridisk betydning – tonnevis av mennesker gjør det, inkludert meg, og de kan godt utfylle ekspertuttalelsene til juridiske forskere og advokater. Men for at rådet skal være virkelig effektivt, må det inkludere faktiske domeneeksperter i kjernen.
De siste ukene viste at direkte organisering fungerer
Os Keyes, en doktorgradsstudent i Data Ecologies Lab ved University of Washington
For å være ærlig har jeg ingen råd til Google. Google gjør akkurat det bedriftsenheter i samfunnet vårt er ment å gjøre; arbeider for politisk (og så regulatorisk, og så økonomisk) fordel uten å la et spor av moral skjære inn i deres kvartalsresultater eller strategiske plan. Mitt råd er for alle unntatt Google. For personer utenfor Google: ring representantene dine. Spør hva de gjør med AI-regulering. Spør hva de gjør med lobbykontroller. Spør hva de gjør med bedriftsregulering. For folk i akademia: ring instruktørene dine. Spør hva de gjør for å lære etikkstudenter at etikk bare er viktig hvis den blir brukt og etterlevd. For folk i Google: ring folk utenfor og spør hva de trenger fra deg. Hendelsene de siste ukene viste at direkte organisering fungerer; solidaritet virker.
Fire møter i året vil sannsynligvis ikke ha noen effekt. Vi trenger smidige etikkinnspill
Irina Raicu, direktør for programmet for Internett-etikk ved Santa Clara University
Jeg synes dette var en stor tapt mulighet. Det fikk meg til å lure på hvem innen Google som var involvert i beslutningen om hvem jeg skulle invitere. (Denne avgjørelsen i seg selv krevde ulike innspill.) Men dette taler til det bredere problemet her: det faktum at Google ga kunngjøringen om opprettelsen av styret uten noen forklaring på kriteriene for å velge deltakerne. Det var også svært lite diskusjon om grunnene deres for å opprette styret, hva de håpet styrets innvirkning ville være, osv. Hadde de gitt mer kontekst, kunne den påfølgende diskusjonen vært annerledes.
Det er andre problemer også; gitt hvor raskt AI utvikler seg og blir distribuert, er det ikke sannsynlig at fire møter (selv med en mangfoldig gruppe av AI-etiske rådgivere), i løpet av et år, vil ha meningsfull innvirkning - dvs. å virkelig endre banen for forskning eller produktutvikling. Så lenge modellen er smidig utvikling, trenger vi også smidige etikkinnspill.
Gruppen må ha fullmakt til å si nei til prosjekter
Sam Gregory, programdirektør i Witness
Hvis Google virkelig ønsker å bygge respekt for etikk eller menneskerettigheter inn i AI-initiativene, må de først erkjenne at et rådgivende styre, eller til og med et styresett, bare er en del av en større tilnærming. De må være tydelige fra starten av at gruppen faktisk har myndighet til å si nei til prosjekter og bli hørt. Da må de være eksplisitt om rammeverket – vi vil anbefale at det er basert på etablerte internasjonale menneskerettighetslover og normer – og derfor bør ikke et individ eller en gruppe som har vært diskriminerende eller fornærmende være en del av det.
Unngå å behandle etikk som et PR-spill eller et teknisk problem
Anna Jobin, forsker ved Health Ethics and Policy Lab ved Swiss Federal Institute of Technology
Hvis Google er seriøs når det gjelder etisk AI, må selskapet unngå å behandle etikk som et PR-spill eller et teknisk problem og bygge det inn i sine forretningspraksis og prosesser. Det kan være nødvendig å redesigne sine styringsstrukturer for å skape bedre representasjon og ansvarlighet overfor både intern arbeidsstyrke og samfunnet for øvrig. Spesielt må den prioritere velferden til minoriteter og sårbare samfunn over hele verden, spesielt mennesker som er eller kan bli negativt påvirket av teknologien.
'Søk ikke bare tradisjonell ekspertise, men også innsikten til mennesker som er eksperter på sine egne levde erfaringer'
Joy Buolamwini, grunnlegger av Algorithmic Justice League
Når vi tenker på styringen av AI, må vi ikke bare søke tradisjonell ekspertise, men også innsikten til mennesker som er eksperter på sine egne levde erfaringer. Hvordan kan vi engasjere marginaliserte stemmer i utformingen av AI? Hvordan kan deltakende AI som sentrerer synspunktene til de som er mest utsatt for de negative virkningene av AI se ut?
'Jeg kan ikke forestille meg noen anbefaling av et slikt rådgivende panel som står i veien for hva markedet etterspør'
Ved å lære av ATEAC-erfaringen bør Google inkludere kompenserte prosesser for gjennomgang av fellesskapet i utviklingen av produktene og tjenestene sine. Dette vil nødvendiggjøre meningsfull åpenhet og kontinuerlig tilsyn. Og Google og andre medlemmer i Partnership on AI bør sette av en del av overskuddet til å gi konsortiumfinansiering til forskning på AI-etikk og ansvarlighet, uten kun å fokusere på AI-rettferdighetsforskning som løfter tekniske perspektiver alene.
Kanskje er det på det beste at fikenbladet om 'etisk utvikling' er visket vekk
Adam Greenfield, forfatter av Radikale teknologier
Alt vi har hørt om dette styret har vært skammelig, fra det første instinktet til å invitere James til beslutningen om å legge den ned i stedet for å dedikere energi til å håndtere konsekvensene av det valget. Men siden mine følelser om AI er mer eller mindre de fra Butler-jihad, er det kanskje til det beste at fikenbladet om 'etisk utvikling' har blitt visket bort. Til syvende og sist kan jeg ikke forestille meg noen anbefaling fra et slikt rådgivende panel, uansett hvordan det kan være sammensatt, som står i veien for hva markedet etterspør, og/eller den oppfattede nødvendigheten av å konkurrere med andre aktører som er engasjert i AI-utvikling.
'Det er oppmuntrende å se kraften i ansattes aktivisme'
Tess Posner, administrerende direktør i AI4ALL
Det er flott å se selskaper, organisasjoner og forskere som jobber med å skape etiske rammer for AI. Teknologiindustrien opplever voksesmerter på dette området – å finne ut hvordan man gjør dette riktig er utfordrende og vil ta tid og gjentakelse. Vi tror det er en mulighet til å fortsette å spørre hvilke stemmer som må inkluderes, og sørge for å inkludere ulike stemmer og stemmer som kan bli direkte påvirket av resultatene av beslutninger som tas. Det er oppmuntrende å se kraften i medarbeideraktivisme som påvirker endring rundt dette og andre teknologiske spørsmål.