En ledende AI-etikkforsker sier hun har fått sparken fra Google

Timnit Gebru

Kimberly White / Stringer





2. desember ble AI-forskningsmiljøet sjokkert da de fikk vite at Timnit Gebru hadde fått sparken fra posten hennes hos Google. Gebru, en av de ledende stemmene innen ansvarlig AI-forskning, er blant annet kjent for å være medforfatter av banebrytende arbeid som avslørte diskriminerende karakter av ansiktsgjenkjenning , medstifter Black in AI affinitetsgruppen, og nådeløst talsmann for mangfold i teknologibransjen .

Men onsdag kveld meldte hun på Twitter at hun hadde blitt sagt opp fra sin stilling som Googles etiske AI-medleder. Tilsynelatende sendte lederen min en e-post [til] mine direkte rapporter og sa at hun godtok min oppsigelse. Jeg hadde ikke sagt opp, sa hun.

I et intervju med Bloomberg Torsdag sa Gebru at avfyringen skjedde etter en langvarig kamp med hennes overordnede om publiseringen av en AI-etisk forskningsartikkel. En av Gebrus tweets og en senere intern e-post fra Jeff Dean, leder for Google AI, antyder at avisen var kritisk til miljøkostnadene og innebygde skjevheter av store språkmodeller.



Gebru, som hadde skrevet oppgaven sammen med fire Google-kolleger og to eksterne samarbeidspartnere, hadde levert den til en forskningskonferanse som ble holdt neste år. Etter en intern gjennomgang ble hun bedt om å trekke tilbake papiret eller fjerne navnene på Google-ansatte. Hun svarte at hun ville gjøre det hvis hennes overordnede oppfylte en rekke betingelser. Hvis de ikke kunne, ville hun det jobbe på en siste date , hun sa.

Hun sendte også en frustrert e-post til en intern listetjeneste, Google Brain Women and Allies, som beskriver de gjentatte vanskelighetene hun hadde opplevd som en svart kvinnelig forsker. Vi hadde nettopp en Black research alle hender med et så emosjonelt show av irritasjon, skrev hun. Vet du hva som har skjedd siden? Stille på en mest mulig grunnleggende måte.

Gebru dro deretter på ferie og mottok en oppsigelsese-post fra Megan Kacholia, VP of engineering hos Google Research, før hun kom tilbake. Takk for at du gjorde forholdene dine klare, e-posten sa , som tweetet av Gebru. Vi kan ikke godta #1 og #2 slik du ber om. Vi respekterer avgjørelsen din om å forlate Google som et resultat, og vi godtar oppsigelsen din. E-posten hennes til listserv var inkonsistent med forventningene til en Google-sjef, fortsatte det. Som et resultat aksepterer vi din oppsigelse umiddelbart, med virkning i dag.

Torsdag formiddag, etter et strømme av støtte til Gebru på sosiale medier, sendte Dean en intern e-post til Googles AI-gruppe med hans beretning om situasjonen. Han sa at Gebrus artikkel ikke oppfylte kravet vårt for publisering fordi det ignorerte for mye relevant forskning. Han sa også at Gebrus betingelser inkluderte å avsløre identiteten til hver person som Megan og jeg hadde snakket med og konsultert som en del av gjennomgangen av avisen og den nøyaktige tilbakemeldingen.



Gitt Timnits rolle som en respektert forsker og leder i vårt etiske AI-team, føler jeg meg dårlig over at Timnit har kommet til et sted hvor hun føler på denne måten om arbeidet vi gjør, skrev han. Jeg vet at vi alle oppriktig deler Timnits lidenskap for å gjøre AI mer rettferdig og inkluderende.

Verken Gebru, Dean eller Google Communications reagerte på forespørsler om kommentarer, og mange detaljer rundt den nøyaktige utviklingen av hendelser, eller årsaken til oppsigelsen, er fortsatt uklare. Ettersom de fortsetter å dukke opp, har mange fått fornyet oppmerksomhet til en tweet 30. november som Gebru festet til toppen av profilen hennes. Er det noen som jobber med regulering som beskytter forskere innen etisk kunstig intelligens, som ligner på beskyttelse av varslere? står det. For med mengden av sensur og trusler som foregår mot mennesker i spesifikke grupper, hvordan stoler noen på at noen reell forskning på dette området kan finne sted?

gjemme seg