Kongressen vil ha svar fra Google om Timnit Gebrus oppsigelse

yvette clarke

Representant Yvette Clarke Foto fra AP/Kathy Willens





Ni medlemmer av den amerikanske kongressen har sendt et brev til Google der de ber den om å avklare omstendighetene rundt den tidligere etiske AI-medlederen Timnit Gebrus tvangsavgang. Ledet av representant Yvette Clarke og senator Ron Wyden, og co-signert av senatorene Elizabeth Warren og Cory Booker, brevet sender et viktig signal om hvordan Kongressen gransker teknologigiganter og tenker på kommende reguleringer.

Gebru, en ledende stemme innen AI-etikk og en av en liten håndfull svarte kvinner hos Google, var uhøytidelig avskjediget for to uker siden, etter en langvarig uenighet om en forskningsartikkel. Avisen detaljert risikoen ved store AI-språkmodeller trent på enorme mengder tekstdata, som er en kjernelinje i Googles forskning, og driver ulike produkter, inkludert det lukrative Google-søket.



Med henvisning til MIT Technology Reviews dekning reiser brevet tre spørsmål: potensialet for skjevhet i store språkmodeller, den økende bedriftens innflytelse over AI-forskning og Googles mangel på mangfold. Den ber Googles administrerende direktør Sundar Pichai om en konkret plan for hvordan den vil håndtere hver av disse, så vel som for sin nåværende policy for gjennomgang av forskning og detaljer om den pågående etterforskningen av Gebrus exit (Pichai forpliktet seg til denne etterforskningen i et internt notat , først utgitt av Axios). Siden medlemmer av kongressen aktivt søker å forbedre AI-forskning, ansvarlighet og mangfold gjennom lovgivning og tilsyn, ber vi respektfullt om din forespørsel til følgende henvendelser, heter det i brevet.

I april 2019 introduserte Clarke og Wyden et lovforslag, den Algoritmisk ansvarlighetslov , som ville kreve at store selskaper revidere maskinlæringssystemene deres for skjevhet og iverksette korrigerende tiltak i tide hvis slike problemer ble identifisert. Det vil også kreve at disse selskapene reviderer alle prosesser som involverer sensitive data – inkludert personlig identifiserbar, biometrisk og genetisk informasjon – for personvern- og sikkerhetsrisikoer. På den tiden roste mange juridiske og teknologiske eksperter regningen for sin nyanserte forståelse av AI og datadrevne teknologier. Flott første skritt, skrev Andrew Selbst, en assisterende professor ved University California Los Angeles School of Law, på Twitter. Vil kreve dokumentasjon, vurdering og forsøk på å håndtere forutsette konsekvenser. Det er nytt, spennende og utrolig nødvendig.

Relatert historie

Vi leste avisen som tvang Timnit Gebru ut av Google. Her er hva det står.

Selskapets etikk-stjerneforsker fremhevet risikoen ved store språkmodeller, som er nøkkelen til Googles virksomhet.



Det siste brevet knytter seg ikke direkte til Algorithmic Accountability Act, men det er en del av det samme trekket fra visse kongressmedlemmer for å lage lovgivning som vil redusere AI-bias og andre skader ved datadrevne, automatiserte systemer. Spesielt kommer det midt i økende press for antitrustregulering. Tidligere denne måneden, US Federal Trade Commission anla antitrustsøksmål mot Facebook for dets konkurransebegrensende oppførsel og urettferdige konkurransemetoder. I løpet av sommeren publiserte House Democrats en 449-siders rapport om Big Techs monopolistiske praksis.

Brevet kommer også i sammenheng med økende geopolitiske spenninger. Ettersom forholdet mellom USA og Kina har nådd et rekordlavt nivå under pandemien, har amerikanske tjenestemenn understreket den strategiske betydningen av nye teknologier som AI og 5G. Brevet løfter også denne dimensjonen, og anerkjenner Googles lederskap innen AI og dets rolle i å opprettholde USAs lederskap. Men det gjør det klart at dette ikke bør undergrave regulatoriske handlinger, en argumentasjon popularisert av Facebook-sjef Mark Zuckerberg . For å sikre at Amerika vinner AI-kappløpet, heter det i brevet, at amerikanske teknologiselskaper ikke bare må lede verden innen innovasjon; de må også sørge for at slik innovasjon gjenspeiler nasjonens verdier.

Brevet vårt bør gi alle i teknologisektoren, ikke bare Google, beskjed om at vi følger med, sa Clarke i en uttalelse til MIT Technology Review. Etisk AI er slagmarken for fremtidens borgerrettigheter. Våre bekymringer om den siste utviklingen handler ikke bare om én person; de handler om hvordan det 21. århundre vil se ut hvis akademisk frihet og inkludering tar en baksete til andre prioriteringer. Vi kan ikke dempe algoritmisk skjevhet hvis vi hindrer dem som søker å forske og studere det.



gjemme seg