211service.com
Vi er i en mangfoldskrise: medgrunnlegger av Black in AI om hva som forgifter algoritmer i livene våre
Timnit Gebru ser seg rundt i AI-verdenen og ser nesten ingen som ligner henne. Det er et problem for oss alle. 14. februar 2018
med tillatelse fra timnit brug
Kunstig intelligens er en stadig mer sømløs del av hverdagen vår, til stede i alt fra nettsøk til sosiale medier til hjemmeassistenter som Alexa. Men hva gjør vi hvis denne enormt viktige teknologien er utilsiktet, men fundamentalt partisk? Og hva gjør vi hvis dette enormt viktige feltet nesten ikke inkluderer svarte forskere? Timnit Gebru takler disse spørsmålene som en del av Microsofts Fairness, Accountability, Transparency, and Ethics in AI-gruppe, som hun ble med i i fjor sommer. Hun var også med på å grunnlegge Black in AI-arrangementet på konferansen Neural Information Processing Systems (NIPS) i 2017 og var med i styringskomiteen for den første Fairness and Transparency-konferansen i februar. Hun snakket med MIT Technology Review om hvordan skjevhet kommer inn i AI-systemer og hvordan mangfold kan motvirke det.
Hvordan forvrenger mangelen på mangfold kunstig intelligens og spesifikt datasyn?
Denne historien var en del av vår utgave for mars 2018
- Se resten av saken
- Abonnere
Jeg kan snakke om dette i et helt år. Det er en skjevhet til hva slags problemer vi synes er viktige, hva slags forskning vi synes er viktige, og hvor vi mener AI bør gå. Hvis vi ikke har mangfold i forskersettet vårt, kommer vi ikke til å ta opp problemer som står overfor de fleste mennesker i verden. Når problemer ikke påvirker oss, tror vi ikke de er så viktige, og vi vet kanskje ikke engang hva disse problemene er, fordi vi ikke samhandler med menneskene som opplever dem.
Da jeg startet Black in AI, startet jeg det med et par av vennene mine. Jeg hadde en liten e-postliste før det der jeg bokstavelig talt ville legge til en hvilken som helst svart person jeg så i dette feltet i e-postlisten og si: 'Hei, jeg heter Timnit. Jeg er en svart person nummer to. Hei, svart person nummer én. La oss være venner.'
Finnes det måter å motvirke skjevhet i systemer?
Grunnen til at mangfold er veldig viktig i AI, ikke bare i datasett, men også i forskere, er at du trenger folk som bare har denne sosiale følelsen av hvordan ting er. Vi er i en mangfoldskrise for AI. I tillegg til å ha tekniske samtaler, samtaler om juss, samtaler om etikk, må vi ha samtaler om mangfold innen AI. Vi trenger all slags mangfold innen AI. Og dette må behandles som noe som er ekstremt presserende.
Fra et teknisk synspunkt er det mange forskjellige typer tilnærminger. Den ene er å diversifisere datasettet og ha mange forskjellige merknader av datasettet, som rase og kjønn og alder. Når du har trent en modell, kan du teste den ut og se hvor godt den gjør det av alle disse forskjellige undergruppene. Men selv etter at du har gjort dette, er du nødt til å ha en slags skjevhet i datasettet ditt. Du kan ikke ha et datasett som perfekt sampler hele verden.
Noe jeg virkelig brenner for, og jeg jobber med akkurat nå, er å finne ut hvordan man kan oppmuntre bedrifter til å gi mer informasjon til brukere eller til og med forskere. De burde ha anbefalt bruk, hva fallgruvene er, hvor forutinntatt datasettet er osv. Slik at når jeg er en nybegynner og jeg bare tar ditt hylledatasett eller hyllemodell og innlemme det i det jeg gjør, har jeg i det minste litt kunnskap om hva slags fallgruver det kan være. Akkurat nå er vi på et sted nesten som det ville vesten, hvor vi egentlig ikke har mange standarder [om] hvor vi legger ut datasett.
Og så er det bare noen ting du sannsynligvis ikke burde bruke maskinlæring til akkurat nå, og vi har ikke noen klare retningslinjer for hva disse tingene er. Vi bør si at hvis du skal bruke maskinlæring for denne spesielle oppgaven, bør nøyaktigheten til modellen din være minst X, og den bør være rettferdig i denne spesielle henseende. Vi har heller ingen retningslinjer for det. AI har akkurat nå begynt å bli bakt inn i mainstream, til et produkt overalt, så vi er ved et stup der vi virkelig trenger en slags samtale rundt standardisering og bruk.
BRUKT MED TILLATELSE AV TIMENIT
Hva har vært drivkraften bak arbeidet ditt med Google Street View og annen demografisk forskning?
På det tidspunktet vi startet dette prosjektet var det veldig lite arbeid som ble gjort for å prøve å analysere kultur ved hjelp av bilder. Men vi vet at på nett er det meste av dataene våre i form av bilder. En av motivasjonene våre var å vise at man kunne gjøre sosiale analyser ved hjelp av bilder.
Dette kan være veldig nyttig i tilfeller der det er veldig vanskelig å få undersøkelsesbaserte data. Det er steder i verden hvor infrastrukturen ikke er der og ressursene ikke er der for å sende folk dør til dør og samle [folketelling] data, [men hvor] det å ha en forståelse av de forskjellige typene befolkninger som bor i landet ditt ville være veldig hjelpsomme.
Men igjen, det er nettopp dette som også fikk meg til å ville studere rettferdighet. For hvis jeg skal fortsette å gjøre denne linjen, må jeg virkelig ha en bedre forståelse av de potensielt negative konsekvensene. Hva er konsekvensene for overvåking? Også, hva er konsekvensene for en skjevhet i datasettet? I alle slags datautvinningsprosjekter vil du ha en skjevhet. Så mitt arbeid der var egentlig det som førte til at jeg ønsket å tilbringe litt tid i rettferdighetsmiljøet for å forstå hvor fallgruvene kunne være.
Hvilke problemer håper du å ta opp med denne første konferansen om rettferdighet og åpenhet?
Dette er virkelig den første konferansen som tar opp spørsmål om rettferdighet, ansvarlighet, etikk og åpenhet i AI. Det har vært workshops på andre konferanser, og stort sett har det vært workshops på enten naturlig-språk-behandlingsbaserte konferanser eller maskinlæringsbaserte konferanser. Det er veldig viktig å ha den frittstående konferansen fordi den må jobbes med folk fra mange disipliner som snakker med hverandre.
Maskinlærende mennesker kan ikke løse dette problemet på egen hånd. Det er spørsmål om åpenhet; det er spørsmål om hvordan lovene skal oppdateres. Hvis du skal snakke om skjevheter i helsevesenet, vil du snakke med [helsepersonell] om hvor de potensielle skjevhetene kan være, og så kan du tenke på hvordan du har en maskinlæringsbasert løsning.
Hva har vært din erfaring med AI?
Det er ikke lett. Jeg elsker jobben min. Jeg elsker forskningen jeg jobber med. Jeg elsker feltet. Jeg kan ikke forestille meg hva annet jeg ville gjort i den forbindelse. Når det er sagt, er det veldig vanskelig å være en svart kvinne på dette feltet. Da jeg startet Black in AI, startet jeg det med et par av vennene mine. Jeg hadde en liten e-postliste før det der jeg bokstavelig talt ville legge til en hvilken som helst svart person jeg så i dette feltet i e-postlisten og si, hei, jeg heter Timnit. Jeg er en svart person nummer to. Hei, svart person nummer én. La oss være venner.
Det som egentlig bare fikk det til å akselerere var [i 2016] da jeg dro til NIPS og noen sa at det var anslagsvis 8500 mennesker. Jeg telte seks svarte mennesker. Jeg fikk bokstavelig talt panikk. Det er den eneste måten jeg kan beskrive hvordan jeg følte det. Jeg så at dette feltet vokste eksponentielt, og traff mainstream; det påvirker alle deler av samfunnet. Samtidig så jeg også mye retorikk om mangfold og hvordan mange selskaper synes det er viktig.
Og jeg så et misforhold mellom retorikk og handling. Fordi seks svarte mennesker av 8500 - det er et latterlig tall, ikke sant? Det er nesten null prosent. Jeg tenkte at vi må gjøre noe nå. Jeg ønsker å gi en oppfordring til handling til folk som mener mangfold er viktig. For det er en nødsituasjon, og det må vi gjøre noe med nå.