211service.com
Hvordan bekjempe hat på nettet
Dataforsker Jennifer Chayes mener vi kan bruke beregningsverktøy for å utrydde dårlig oppførsel på nettet.
27. oktober 2021
Christie Der Klok
I løpet av sin tid hos Microsoft og i akademia har Jennifer Chayes kjempet for å bruke datavitenskap og databehandling for å gjøre kunstig intelligens mer rettferdig og mindre partisk.
Fra å droppe ut av skolen i en alder av 15 til å bli eksperten innen datavitenskap ved University of California, Berkeley, har Chayes hatt en ganske karrierevei. Hun begynte i UCLA i 1987 som fast professor i matematikk. Ti år senere lokket Microsoft henne til å medstifte sin tverrfaglige Research Theory Group.
Denne historien var en del av november 2021-utgaven vår
- Se resten av saken
- Abonnere
Det var i hennes Microsoft-laboratorium i New York City at forskere oppdaget skjevheter i selskapets ansiktsgjenkjenningsprogramvare, noe som viste at systemet klassifiserte hvite ansikter mer nøyaktig enn brune og svarte ansikter. Dette funnet fikk selskapet til å takke nei til en lukrativ kontrakt med en politiavdeling og begynne å jobbe for å fjerne skjevheten fra slike algoritmer. De FATE (rettferdighet, ansvarlighet, åpenhet og etikk i AI) gruppe ble opprettet på laboratoriet.
Anil Ananthaswamy spurte Chayes, nå assisterende prost ved Division of Computing, Data Science, and Society og dekan ved School of Information i Berkeley, hvordan datavitenskap transformerer databehandling og andre felt.
Spørsmål: Hvordan var det å gå fra akademia til industri?
A: Det var litt av et sjokk. Forskningsdirektøren hos Microsoft, Dan Ling, ringte meg for å prøve å overbevise meg om å gå på et intervju. Jeg snakket med ham i ca 40 minutter. Og jeg sa til slutt: Vil du virkelig vite hva som plager meg? Microsoft er en gjeng med ungdomsgutter, og jeg vil ikke tilbringe livet mitt med en gjeng med ungdomsgutter.
Spørsmål: Hvordan reagerte han på det?
A: Han sa: Å nei, det er vi ikke. Kom og møt oss. Jeg møtte noen utrolige kvinner der da jeg var på besøk, og jeg møtte fenomenalt åpne mennesker som ville prøve ting for å forandre verden.
Spørsmål: Hvordan har datavitenskap endret databehandling?
TIL: Etter hvert som vi har fått mer data, har informatikk begynt å se utover. Jeg tenker på datavitenskap som et ekteskap mellom databehandling, statistikk, etikk og en domenevekt eller en disiplinær vektlegging, det være seg biomedisin og helse, klima og bærekraft, eller menneskelig velferd og sosial rettferdighet, og så videre. Det er å transformere databehandling.
Spørsmål: Er det forskjell på hvordan dataforskere løser problemer?
A: Med bruken av alle disse dataene har vi muligheten til å lære av dataene uten å ha en teori om hvorfor noe skjer. Spesielt i denne tidsalderen med maskinlæring og dyp læring, gjør det oss i stand til å trekke konklusjoner og forutsi spådommer uten en underliggende teori.
Spørsmål: Kan det skape problemer?
TIL: Noen anser det som et problem i tilfeller der du har [for eksempel] biomedisinske data. Dataene forutsier veldig nøyaktig hva som kommer til å fungere og hva som ikke kommer til å fungere, uten en underliggende biologisk mekanisme.
Spørsmål: Noen fordeler?
TIL: Det dataene har tillatt oss å gjøre nå, i mange tilfeller, er å kjøre det en økonom vil kalle en kontrafaktisk, der man faktisk ser tilfeldig variasjon i dataene som gjør at man kan trekke konklusjoner uten å gjøre eksperimentene. Det er utrolig nyttig.
Vil jeg virkelig prøve ut ulike utdanninger på ulike populasjoner? Eller vil jeg se [at] det var tilfeldig variasjon på et tidspunkt som vil tillate meg å trekke en veldig god årsaksslutning, og derfor kan jeg basere politikken på det?
Spørsmål: Ser du et problem med hvordan data brukes, spesielt av store selskaper?
A: Det er utallige problemer. Det brukes ikke bare av teknologiselskaper. Den brukes av forsikringsselskaper. Den brukes av offentlige plattformer, folkehelseplattformer og utdanningsplattformer. Hvis du ikke eksplisitt forstår hvilke skjevheter som kan snike seg inn, både i selve datasettene og i algoritmene, vil du sannsynligvis forverre skjevheten.
Disse skjevhetene sniker seg inn [når] det ikke er mye data. Og det kan også bli korrelert med andre faktorer. Jeg jobbet personlig med å tolke bios og CVer automatisk. Vi har ikke lov til å bruke kjønn eller rase. Selv om jeg ikke ser på [disse] beskyttede attributtene, er det mange ting [i dataene] som er proxyer for kjønn eller rase. Hvis du har gått på visse skoler, hvis du vokste opp i visse nabolag, hvis du drev med visse idretter og du hadde visse aktiviteter, er de korrelert [med kjønn eller rase].
Spørsmål: Oppfanger algoritmer disse proxyene?
TIL: De forverrer det. Du må eksplisitt forstå dette, og du må eksplisitt forhindre det ved å skrive algoritmen.
Spørsmål: Hvordan kan vi løse slike problemer?
TIL: Det er hele dette området av FATE: rettferdighet, ansvarlighet, åpenhet og etikk i AI, som er utformingen av disse algoritmene og forståelsen av hva de er. Men det er så mye mer vi må gjøre.
Spørsmål: Og datavitenskap hjelper?
A: Dette er absolutt datavitenskap. Det er en del av nettet som kalles manosfæren, hvor mye hat har sin opprinnelse. Det er litt vanskelig å spore. Men hvis du bruker naturlig språkbehandling og andre verktøy, kan du se hvor det kommer fra. Du kan også prøve å bygge grensesnitt som lar fortalergrupper og andre finne dette og hjelpe til med å utrydde det. Dette går utover bare å være rettferdig. Dette snur tabellen på måten disse plattformene har blitt tilranet for å øke skjevhet og hat og si: Vi kommer til å bruke kraften til databehandling og datavitenskap for å identifisere og dempe hat.