Hvordan rote ut skjulte skjevheter i AI

Algoritmer tar livsendrende beslutninger som å nekte prøveløslatelse eller gi lån. Cynthia Dwork, en dataforsker ved Harvard, utvikler måter å sørge for at maskinene fungerer rettferdig på. Av

• TR-ansatte arkivside

24. oktober 2017

Miguel Porlan

Hvorfor er det vanskelig for algoritmedesignere eller dataforskere å gjøre rede for skjevheter og urettferdighet?

Ta et arbeidsmiljø som er kvinnefiendtlig. Anta at du definerer suksess som det faktum at noen har en jobb i to til tre år og får en forfremmelse. Da vil prediktoren din – basert på de historiske dataene – forutsi nøyaktig at det ikke er en god idé å ansette kvinner. Det som er interessant her er at vi ikke snakker om historiske ansettelsesbeslutninger. Selv om ansettelsesbeslutningene var helt objektive, vedvarer virkeligheten – den virkelige diskrimineringen i det fiendtlige miljøet. Det er dypere, mer strukturelt, mer inngrodd og vanskeligere å overvinne.

Denne historien var en del av november 2017-utgaven vår

• Se resten av saken
• Abonnere

Jeg tror den store bruken av maskinlæring og AI vil være i forbindelse med virkelig kunnskapsrike mennesker som kan historie og sosiologi og psykologi for å finne ut hvem som bør behandles på samme måte som hvem.

Jeg sier ikke at datamaskiner aldri vil kunne gjøre det, men jeg ser det ikke nå. Hvordan vet du når du har den rette modellen, og når den fanger hva som virkelig skjedde i samfunnet? Du må ha forståelse for hva du snakker om. Det er det berømte ordtaket Alle modeller er feil og noen er nyttige.

— som fortalt til Will Knight

gjemme seg