211service.com
Er Gig Economy rigget?
Illustrasjon av Matthew Hollister
Apper og nettsteder som kan brukes til å ansette folk til individuelle oppgaver som å hente dagligvarer eller designe en ny logo har tatt fart de siste årene, og lover en mer effektiv og rettferdig markedsplass for ansettelse. Imidlertid antyder en ny studie fra Northeastern University i Boston at rase- og seksuell diskriminering kan være vanlig på to populære gig-økonomiske plattformer.
Forskere ledet av Christo Wilson , en assisterende professor ved Northeastern, og Ancsa Hannák , en doktorgradsstudent, undersøkte TaskRabbit, en plattform for å ansette folk til å gjøre ærend, og Fiverr, en markedsplass for kreative tjenester. På begge fant de bevis på skjevhet langs rase- og kjønnslinjer.
Det er bare ett eksempel på hvordan skjevhet kryper inn i nettbaserte plattformer og tjenester. Og det er urovekkende fordi gig-økonomien lovet å være ikke bare mer effektiv og fleksibel, men også mindre partisk – siden algoritmer gjør jobben med å koble folk sammen.
På Fiverr fant forskerne bevis for at svarte og asiatiske arbeidere fikk lavere rangering enn hvite. Og på TaskRabbit fikk kvinner færre anmeldelser enn menn, og svarte arbeidere fikk lavere rangering enn hvite. Kanskje mest urovekkende, forskerne fant også bevis på slik skjevhet i anbefalingsalgoritmen på TaskRabbit. Forskningen vil bli presentert på en akademisk konferanse i New York denne uken.
Det er umulig å si med sikkerhet at korrelasjonen identifisert av Wilson og Hannák skyldes rase- og kjønnsskjevhet fra leietakernes side, i motsetning til en ukjent forvirrende faktor, men Wilson sier at mønsteret er bekymringsfullt. Vi blir fortalt at dette er fremtiden for arbeidskraft, sier han. Hvis du skal rulle ut en algoritme som skal brukes av millioner av mennesker, har du et slags ansvar overfor publikum for å undersøke hva du bruker, evaluere det og se om det kommer til å ha noen av disse negative bivirkninger.
En talsperson for Fiverr hevder at studiens metodikk var feil ved at den ignorerer faktorer som internasjonale grenser og språkforskjeller. Hun påpeker også at brukere ikke trenger å oppgi demografisk informasjon for å bruke tjenesten, noe som gjør det enkelt å unngå diskriminering. TaskRabbit svarte ikke på en forespørsel om kommentar.
Det er imidlertid økende bevis på at skjevhet kan påvirke alle slags digitale tjenester. Forrige måned, forskere fra MIT, Stanford og University of Washington oppdaget det at Uber-sjåfører i Boston kansellerte reiser oftere for kunder med afroamerikansk-klingende navn, og at svarte Uber-kunder i Seattle møtte lengre ventetider enn sine hvite kolleger. I en studie publisert i fjor, forskere ved CMU funnet bevis at annonser for høyt betalte jobber ble vist oftere til menn enn til kvinner.
I mange tilfeller reflekterer skjevheten bare det som finnes i den virkelige verden, for eksempel de bevisste og underbevisste fordommene arbeidsgivere kan føre til ansettelsesbeslutninger. Så for anbefalingsmotorer eller maskinlæringssystemer er spørsmålet hvordan skjevheter kan fjernes, enten fra datasettene som mates til algoritmer eller fra selve algoritmene.
Folk har denne ideen om at fordi det er en datamaskin, er den nøytral, legger Wilson til. Hvis du har data som er partisk, er det fornuftig at du skal trene en algoritme som er partisk.
Don MacKenzie , en assisterende professor ved University of Washington og en av forfatterne av den nylige Uber-studien, understreker at studien ikke beviser at rase- eller kjønnsskjevhet spiller inn. Men han sier at det er viktig å vurdere skjevheter i gig-økonomien og underliggende algoritmer – og legger til at problemet bør være håndterbart hvis selskapene er forsiktige.
Dette er et voksende område, og hvis det er et sett med beste praksis, er jeg ikke klar over det, sier MacKenzie. Fra mitt perspektiv bør selskaper, utviklere og dataforskere være på vakt, lytte til tilbakemeldinger og ikke være redde for å prøve ut forskjellige løsninger. Jeg tror at hvis alle nærmer seg disse spørsmålene i god tro, konstruktivt og med en vilje til å prøve forskjellige ting, kan vi komme nærmere å eliminere skjevheter i disse systemene.