All automatisert ansettelsesprogramvare er som standard utsatt for skjevhet

Kategori: Teknisk politikk Lagt ut 13. desember

TIL ny rapport Ut fra den ideelle organisasjonen Upturn analyserte noen av de mest fremtredende ansettelsesalgoritmene på markedet og fant at som standard er slike algoritmer utsatt for skjevheter.

Ansettelsestrinn: Algoritmer er laget for å automatisere fire primære stadier av ansettelsesprosessen: innkjøp, screening, intervju og utvelgelse. Analysen fant at selv om prediktive verktøy sjelden ble brukt for å ta det endelige valget om hvem de skulle ansette, ble de ofte brukt gjennom disse stadiene for å avvise folk.

Når skjevheten kommer snikende: Hvis tidligere ansettelsesdata brukes, kan opplæringsinformasjonen være partisk eller lite representativ, og overføre disse skjevhetene til programvaren. Bare fjerning av data om kjønn og rase vil ikke holde partiskhet utenfor programvaren. Annen informasjon, som avstand fra kontoret, kan ha sterk sammenheng med mer sensitive faktorer. Amazon så dette i en ansettelsesalgoritme den prøvde å utvikle. Ansettelsesledere kan også være tilbøyelige til å gi for mye tillit til anbefalingene fra ansettelsesalgoritmer.

Regulering av AI: Studien fant også at gjeldende lover ikke er utstyrt for å håndtere problemet. Lovene som er utformet for å regulere avgjørelser om ansettelse av mennesker, tillater ikke lett etterforskning og håndhevelse når man håndterer maskinbasert diskriminering.

Det positive: På den annen side kan prediktive verktøy bidra til å avdekke tidligere menneskelige skjevheter og forutsetninger som tidligere har blitt oversett. Dette vil tillate bedrifter å gjøre positive endringer i sin praksis. Flere leverandører tar skritt for ikke bare å revidere produktene deres for skjevheter, men å bygge inn egenkapitalfremmende funksjoner i produktene deres, sier en av rapportens forfattere, Miranda Bogen. Vi håper flere leverandører vil omfavne denne typen intervensjoner, men det er fortsatt en lang vei å gå før vi kan være sikre på at prediktive verktøy ikke forårsaker mer skade enn fordel.

Løser problemet: For å gjøre bruken av å ansette AI-er mer rettferdig, anbefaler rapporten:

— som tillater uavhengig revisjon av arbeidsgiver- og leverandørprogramvare
—å få regjeringer til å oppdatere regelverket for å dekke programvare for prediktiv ansettelse
– granske annonse- og jobbplattformer mer detaljert for å analysere deres økende innflytelse på ansettelse

Fordi det er så mange forskjellige punkter i den prosessen der skjevheter kan dukke opp, bør arbeidsgivere definitivt gå frem med forsiktighet, sier Bogen. De bør være gjennomsiktige om hvilke prediktive verktøy de bruker og ta de skritt de kan for å proaktivt oppdage og adressere skjevheter som oppstår – og hvis de ikke kan trygt gjøre det, bør de trekke ut kontakten.

Denne artikkelen ble opprinnelig publisert i vårt fremtidig arbeidsnyhetsbrev, Clocking In. Du kan registrere deg her .