AI-ansettelsesbransjen er under gransking - men det vil være vanskelig å fikse

Kategori: Teknisk politikk Lagt ut 07. nov

Electronic Privacy Information Center (EPIC) har ba Federal Trade Commission om å undersøke HireVue , et AI-verktøy som hjelper bedrifter med å finne ut hvilke arbeidere de skal ansette.

Hva er HireVue? HireVue er et av et økende antall kunstig intelligens-verktøy som bedrifter bruker for å vurdere jobbsøkere. Algoritmen analyserer videointervjuer, og bruker alt fra ordvalg til ansiktsbevegelser for å finne en ansettelsesevne som sammenlignes med andre søkere. Mer enn 100 selskaper har allerede brukt det på over en million søkere, ifølge Washington Post .

Hva er problemet? Det er vanskelig å forutsi hvilke arbeidere som vil lykkes fra ting som ansiktsuttrykk. Enda verre, kritikere bekymrer seg for at algoritmen er trent på begrensede data, og derfor vil det være mer sannsynlig å merke tradisjonelle søkere (hvite, mannlige) som mer ansettbare. Som et resultat vil søkere som avviker fra det tradisjonelle - inkludert folk som ikke snakker engelsk som morsmål eller som er funksjonshemmede - sannsynligvis få lavere poengsum, sier eksperter . I tillegg oppmuntrer det søkere til å spille systemet ved å intervjue på en måte de vet at HireVue vil like.

Hva blir det neste? AI-ansettelsesverktøy er ikke godt regulert, og det vil være vanskelig å løse problemet av flere grunner.

— De fleste selskaper vil ikke frigi dataene sine eller forklare hvordan algoritmene fungerer, så det er veldig vanskelig å bevise noen skjevhet. Det er en del av grunnen til at det ikke har vært noen store søksmål så langt. EPIC-klagen, som antyder at HireVues løfte bryter FTCs regler mot urettferdig og villedende praksis, er en start. Men det er ikke klart om noe vil skje. FTC har mottatt klagen, men har ikke sagt om den vil forfølge den.

— Andre forsøk på å forhindre skjevhet er velmenende, men begrensede. Tidligere i år vedtok lovgivere i Illinois en lov som pålegger arbeidsgivere å gjøre det fortell i det minste jobbsøkere at de vil bruke disse algoritmene, og for å få deres samtykke. Men det er ikke særlig nyttig. Mange mennesker vil sannsynligvis samtykke rett og slett fordi de ikke ønsker å miste muligheten.

— Til slutt, akkurat som AI i helse eller AI i rettssalen, vil kunstig intelligens ved ansettelser gjenskape samfunnets skjevheter, som er et komplisert problem. Regulatorer må finne ut hvor mye ansvar selskaper bør forventes å ta for å unngå feilene til et fordomsfullt samfunn.