Amazon droppet AI-rekrutteringsprogramvare fordi den var partisk mot kvinner

Kategori: Silicon Valley Lagt ut 10. okt

Dataene som algoritmen for kunstig intelligens ble trent på skapte en preferanse for mannlige kandidater.

Nyhetene: I følge en rapport fra Reuters , begynte Amazon å utvikle et automatisert system i 2014 for å rangere arbeidssøkere med én til fem stjerner. Men i fjor skrotet selskapet prosjektet etter å ha sett at det hadde utviklet en preferanse for mannlige kandidater i tekniske roller.

Hvorfor? AI-verktøyet ble trent på 10 års CV-er som selskapet hadde mottatt. Fordi teknologi er en mannsdominert industri, kom flertallet av disse CVene fra menn.

Resultatet: Systemet ble utilsiktet opplært til å velge mannlige kandidater fremfor kvinnelige kandidater. Det vil angivelig straffe CV-er som inneholder ordet kvinner eller navnene på enkelte høyskoler for kvinner. Selv om Amazon gjorde endringer for å gjøre disse vilkårene nøytrale, mistet selskapet tilliten til at programmet faktisk var kjønnsnøytralt på alle andre områder.

Hvorfor det er viktig: Vi kan ikke behandle kunstig intelligens som iboende objektiv. Å trene systemene på partiske data betyr at algoritmene også blir partiske. Hvis urettferdige AI-ansettelsesprogrammer som dette ikke blir avdekket før de implementeres, vil de opprettholde langvarige mangfoldsproblemer i virksomheten i stedet for å løse dem.

Vil du følge med på hvordan teknologien endrer fremtidens arbeidsplass? Registrer deg for vårt fremtidig arbeidsnyhetsbrev, Clocking In .