LinkedIns jobbmatchende AI var partisk. Selskapets løsning? Mer AI.

Ms Tech | Envato

For mange år siden oppdaget LinkedIn at anbefalingsalgoritmene den bruker for å matche jobbkandidater med muligheter ga partiske resultater. Algoritmene rangerte kandidater delvis på grunnlag av hvor sannsynlig det var at de ville søke på en stilling eller svare på en rekrutterer. Systemet endte opp med å henvise flere menn enn kvinner til åpne roller rett og slett fordi menn ofte er mer aggressive til å oppsøke nye muligheter.

LinkedIn oppdaget problemet og bygde et annet AI-program for å motvirke skjevheten i resultatene av det første. I mellomtiden tar noen av verdens største jobbsøkesider – inkludert CareerBuilder, ZipRecruiter og Monster – svært forskjellige tilnærminger til å adressere skjevheter på sine egne plattformer, som vi rapporterer i den nyeste episoden av MIT Technology Review sin podcast In Machines We Trust. Siden disse plattformene ikke avslører nøyaktig hvordan systemene deres fungerer, er det imidlertid vanskelig for arbeidssøkere å vite hvor effektive noen av disse tiltakene faktisk er for å forhindre diskriminering.

Hvis du skulle begynne å lete etter en ny jobb i dag, vil kunstig intelligens høyst sannsynlig påvirke søket ditt. AI kan bestemme hvilke stillinger du ser på jobbsøkeplattformer og bestemme om du vil videreformidle CV-en din til et selskaps rekrutterere. Noen selskaper kan be deg om å spille AI-drevne videospill som måler personlighetstrekkene dine og måler om du passer godt for bestemte roller.

Relatert historie

Revisorer tester ansettelsesalgoritmer for skjevhet, men det er ingen enkel løsning

AI-revisjoner kan overse visse typer skjevheter, og de bekrefter ikke nødvendigvis at et ansettelsesverktøy velger de beste kandidatene til en jobb.

Flere og flere selskaper bruker AI for å rekruttere og ansette nye medarbeidere, og AI kan ta hensyn til nesten alle stadier i ansettelsesprosessen . Covid-19 førte til ny etterspørsel etter disse teknologiene. Både Nysgjerrig ting og HireVue , selskaper som spesialiserer seg på AI-drevne intervjuer, rapporterte en økning i virksomheten under pandemien.

De fleste jobbjakter starter imidlertid med et enkelt søk. Arbeidssøkere henvender seg til plattformer som LinkedIn , Monster , eller ZipRecruiter , hvor de kan laste opp CV-ene sine, bla gjennom stillingsannonser og søke på ledige stillinger.

Målet med disse nettsidene er å matche kvalifiserte kandidater med ledige stillinger. For å organisere alle disse åpningene og kandidatene bruker mange plattformer AI-drevne anbefalingsalgoritmer. Algoritmene, noen ganger referert til som matchende motorer, behandler informasjon fra både jobbsøkeren og arbeidsgiveren for å lage en liste med anbefalinger for hver.

Du hører vanligvis anekdoten om at en rekrutterer bruker seks sekunder på å se på CV-en din, ikke sant? sier Derek Kan, visepresident for produktledelse i Monster. Når vi ser på anbefalingsmotoren vi har bygget, kan du redusere den tiden ned til millisekunder.

De fleste matchende motorer er optimalisert for å generere applikasjoner, sier John Jersin , tidligere visepresident for produktledelse hos LinkedIn. Disse systemene baserer sine anbefalinger på tre kategorier av data: informasjon brukeren gir direkte til plattformen; data tildelt brukeren basert på andre med lignende ferdigheter, erfaringer og interesser; og atferdsdata, som hvor ofte en bruker svarer på meldinger eller samhandler med stillingsannonser.

I LinkedIns tilfelle ekskluderer disse algoritmene en persons navn, alder, kjønn og rase, fordi å inkludere disse egenskapene kan bidra til skjevhet i automatiserte prosesser. Men Jersins team fant ut at tjenestens algoritmer fortsatt kunne oppdage atferdsmønstre som vises av grupper med spesielle kjønnsidentiteter.

For eksempel, mens menn er mer sannsynlig å søke på jobber som krever arbeidserfaring utover deres kvalifikasjoner, har kvinner en tendens til å bare gå for jobber der deres kvalifikasjoner samsvarer med stillingens krav. Algoritmen tolker denne variasjonen i atferd og justerer anbefalingene på en måte som utilsiktet er til ulempe for kvinner.

Du kan for eksempel anbefale flere seniorjobber til en gruppe mennesker enn en annen, selv om de er kvalifisert på samme nivå, sier Jersin. Disse menneskene blir kanskje ikke utsatt for de samme mulighetene. Og det er egentlig virkningen vi snakker om her.

Menn inkluderer også flere ferdigheter på CV-en til en lavere grad av ferdigheter enn kvinner, og de engasjerer seg ofte mer aggressivt med rekrutterere på plattformen.

For å løse slike problemer, Jersin og teamet hans på LinkedIn bygget en ny AI designet for å produsere mer representative resultater og implementerte det i 2018. Det var i hovedsak en egen algoritme designet for å motvirke anbefalinger skjevt mot en bestemt gruppe. Den nye AI-en sikrer at anbefalingssystemet inkluderer en representativ fordeling av brukere på tvers av kjønn før kampene som er kurert av den originale motoren refereres.

Kan sier at Monster, som viser 5 til 6 millioner jobber til enhver tid, også inkorporerer atferdsdata i sine anbefalinger, men korrigerer ikke for skjevheter på samme måte som LinkedIn gjør. I stedet fokuserer markedsføringsteamet på å få brukere fra ulike bakgrunner til å melde seg på tjenesten, og selskapet er avhengig av at arbeidsgivere rapporterer tilbake og forteller Monster om de har gitt videre et representativt sett med kandidater.

Irina Novoselsky , administrerende direktør i CareerBuilder, sier at hun er fokusert på å bruke data tjenesten samler inn for å lære arbeidsgivere hvordan de kan eliminere skjevheter fra stillingsannonser. For eksempel, når en kandidat leser en stillingsbeskrivelse med ordet «rockstar», er det vesentlig en lavere prosentandel kvinner som søker, sier hun.

Ian Seal , administrerende direktør og medgründer av ZipRecruiter, sier at selskapets algoritmer ikke tar hensyn til visse identifiserende egenskaper som navn når de rangerer kandidater; i stedet klassifiserer de personer på grunnlag av 64 andre typer informasjon, inkludert geografiske data. Han sier at selskapet ikke diskuterer detaljene i algoritmene sine, og siterer bekymringer om intellektuell eiendom, men legger til: Jeg tror vi er så nærme en merittbasert vurdering av mennesker som det kan gjøres for øyeblikket.

Med automatisering på hvert trinn i ansettelsesprosessen, må jobbsøkere nå lære å skille seg ut for både algoritmen og ansettelseslederne. Men uten klar informasjon om hva disse algoritmene gjør, står kandidatene overfor betydelige utfordringer.

Jeg tror folk undervurderer virkningen algoritmer og anbefalingsmotorer har på jobber, sier Kan. Måten du presenterer deg på blir mest sannsynlig lest av tusenvis av maskiner og servere først, før det i det hele tatt kommer til et menneskelig øye.

Denne artikkelen ble oppdatert 6/25/21 for å gjenspeile at LinkedIns nye AI sikrer en representativ fordeling av brukere (ikke en jevn fordeling) på tvers av kjønn anbefales for jobber.

gjemme seg