211service.com
Et AI-ansettfirma sier at det kan forutsi jobbhopping basert på intervjuene dine
Et skjermbilde av PredictiveHire.
Siden utbruddet av pandemien, et økende antall selskaper har henvendt seg til AI for å hjelpe med ansettelsen. De vanligste systemene involverer bruk av ansiktsskanningsalgoritmer, spill, spørsmål eller andre evalueringer for å finne ut hvilke kandidater som skal intervjues.
Mens aktivister og forskere advarer om at disse screeningsverktøyene kan opprettholde diskriminering, hevder skaperne selv at algoritmisk ansettelse hjelper til med å korrigere for menneskelig skjevheter. Algoritmer kan testes og justeres, mens menneskelige skjevheter er mye vanskeligere å korrigere - eller slik tenker man. I en desember 2019 papir , gjennomgikk forskere ved Cornell landskapet til algoritmiske screeningsselskaper for å analysere deres påstander og praksis. Av de 18 de identifiserte seg med engelskspråklige nettsteder, markedsførte flertallet seg selv som et mer rettferdig alternativ til menneskebasert ansettelse, noe som antydet at de ble grepet av den økte bekymringen rundt disse problemene for å vise fordelene til verktøyene deres og få flere kunder.
Men diskriminering er ikke den eneste bekymringen med algoritmisk ansettelse, og noen forskere bekymrer seg for at markedsføringsspråk som fokuserer på skjevhet slipper bedrifter fra kroken på andre spørsmål, for eksempel arbeidernes rettigheter. En ny forhåndstrykk fra et av disse firmaene fungerer nå som en viktig påminnelse: Vi bør ikke la oppmerksomheten som folk har begynt å gi til partiskhet og diskrimineringsspørsmål faktisk fortrenge det faktum at det er en haug med andre problemer, sier Solon Barocas, en adjunkt. ved Cornell University og hovedforsker ved Microsoft Research, som studerer algoritmisk rettferdighet og ansvarlighet.
Firmaet det gjelder er Australia-baserte PredictiveHire, grunnlagt i oktober 2013. Det tilbyr en chatbot som stiller kandidater en rekke åpne spørsmål. Den analyserer deretter svarene deres for å vurdere jobbrelaterte personlighetstrekk som drivkraft, initiativ og motstandskraft. I følge firmaets administrerende direktør, Barbara Hyman, er kundene arbeidsgivere som må administrere et stort antall applikasjoner, for eksempel innen detaljhandel, salg, kundesentre og helsevesen. Som Cornell-studien fant, bruker den også aktivt løfter om mer rettferdig ansettelse i markedsføringsspråket sitt. På hjemmesiden sin annonserer den dristig: Møt Phai. Din co-pilot i ansettelse. Gjør intervjuer SUPERRASK. INKLUDERENDE, ENDELIG. ENDELIG, UTEN BIAS.
Som vi har skrevet før, er ideen om skjevhetsfrie algoritmer høyt villedende . Men PredictiveHire's siste forskning er urovekkende av en annen grunn. Det er fokusert på å bygge en ny maskinlæringsmodell som søker å forutsi en kandidats sannsynlighet for jobbhopping, praksisen med å bytte jobb oftere enn en arbeidsgiver ønsker. Arbeidet følger selskapets nylige fagfellevurderte forskning som så på hvordan åpne intervjuspørsmål korrelerer med personlighet (i og for seg en svært omstridt praksis ). Fordi organisasjonspsykologer allerede har vist en sammenheng mellom personlighet og jobbhopping, sier Hyman, ønsket selskapet å teste om de kunne bruke sine eksisterende data for spådommen. Bevaring av ansatte er et stort fokus for mange selskaper som vi jobber med, gitt kostnadene ved høy avgang av ansatte, estimert til 16 % av kostnadene for hver ansatts lønn, legger hun til.
Studien brukte fritekstsvarene fra 45 899 kandidater som hadde brukt PredictiveHires chatbot. Søkere hadde opprinnelig blitt spurt fem til syv åpne spørsmål og selvvurderingsspørsmål om deres tidligere erfaring og situasjonsvurdering. Disse inkluderte spørsmål som var ment å teste ut egenskaper som studier tidligere har vist å korrelere sterkt med jobbhoppingstendenser, som å være mer åpen for erfaring, mindre praktisk og mindre jordnær. Selskapets forskere hevder at modellen var i stand til å forutsi jobbhopping med statistisk signifikans. PredictiveHires nettsted annonserer allerede dette arbeidet som en flyrisikovurdering kommer snart .
PredictiveHires nye arbeid er et godt eksempel på det Nathan Newman hevder er en av de største negative konsekvensene av big data på arbeidskraft. Newman, en adjunkt førsteamanuensis ved John Jay College of Criminal Justice, skrev i et lovdokument fra 2017 at utover bekymringene om sysselsettingsdiskriminering, hadde big-data-analyse også blitt brukt på utallige måter for å drive ned arbeidernes lønn.
Maskinlæringsbaserte personlighetstester, for eksempel, blir i økende grad brukt i ansettelser for å sile ut potensielle ansatte som har større sannsynlighet for å agitere for økte lønninger eller støtte fagforening. Arbeidsgivere overvåker i økende grad ansattes e-poster, chatter og andre data for å vurdere hvilke som kan forlate og beregne minimumslønnsøkningen som er nødvendig for å få dem til å bli. Og algoritmiske styringssystemer som Ubers desentraliserer arbeidere vekk fra kontorer og digitale møteplasser som lar dem koordinere med hverandre og kollektivt kreve bedre behandling og lønn.
Ingen av disse eksemplene burde være overraskende, hevdet Newman. De er rett og slett en moderne manifestasjon av hva arbeidsgivere historisk har gjort for å undertrykke lønn ved å målrette og bryte opp fagforeningsaktiviteter. Bruken av personlighetsvurderinger ved ansettelse, som dateres tilbake til 1930-tallet i USA, begynte faktisk som en mekanisme for å luke ut folk som mest sannsynlig vil bli arbeidsorganisatorer. Testene ble spesielt populære på 1960- og 70-tallet da organisasjonspsykologer hadde foredlet dem for å vurdere arbeidere for deres fagforeningssympatier.
I denne sammenhengen er PredictiveHires kamp-risikovurdering bare et annet eksempel på denne trenden. Jobbhopping, eller trusselen om jobbhopping, påpeker Barocas, er en av de viktigste måtene arbeidere kan øke inntekten på. Selskapet bygget til og med sin vurdering på personlighetsscreeninger designet av organisasjonspsykologer.
Barocas tar ikke nødvendigvis til orde for å kaste ut verktøyene helt. Han mener målet om å gjøre ansettelsesarbeidet bedre for alle er et edelt mål og kan oppnås hvis regulatorer gir mandat større åpenhet . Foreløpig har ingen av dem fått en streng, fagfellevurdert evaluering, sier han. Men hvis firmaer var mer imøtekommende om sin praksis og sendte inn verktøyene sine for slik validering, kunne det bidra til å holde dem ansvarlige. Det kan også hjelpe forskere å engasjere seg lettere med firmaer for å studere verktøyenes innvirkning på både arbeid og diskriminering.
Til tross for alt mitt eget arbeid de siste par årene med å uttrykke bekymringer om disse tingene, sier han, tror jeg faktisk at mange av disse verktøyene kan forbedre den nåværende situasjonen betydelig.