Apple Card blir etterforsket for påstander om at det gir kvinner lavere kredittgrenser

Kategori: Kunstig intelligens Lagt ut 11. nov

Algoritmen som bestemmer kredittgrensen for brukere av Apples nye kredittkort, som ble lansert i USA i august, står overfor en etterforskning fordi den ser ut til å gi menn høyere grenser enn kvinner.

Nyhetene: 7. november, nettgründer David Heinemeier Hansson la ut en nå viral tweet sa at Apple-kortet hadde gitt ham 20 ganger kredittgrensen til kona. Dette til tross for at de leverte felles selvangivelse og at kona hans etter undersøkelse hadde en bedre kredittscore enn han. Apples medgründer Steve Wozniak svarte til tweeten og sa at også han hadde fått 10 ganger kredittgrensen til kona, selv om de ikke har separate eiendeler eller bankkontoer.

Resultat: Nå starter New Yorks avdeling for finansielle tjenester en etterforskning av Goldman Sachs, som administrerer kortet. Dets superintendent, Linda Lacewell, sa i et blogginnlegg at vakthunden ville undersøke om algoritmen som ble brukt til å ta disse kredittgrensebeslutningene bryter statlige lover som forbyr diskriminering på grunnlag av kjønn. Regulatoren har allerede nylig åpnet en etterforskning i rapporter om at en algoritme resulterte i at svarte pasienter fikk mindre omfattende behandling enn hvite pasienter.

Større problem: Goldman Sachs la ut en uttalelse på Twitter i helgen, og sa at kjønn ikke tas med i beregningen av kredittverdighet. Men den uforklarlige forskjellen i kortets kredittgrenser er nok et eksempel på hvordan algoritmisk skjevhet kan skapes utilsiktet. Algoritmer av den typen som brukes til å vurdere kredittverdighet er trent på år med historiske data, og skjevheter kan gli inn i prosessen på en rekke forskjellige måter.