211service.com
Facebooks annonsealgoritmer ekskluderer fortsatt kvinner fra å se jobber
Ms Tech | Pexels
Facebook holder tilbake visse stillingsannonser fra kvinner på grunn av deres kjønn, ifølge den siste revisjonen av annonsetjenesten.
Revisjonen , utført av uavhengige forskere ved University of Southern California (USC), avslører at Facebooks annonseleveringssystem viser forskjellige stillingsannonser til kvinner og menn, selv om jobbene krever de samme kvalifikasjonene. Dette anses som kjønnsbasert diskriminering i henhold til amerikansk lov om likestillingsmuligheter, som forbyr annonsemålretting basert på beskyttede egenskaper. Funnene kommer til tross for årevis med advokatvirksomhet og søksmål, og etter løfter fra Facebook om å overhale hvordan det leverer annonser.
Forskerne registrerte seg som annonsør på Facebook og kjøpte annonsepar for jobber med identiske kvalifikasjoner, men forskjellig demografi i den virkelige verden. De annonserte for to leveringsjobber, for eksempel: en for Domino's (pizzalevering) og en for Instacart (levering av dagligvare). Det er for tiden flere menn enn kvinner som kjører for Domino's, og omvendt for Instacart.
Selv om ingen målgruppe ble spesifisert på grunnlag av demografisk informasjon, en funksjon Facebook deaktivert for bolig-, kreditt- og stillingsannonser i mars 2019 etter å ha avgjort flere rettssaker, viste algoritmer fortsatt annonsene til statistisk distinkte demografiske grupper. Domino's-annonsen ble vist til flere menn enn kvinner, og Instacart-annonsen ble vist til flere kvinner enn menn.
Forskerne fant det samme mønsteret med annonser for to andre par med jobber: programvareingeniører for Nvidia (skjev mann) og Netflix (skjev kvinne), og salgsmedarbeidere for biler (skjev mann) og smykker (skjev kvinne).
Funnene tyder på at Facebooks algoritmer på en eller annen måte tar opp den nåværende demografiske fordelingen av disse jobbene, som ofte er forskjellige av historiske årsaker. (Forskerne var ikke i stand til å skjønne hvorfor det er, fordi Facebook ikke vil si hvordan annonseleveringssystemet fungerer.) Facebook reproduserer disse skjevhetene når det leverer annonser selv om det ikke er noen kvalifikasjonsbegrunnelse, sier Aleksandra Korolova, en adjunkt ved USC, som var medforfatter av studien sammen med hennes kollega John Heidemann og deres PhD-rådgiver Basileal Imana.
Relatert historie
Hvordan Facebook ble avhengig av å spre feilinformasjon Selskapets AI-algoritmer ga det en umettelig vane for løgner og hatefulle ytringer. Nå kan ikke mannen som bygde dem fikse problemet.
Studien gir de siste bevisene på at Facebook ikke har løst sine annonsediskrimineringsproblemer siden ProPublica først brakte saken frem i lyset i oktober 2016 . På den tiden avslørte ProPublica at plattformen tillot annonsører av jobb- og boligmuligheter å ekskludere visse målgrupper preget av egenskaper som kjønn og rase. Slike grupper får spesiell beskyttelse under amerikansk lov, noe som gjør denne praksisen ulovlig. Det tok to og et halvt år og flere juridiske trefninger for Facebook for å endelig fjerne den funksjonen .
Men noen måneder senere tok det amerikanske departementet for bolig- og byutvikling (HUD) ut et nytt søksmål, med påstand om at Facebooks annonseleveringsalgoritmer fortsatt ekskluderte publikum for boligannonser uten at annonsøren spesifiserte ekskluderingen. Et team av uavhengige forskere inkludert Korolova, ledet av Northeastern Universitys Muhammad Ali og Piotr Sapieżyński, bekreftet disse påstandene en uke senere . De fant for eksempel at hus til salgs ble vist oftere til hvite brukere og hus til leie ble vist oftere til minoritetsbrukere.
Korolova ønsket å ta saken opp på nytt med sin siste revisjon fordi bevisbyrden for jobbdiskriminering er høyere enn for boligdiskriminering. Selv om enhver skjevhet i visningen av annonser basert på beskyttede egenskaper er ulovlig når det gjelder bolig, anser amerikansk arbeidslov at det er forsvarlig hvis skjevheten skyldes legitime kvalifikasjonsforskjeller. Den nye metodikken kontrollerer denne faktoren.
Utformingen av eksperimentet er veldig ren, sier Sapieżyński, som ikke var involvert i den siste studien. Mens noen kan hevde at bil- og smykkesalgsmedarbeidere faktisk har forskjellige kvalifikasjoner, sier han, er forskjellene mellom å levere pizza og å levere dagligvarer ubetydelige. Disse kjønnsforskjellene kan ikke bortforklares med kjønnsforskjeller i kvalifikasjoner eller mangel på kvalifikasjoner, legger han til. Facebook kan ikke lenger si at [dette er] forsvarlig ved lov.
Utgivelsen av denne revisjonen kommer midt i økt gransking av Facebooks arbeid med AI-bias. I mars publiserte MIT Technology Review resultatene av en ni måneders etterforskning inn i selskapets ansvarlige AI-team, som fant ut at teamet, som først ble dannet i 2018, hadde unnlatt å jobbe med problemer som algoritmisk forsterkning av feilinformasjon og polarisering på grunn av dets blinkende fokus på AI-bias. Firmaet publiserte et blogginnlegg kort tid etter, understreker viktigheten av dette arbeidet og sier spesielt at Facebook søker å bedre forstå potensielle feil som kan påvirke annonsesystemet vårt, som en del av vårt pågående og bredere arbeid med å studere algoritmisk rettferdighet i annonser.
'Vi har tatt meningsfulle skritt for å løse problemer med diskriminering i annonser og har team som jobber med annonserettferdighet i dag,' sa Facebook-talsperson Joe Osborn i en uttalelse. «Vårt system tar hensyn til mange signaler for å prøve å vise folk annonser de vil være mest interessert i, men vi forstår bekymringene som tas opp i rapporten... Vi fortsetter å samarbeide tett med borgerrettighetssamfunnet, regulatorer og akademikere om disse viktige sakene.
Til tross for disse påstandene sier Korolova at hun ikke fant noen merkbar endring mellom 2019-revisjonen og denne i måten Facebooks annonseleveringsalgoritmer fungerer på. Fra det perspektivet er det faktisk veldig skuffende, for vi gjorde dem oppmerksom på dette for to år siden, sier hun. Hun har også tilbudt å jobbe med Facebook for å løse disse problemene, sier hun. «Vi har ikke hørt tilbake. For meg har de i hvert fall ikke tatt kontakt.'
I tidligere intervjuer sa selskapet at det ikke var i stand til å diskutere detaljene om hvordan det jobbet for å redusere algoritmisk diskriminering i annonsetjenesten på grunn av pågående rettssaker. Annonseteamet sa at fremgangen har vært begrenset av tekniske utfordringer.
Sapieżyński, som nå har gjennomført tre revisjoner av plattformen, sier dette ikke har noe med problemet å gjøre. Facebook har ennå ikke erkjent at det er et problem, sier han. Mens teamet løser de tekniske kneikene, legger han til, er det også en enkel midlertidig løsning: den kan slå av algoritmisk annonsemålretting spesifikt for bolig-, sysselsettings- og utlånsannonser uten å påvirke resten av tjenesten. Det er egentlig bare et spørsmål om politisk vilje, sier han.
Christo Wilson, en annen forsker ved Northeastern som studerer algoritmisk skjevhet, men som ikke deltok i Korolovas eller Sapieżyńskis forskning, er enig: Hvor mange ganger trenger forskere og journalister å finne disse problemene før vi bare aksepterer at hele annonsemålrettingssystemet er konkurs?