211service.com
Facebooks annonseleveringsalgoritme diskriminerer etter kjønn og rase
Ms. Tech/ Logo: facebook
Algoritmer er partiske - og Facebooks er intet unntak.
Bare forrige uke ble teknologigiganten saksøkt av det amerikanske departementet for bolig- og byutvikling på grunn av måten den lot annonsører målrette annonsene sine etter rase, kjønn og religion – alle beskyttede klasser under amerikansk lov. Selskapet varslet at de ville slutte å tillate dette.
Men nye bevis viser at Facebooks algoritme, som automatisk bestemmer hvem som får vist en annonse, utfører den samme diskrimineringen uansett, og viser annonser til over to milliarder brukere på grunnlag av deres demografiske informasjon.
Et team ledet av Muhammad Ali og Piotr Sapiezynski ved Northeastern University kjørte en serie med ellers identiske annonser med små variasjoner i tilgjengelig budsjett, overskrift, tekst eller bilde. De fant ut at disse subtile justeringene hadde betydelig innvirkning på publikummet som nås av hver annonse – spesielt når annonsene var for jobber eller eiendom. Oppslag for førskolelærere og sekretærer ble for eksempel vist til en høyere andel kvinner, mens oppslag for vaktmestere og drosjesjåfører ble vist til en høyere andel av minoriteter. Annonser om boliger til salgs ble også vist til flere hvite brukere, mens annonser for utleie ble vist til flere minoriteter.
Vi har gjort viktige endringer i annonsemålrettingsverktøyene våre og vet at dette bare er et første skritt, en Facebook-talsperson sa i en uttalelse som svar på funnene. Vi har sett på annonseleveringssystemet vårt og har engasjert industriledere, akademikere og borgerrettighetseksperter om akkurat dette emnet – og vi utforsker flere endringer.
På noen måter burde dette ikke være overraskende – skjevhet i anbefalingsalgoritmer har vært et kjent problem i mange år. I 2013 publiserte for eksempel Latanya Sweeney, professor i regjering og teknologi ved Harvard, en artikkel som viste den implisitte rasediskrimineringen av Googles annonseleveringsalgoritme. Spørsmålet går tilbake til hvordan disse algoritmene fundamentalt fungerer. Alle er basert på maskinlæring , som finner mønstre i enorme mengder data og bruker dem på nytt for å ta beslutninger. Det er mange måter som skjevhet kan sive inn under denne prosessen, men de to mest tydelige i Facebooks tilfelle er knyttet til problemer under problemframing og datainnsamling.
Bias oppstår under problemframing når målet for en maskinlæringsmodell er feiljustert med behovet for å unngå diskriminering. Facebooks annonseringsverktøy lar annonsører velge mellom tre optimaliseringsmål: antall visninger en annonse får, antall klikk og mengden engasjement den mottar, og mengden salg den genererer. Men disse forretningsmålene har ingenting å gjøre med for eksempel å opprettholde lik tilgang til boliger. Som et resultat, hvis algoritmen oppdaget at den kunne tjene mer engasjement ved å vise flere hvite brukere boliger for kjøp, ville den ende opp med å diskriminere svarte brukere.
Bias oppstår under datainnsamling når treningsdata reflekterer eksisterende fordommer. Facebooks annonseringsverktøy baserer sine optimaliseringsbeslutninger på de historiske preferansene som folk har vist. Hvis flere minoriteter har engasjert seg i annonser for utleie tidligere, vil maskinlæringsmodellen identifisere det mønsteret og bruke det på nytt for alltid. Nok en gang vil det blindt tråkke nedover veien for arbeids- og boligdiskriminering – uten å bli eksplisitt bedt om å gjøre det.
Selv om denne atferden innen maskinlæring har blitt studert i ganske lang tid, gir den nye studien et mer direkte blikk på omfanget av dens innvirkning på folks tilgang til bolig og arbeidsmuligheter. Disse funnene er eksplosive! Christian Sandvig, direktør for Senter for etikk, samfunn og databehandling ved University of Michigan, fortalte Økonomen. Avisen forteller oss at [...] big data, brukt på denne måten, aldri kan gi oss en bedre verden. Faktisk er det sannsynlig at disse systemene gjør verden verre ved å akselerere problemene i verden som gjør ting urettferdig.
Den gode nyheten er at det kan være måter å løse dette problemet på, men det vil ikke være lett. Mange AI-forskere søker nå etter tekniske løsninger for maskinlæringsskjevhet som kan skape mer rettferdige modeller for nettannonsering. En nylig papir fra Yale University og Indian Institute of Technology, for eksempel, antyder at det kan være mulig å begrense algoritmer for å minimere diskriminerende atferd, om enn til en liten kostnad for annonseinntektene. Men beslutningstakere må spille en større rolle hvis plattformer skal begynne å investere i slike rettelser – spesielt hvis det kan påvirke bunnlinjen deres.
Dette dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.