Googles nye AI-smildetektor viser hvordan å omfavne rase og kjønn kan redusere skjevhet

Kategori: Ukategorisert Lagt ut 04. desember

Datasyn blir stadig flinkere til å gjenkjenne ulike ansiktsuttrykk, men for visse grupper som ikke er tilstrekkelig representert i treningsdatasett, som raseminoriteter eller kvinner med androgyne trekk, kan algoritmer fortsatt underprestere.

En ny artikkel publisert i arXiv av Google har forskere forbedret toppmoderne smildeteksjonsalgoritmer ved å inkludere og trene rase- og kjønnsklassifiserere i modellen deres. Raseklassifisereren ble trent på fire raseundergrupper og to for kjønn (forskerne nevnte ikke rasegruppene, men bildene ser ut til å bestå av asiatiske, svarte, latinamerikanske og hvite mennesker).

Metoden deres oppnådde nesten 91 prosent nøyaktighet ved å oppdage smil i Faces of the World (FotW) datasettet, et sett med 13 000 bilder av ansikter samlet inn fra nettet som noen ganger brukes som målestokk for slike algoritmer. Det er en forbedring på litt over 1,5 prosent fra forrige merke. Resultatene viste en generell forbedret nøyaktighet over hele linja, og viste at oppmerksomhet på rase og kjønn kan gi bedre resultater enn å prøve å bygge en algoritme som er fargeblind.

Mange forskere er nølende med å inkludere klassifisere som dette under antagelsen om at det er lettere å være skyldig i skjevhet (eller i det minste bli anklaget for det) når systemet ditt har eksplisitte rase- eller kjønnskategorier. Google-teamets resultater viser at innsatsen som gjøres for å trene rase- eller kjønnsklassifiserere faktisk kan redusere skjevhetsproblemet. Forskerne brukte også klassifikasjoner som Kjønn 1 og Kjønn 2 for å unngå å introdusere ubevisste, samfunnsmessige skjevheter når det var mulig.

Selv med de lovende resultatene og omsorgen tatt for å være oppmerksom på skjevheter i alle dens former, inkluderte forskerne imidlertid en del i papiret sitt kalt Etiske betraktninger, der de tar seg bryet med å merke seg at arbeidet deres ikke er ment å motivere rase og kjønn identifikasjon som et sluttmål. De påpeker også at det ikke finnes noen gullstandard for å bryte ned rasekategorier, og at kjønn kanskje bør betraktes som et spekter i fremtidig arbeid, snarere enn en binær stat.