211service.com
Å gjøre ansiktsgjenkjenning mindre partisk gjør det ikke mindre skummelt
Busà Photography/Getty
I løpet av de siste årene har det vært en dramatisk økning i bruken av teknologi for ansiktsgjenkjenning, deteksjon og analyse.
Du er nok mest kjent med Anerkjennelse systemer, som Facebooks anbefaling for bildemerking og Apples FaceID, som kan identifisere spesifikke individer. Gjenkjenning systemer på den annen side bestemmer om et ansikt i det hele tatt er tilstede; og analyse systemer prøver å identifisere aspekter som kjønn og rase. Alle disse systemene brukes nå til en rekke formål, fra ansettelse og detaljhandel til sikkerhet og overvåkning .
Mange tror at slike systemer er både svært nøyaktige og upartiske. Logikken er at flyplassens sikkerhetspersonale kan bli slitne og politiet kan feilvurdere mistenkte, men et godt trent AI-system bør konsekvent kunne identifisere eller kategorisere ethvert bilde av et ansikt.
Men i praksis har forskning gjentatte ganger vist at disse systemene håndterer noen demografiske grupper mye mer unøyaktig enn andre. I fjor, Kjønnsnyanser , en banebrytende studie ledet av MIT Media Lab-forsker Joy Buolamwini, fant at kjønnsklassifiseringssystemer solgt av IBM, Microsoft og Face++ hadde en feilrate så mye som 34,4 prosentpoeng høyere for mørkere kvinner enn lysere menn. ACLU i Nord-California lignende funnet at Amazons plattform var mer sannsynlig å feilidentifisere ikke-hvite enn hvite medlemmer av kongressen.
Problemet er at ansiktsgjenkjennings- og analysesystemer ofte trenes på skjeve datasett: de mates med langt færre bilder av kvinner og mennesker med mørk hud enn de er bilder av menn og mennesker med lys hud. Og mens mange av dem visstnok er testet for rettferdighet, kontrollerer ikke disse testene ytelsen på et bredt nok spekter av ansikter – slik Buolamwini fant. Disse forskjellene opprettholder og befester ytterligere eksisterende urettferdighet og fører til konsekvenser som bare forverres etter hvert som innsatsen blir høyere.
Tre nye artikler utgitt den siste uken bringer nå sårt tiltrengt oppmerksomhet til dette problemet. Her er en kort beskrivelse av hver av dem.
Papir #1. Sist torsdag, Buolamwini utgitt en oppdatering til Gender Shades ved å teste systemene hun tidligere hadde undersøkt på nytt og utvide anmeldelsen til å inkludere Amazons anerkjennelse og et nytt system fra et lite AI-selskap kalt Kairos. Det er noen gode nyheter. Hun fant ut at IBM, Face++ og Microsoft alle forbedret nøyaktigheten av kjønnsklassifiseringen for kvinner med mørk hud, med Microsoft som reduserte feilraten til under 2 %. På den annen side hadde Amazons og Kairos plattformer fortsatt nøyaktighetsgap på henholdsvis 31 og 23 prosentpoeng mellom lysere hanner og mørkere kvinner. Buolamwini sa studien viser at disse teknologiene må revideres eksternt for å holde dem teknisk ansvarlige.
Papir #2. På søndag, a studere fra MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) demonstrerte effektiviteten til en ny algoritme for å redusere skjevheter i et ansiktsdeteksjonssystem selv når det er trent på sterkt partiske data. Mens den trener, identifiserer den også hvilke eksempler i dataene som er underrepresentert og bruker ekstra tid på å se på dem for å kompensere. Da forskerne testet systemet mot Buolamwinis Gender Shades-datasett, fant de ut at det bidro til å lukke deres eget største nøyaktighetsgap, mellom menn med lysere og mørkere hud, sammenlignet med en standard treningsalgoritme (selv om det ikke eliminerte det helt) .
Papir #3. I morges ga IBM Research ut en papir som identifiserer dusinvis av funksjoner for å måle mangfold utover hudfarge og kjønn, inkludert hodehøyde, ansiktsbredde, avstand mellom øynene og alder. Funnene er basert på tidligere forskning på menneskelige ansikter. Med mindre vi har mål på ansiktsmangfold, sier John Smith, en av medforfatterne av avisen, kan vi ikke komme tilbake og håndheve dem mens vi trener disse ansiktsgjenkjenningssystemene. I forbindelse med dette ga teamet ut et nytt datasett med 1 million bilder av ansikter, kommentert med disse nye tiltakene.
Ulike mål på ansiktsmangfold, presentert i IBM Researchs nye artikkel. IBM Research
Hver av disse studiene har tatt viktige skritt for å adressere skjevheter i ansiktsgjenkjenning – ved å holde selskaper ansvarlige, ved å lage nye algoritmer og ved å utvide vår forståelse av datamangfold. Men å skape mer rettferdige og mer nøyaktige systemer er bare halve kampen.
Selv de mest rettferdige og mest nøyaktige systemene kan fortsatt brukes til å krenke folks sivile friheter. I fjor, et Daily Beast etterforskning fant ut at Amazon aktivt presenterte sin ansiktsovervåkingsplattform til US Immigration and Customs Enforcement, bedre kjent som ICE, for å hjelpe til med å slå ned migrantmiljøer. En avskjæring etterforskning fant også at IBM utviklet evnen til å identifisere etnisiteten til ansikter som en del av et langsiktig partnerskap med New York Police Department. Denne teknologien ble deretter distribuert i offentlige overvåkingskameraer for testing, uten kunnskap fra byens innbyggere. Allerede bruker UK Metropolitan Police ansiktsgjenkjenning til skanne offentlige folkemengder for folk på overvåkningslister, og Kina bruker det til masseovervåkning av alle innbyggere, for formål inkludert sporing av dissidenter.
Som svar på den raske spredningen av disse systemene, har et økende antall borgerrettighetsaktivister og teknologer har bedt om at de skal reguleres; Google har til og med suspendert sitt salg av slike systemer inntil det har klare strategier for å forhindre misbruk av dem.
Uten algoritmisk rettferdighet kan algoritmisk nøyaktighet/teknisk rettferdighet skape AI-verktøy som er bevæpnet, sier Buolamwini.
Denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.