211service.com
Det er en krise med ansiktsgjenkjenning og politiarbeid i USA
Ms Tech | Unsplash
Da nyheten kom om at en feilaktig kamp fra et ansiktsgjenkjenningssystem hadde ført til at politiet i Detroit arresterte Robert Williams for en forbrytelse han ikke begikk, var det sent i juni, og landet var allerede i opprør etter George Floyds død en måned tidligere. . Like etter kom det frem at enda en svart mann, Michael Oliver, ble arrestert under lignende omstendigheter som Williams. Mens store deler av USA fortsetter å rope etter raserettferdighet, tar en roligere samtale form om ansiktsgjenkjenningsteknologi og politiet. Vi gjør klokt i å lytte.
Da Jennifer Strong og jeg begynte å rapportere om bruken av ansiktsgjenkjenningsteknologi av politiet for vår nye podcast, I maskiner vi stoler på , vi visste at disse AI-drevne systemene ble tatt i bruk av politiet over hele USA og i andre land. Men vi hadde ingen anelse om hvor mye som foregikk utenfor offentligheten.
For det første vet vi ikke hvor ofte politiavdelinger i USA bruker ansiktsgjenkjenning av den enkle grunn at de i de fleste jurisdiksjoner ikke trenger å rapportere når de bruker det til å identifisere en mistenkt i en forbrytelse. De de siste tallene er spekulative og fra 2016 , men de antyder at på den tiden hadde minst halvparten av amerikanerne bilder i et ansiktsgjenkjenningssystem. Ett fylke i Florida gjennomførte 8000 søk hver måned.
Vi vet heller ikke hvilke politiavdelinger som har ansiktsgjenkjenningsteknologi, fordi det er vanlig at politiet skjuler anskaffelsesprosessen deres. Det er for eksempel bevis på at mange avdelinger kjøper teknologien deres ved å bruke føderale tilskudd eller ideelle gaver, som er unntatt fra visse lover om offentliggjøring. I andre tilfeller tilbyr selskaper politiprøveperioder for programvaren deres som lar tjenestemenn bruke systemer uten noen offisiell godkjenning eller tilsyn. Dette lar selskaper som lager ansiktsgjenkjenningssystemer hevde at produktene deres er i stor bruk – og gir det ytre inntrykk at de er både populære og pålitelige verktøy for kriminalitetsløsning.
Beskyttede algoritmer som ikke fungerer
Men hvis ansiktsgjenkjenning er kjent for noe, er det hvor upålitelig den er. Som vi rapporterer i showet, i januar Londons Metropolitan Police debuterte et live ansiktsgjenkjenningssystem som i tester hadde en nøyaktighetsgrad på mindre enn 20 % . I New York City er Metro Transit Authority prøvde et system på større gjennomfartsveier med en rapportert hastighet på 0 % nøyaktighet. Systemene er ofte rasistisk partiske også - en studie fant at i noen kommersielle systemer, selv under laboratorieforhold feilrater ved identifisering av mørkere kvinner var rundt 35 %. Mens vi rapporterte for showet, fant vi ut at det ikke er uvanlig at politiet endrer bilder for å forbedre sjansene deres for å finne en match. Noen forsvarte til og med praksisen som kritisk for å gjøre godt politiarbeid.
To av de mest kontroversielle og avanserte selskapene på feltet, ClearviewAI og NTechLabs, hevder å ha løst skjevhetsproblemet og nådd nesten perfekt nøyaktighet. ClearviewAI hevder at den brukes av rundt 600 politiavdelinger i USA (noen eksperter vi snakket med var skeptiske til dette tallet). NTechLabs, basert i Russland, har signert for live video ansiktsgjenkjenning i hele byen Moskva.
Men det er nesten ingen måte å uavhengig bekrefte påstandene deres. Begge selskapene har algoritmer som sitter på databaser med milliarder av offentlige bilder. National Institute of Standards and Technology (NIST) tilbyr i mellomtiden en av få uavhengige revisjoner av ansiktsgjenkjenningsteknologi. NIST Vendor Test bruker et mye mindre datasett, som sammen med kvaliteten og mangfoldet til bildene i databasen begrenser kraften som revisjonsverktøy. ClearviewAI har ikke tatt NISTs siste test. NTechLabs har tatt den statiske bildetesten og prestert bra, men det er ingen for øyeblikket brukt test for live video ansiktsgjenkjenning. Det er heller ingen uavhengig test spesielt for skjevhet.
Gjenkjennelse i gatene
Den siste bølgen av Black Lives Matter-protester, utløst av Floyds død, har stilt spørsmål ved mye av det vi har akseptert om moderne politiarbeid, inkludert deres bruk av teknologi. Den mørke ironien er at når folk går ut i gatene for å protestere mot rasisme i politiet, har noen politi brukt banebrytende verktøy med en kjent rasemessig skjevhet mot de som er samlet. Det vet vi for eksempel Baltimore politiavdeling brukte ansikts-ID på demonstranter etter Freddie Grays død i 2015. Og vi vet at en håndfull avdelinger har sendt ut offentlige oppfordringer om opptak av årets protester. Det er dokumentert at politiet i Minneapolis har tilgang til en rekke teknologier, inkludert ClearviewAI sine tjenester . I følge Jameson Spivack fra Senter for personvern og teknologi ved Georgetown University, som vi intervjuer i showet, er det spesifikt rettet mot svarte politiske ytringer hvis ansiktsgjenkjenning brukes på BLM-protester.
Etter år med kamp for regulering, av hovedsakelig svarte og brunledede organisasjoner , vi har aldri vært i et bedre øyeblikk for å virkelig forandre oss. Microsoft, Amazon og IBM har alle annonsert seponeringer eller moratorier av deres ansiktsgjenkjenningsprodukter. I løpet av de siste månedene har en håndfull store amerikanske byer annonsert forbud eller moratorier på teknologien. På den annen side beveger teknologien seg raskt. Systemenes evner – så vel som potensialet for misbruk og misbruk – vil fortsette å vokse med stormskritt. Vi har allerede begynt å se politiavdelinger og teknologileverandører gå utover statiske, retrospektive ansiktsgjenkjenningssystemer til live videoanalyse som er integrert med andre typer datastrømmer som lydovervåkingssystemer.
Noen av politibetjentene vi snakket med sa at de ikke skulle sitte igjen med arkaiske verktøy for å bekjempe kriminalitet i det 21. århundre. Og det er sant at i noen tilfeller kan teknologi gjøre politiarbeid mindre voldelig og mindre utsatt for menneskelige skjevheter.
Men etter måneder med rapportering av lyd-miniseriene våre, satt jeg igjen med en følelse av anelse. Innsatsen vokser for hver dag, og så langt har publikum blitt liggende langt bak i sin forståelse av hva som skjer. Det er ikke klart hvordan det kommer til å endre seg med mindre alle mennesker på alle sider av denne saken kan være enige om at alle har rett til å bli informert.