Det nye søksmålet som viser ansiktsgjenkjenning er offisielt et spørsmål om borgerrettigheter

ACLU

9. januar 2020 kjørte Detroit-politiet til forstaden Farmington Hill og arresterte Robert Williams i oppkjørselen hans mens hans kone og små døtre så på. Williams, en svart mann, ble anklaget for å ha stjålet klokker fra Shinola, en luksusbutikk. Han ble holdt i fengsel over natten.

Under avhør viste en offiser Williams et bilde av en mistenkt. Hans svar, som han fortalte ACLU , skulle avvise kravet. Dette er ikke meg, sa han til betjenten. Jeg håper dere ikke synes alle svarte ser like ut. Han sier at betjenten svarte: Datamaskinen sier at det er deg.

Relatert historie

Hva skjer når en algoritme tar feil

Det merkelige med Robert Williams falske arrestasjon var ikke at politiet brukte ansiktsgjenkjenning for å identifisere ham. Det er at de fortalte ham om det.

Williams urettmessige arrestasjon, som først ble rapportert av New York Times i august 2020 , var basert på en dårlig kamp fra Detroit Police Departments ansiktsgjenkjenningssystem. To til tilfeller av falske arrestasjoner har siden blitt offentliggjort. Begge er også svarte menn, og begge har tatt rettslige skritt.

Nå følger Williams i deres vei og går videre – ikke bare ved å saksøke avdelingen for hans urettmessige arrestasjon, men ved å prøve å få teknologien forbudt.

På tirsdag, ACLU og University of Michigan Law Schools Civil Rights Litigation Initiative anla søksmål på vegne av Williams, med påstand om at arrestasjonen krenket hans rettigheter til fjerde endring og var i strid med Michigans lov om borgerrettigheter.

Saken ber om erstatning, større åpenhet om bruken av ansiktsgjenkjenning, og en slutt på Detroit Police Departments bruk av ansiktsgjenkjenningsteknologi, enten direkte eller indirekte.

Hva søksmålet sier

De dokumenter innlevert tirsdag legge opp saken. I mars 2019 hadde DPD kjørt et kornete bilde av en svart mann med en rød hette fra Shinolas overvåkingsvideo gjennom sitt ansiktsgjenkjenningssystem, laget av et selskap kalt DataWorks Plus. Systemet returnerte en kamp med et gammelt førerkortbilde av Williams. Etterforskningsoffiserer inkluderte deretter Williams lisensbilde som en del av en fotoserie, og en Shinola-sikkerhetsentreprenør ( som faktisk ikke var tilstede på tidspunktet for tyveriet) identifiserte Williams som tyven. Offiserene innhentet en arrestordre, som krever flere sign-offs fra avdelingsledelsen, og Williams ble arrestert.

Klagen hevder at den falske arrestasjonen av Williams var et direkte resultat av ansiktsgjenkjenningssystemet, og at denne urettmessige arrestasjons- og fengslingssaken eksemplifiserer den alvorlige skaden forårsaket av misbruk av og tillit til ansiktsgjenkjenningsteknologi.

Saken inneholder fire punkter, hvorav tre fokuserer på mangelen på sannsynlig årsak til arrestasjonen mens en fokuserer på raseforskjellene i virkningen av ansiktsgjenkjenning. Ved å bruke teknologi som er empirisk bevist å feilidentifisere svarte mennesker til priser som er langt høyere enn andre grupper av mennesker, heter det, nektet DPD Mr. Williams den fulle og likeverdige gleden av Detroit Police Departments tjenester, privilegier og fordeler på grunn av hans rase eller farge.

Ansiktsgjenkjenningsteknologiens vanskeligheter med å identifisere mørkere personer er veldokumentert . Etter drapet på George Floyd i Minneapolis i 2020 kunngjorde noen byer og stater forbud og moratorier for politiets bruk av ansiktsgjenkjenning. Men mange andre, inkludert Detroit, fortsatte å bruke det til tross for økende bekymring.

Stoler på underordnede bilder

Da MIT Technology Review snakket med Williams ACLU-advokat, Phil Mayor, i fjor, understreket han at problemer med rasisme innen amerikansk rettshåndhevelse gjorde bruken av ansiktsgjenkjenning enda mer bekymringsfull.

Dette er ikke en situasjon med én dårlig skuespiller, sa ordfører. Dette er en situasjon der vi har et strafferettssystem som er ekstremt raskt å anklage, og ekstremt tregt til å beskytte folks rettigheter, spesielt når vi snakker om fargede personer.

Eric Williams, en senior advokat ved Economic Equity Practice i Detroit, sier at kameraer har mange teknologiske begrensninger, ikke minst at de er hardkodet med fargeområder for å gjenkjenne hudtone og ofte rett og slett ikke kan behandle mørkere hud.

'Jeg tror alle svarte i landet har hatt opplevelsen av å være på et bilde, og bildet blir enten lysere eller mørkere.'

Jeg tror alle svarte i landet har hatt opplevelsen av å være på et bilde, og bildet blir enten lysere eller mørkere, sier Williams, som er medlem av ACLU i Michigans advokatutvalg, men som ikke jobber med Robert. Williams sak. Belysning er en av hovedfaktorene når det kommer til kvaliteten på et bilde. Så det faktum at rettshåndhevelse til en viss grad stoler på virkelig dårlige bilder er problematisk.

Det har vært tilfeller som utfordret partiske algoritmer og kunstig intelligens-teknologier på grunnlag av rase. Facebook gjennomgikk for eksempel en massiv borgerrettighetsrevisjon etter at målrettede annonseringsalgoritmer ble funnet å vise annonser på grunnlag av rase, kjønn og religion. YouTube ble saksøkt et gruppesøksmål fra Black-skapere som påsto at deres AI-systemer profilerer brukere og sensurerer eller diskriminerer innhold på grunnlag av rase. YouTube ble også saksøkt av LHBTQ+-skapere som sa at innholdsmodereringssystemer flagget ordene homofil og lesbisk.

Noen eksperter sier at det bare var et spørsmål om tid før bruken av partisk teknologi av en stor institusjon som politiet ble møtt med juridiske utfordringer.

Relatert historie

Hvorfor 2020 var et sentralt, motstridende år for ansiktsgjenkjenning Raserettferdighetsbevegelsen presset problemer med teknologien inn i offentlig bevissthet - men til tross for skandaler og forbud, avtar ikke veksten.

Offentlig bruk av ansiktsgjenkjenning har helt klart en ulik innvirkning på fargede mennesker, sier Adam Schwartz, senior advokat ved Electronic Frontier Foundation. Studie etter studie viser at denne farlige teknologien har langt høyere forekomst av falske positiver for fargede personer sammenlignet med hvite. Derfor bryter myndighetenes bruk av denne teknologien lover som forbyr myndighetene å ta i bruk praksiser som forårsaker ulik innvirkning.

Men Mayor, Williams advokat, har ventet en tøff kamp. Han fortalte MIT Technology Review i fjor at han forventet at Detroit Police Department skulle gjøre det Fortsett å argumentere for at ansiktsgjenkjenning er et flott etterforskningsverktøy.

Williams-saken beviser at det ikke er det. Det er det ikke i det hele tatt, sa han. Og faktisk kan det skade folk når du bruker det som et etterforskningsverktøy.

Under mikroskopet

I en uttalelse sa Lawrence Garcia, advokaten for City of Detroit, at byen hadde som mål å 'oppnå en løsning' i saken, men sa at ansiktsgjenkjenning ikke var skyld i situasjonen.

«Som politisjefen har forklart, var arrestasjonen et resultat av elendig etterforskning – ikke feilaktig teknologi,» sa Garcia. «Detroit Police Department har gjennomført en intern etterforskning og har påtatt seg anklager om forseelser i forhold til flere medlemmer av avdelingen. Nye protokoller har blitt satt på plass av DPD for å forhindre at lignende problemer oppstår.'

Men Williams-drakten kommer på et kritisk tidspunkt for rase og politiarbeid i USA. Det ble arkivert da forsvarsadvokater begynte å argumentere i rettssaken mot Derek Chauvin, offiseren som er siktet for å ha myrdet George Floyd i Minneapolis i mai i fjor – og på den tredje dagen av protester som svar på skytingen av Daunte Wright i nærliggende Brooklyn Center, Minnesota. Wright, en 20 år gammel svart mann, ble stoppet for en trafikkstopp og arrestert under en arrestordre før offiseren Kim Potter skjøt og drepte ham, angivelig forvekslet med pistolen hennes for en taser.

Eric Williams sier at det er viktig å forstå ansiktsgjenkjenning i denne bredere sammenhengen med politifeil:

Da DPD bestemte seg for å kjøpe teknologien ... var det kjent at ansiktsgjenkjenningsteknologi var tilbøyelig til å feilidentifisere mennesker med mørkere hud før Mr. Williams ble tatt i varetekt, ikke sant? Til tross for dette, i en by som er over 80 % svart, valgte de å bruke denne teknologien.

Du setter tydeligvis mindre verdi på svarte menneskers liv og levebrød og sivile friheter enn du er på hvite mennesker. Det er bare for vanlig i det nåværende USA.

Denne historien har blitt oppdatert for å inkludere en uttalelse fra City of Detroit. Jennifer Strong bidro med rapportering til denne historien.

gjemme seg