211service.com
Hvorfor 2020 var et sentralt, motstridende år for ansiktsgjenkjenning
Alexander Farnsworth | Getty
Amerikas første bekreftede urettmessige arrestasjon med ansiktsgjenkjenningsteknologi skjedde i januar 2020. Robert Williams, en svart mann, ble arrestert i oppkjørselen hans like utenfor Detroit, med kona og lille datter som så på. Han tilbrakte natten i fengsel. Dagen etter i avhørsrommet skled en detektiv et bilde over bordet til Williams av en annen svart mann som hadde blitt tatt på video og stjal klokker fra butikken Shinola.
Er dette deg? spurte han .
Nei, det er ikke meg. Williams svarte.
Detektiven passerte et annet bilde. Jeg antar at dette ikke er deg heller?
Williams holdt bildet ved siden av ansiktet sitt. Det var tydeligvis ikke han. Williams sa: Dette er ikke meg. Jeg håper du ikke synes alle svarte ser like ut.
Datamaskinen sier at det er deg, svarte detektiven.
Det nye med arrestasjon av Robert Williams var ikke at det skjedde, eller at det var en feil. Ansiktsgjenkjenning er kjent for å være mindre nøyaktig for personer med mørk hud. Og teknologien er mye brukt av politiavdelinger i USA, selv om det ikke er gode data om hvor omfattende den er. Den uvanlige delen av Williams historie er at politiet innrømmet å ha brukt ansiktsgjenkjenning i arrestasjonen hans.
Nyheten om saken ble offentlig i begynnelsen av august, og - etter en sommer med protester fokusert på måten svarte samfunn er politi på i Amerika - ble den møtt med landsomfattende forargelse. Et par uker senere kom en annen urettmessig arrestasjon av en svart mann i Detroit på grunn av ansiktsgjenkjenningsteknologi.
Allerede før dette hadde aktivister krevd en slutt på Project Greenlight, det byomfattende offentlig-private initiativet som bruker ansiktsgjenkjenning i et forsøk på å redusere kriminalitet. Og likevel er ikke bare prosjektet fortsatt i gang: i slutten av september stemte bystyret for å forlenge kontrakten mellom Detroit Police Department og dets ansiktsgjenkjenningsleverandør, DataWorks Plus.
Et år med motsetninger
Begivenhetene i Detroit eksemplifiserer vårt kompliserte forhold til ansiktsgjenkjenning akkurat nå. Bruken er økende, og på noen områder har teknologien blitt integrert. I andre, for eksempel detaljhandel, begynner ansiktsgjenkjenning å bli rullet ut med store forhåpninger for fremtiden. Mange teknologileverandører satser på at publikum vil bli stadig mer komfortabel med bruken av biometri, og snart vil det bli en organisk del av det digitale livet: Apple har satset tungt på det, og nå bruker millioner av mennesker deres Face ID-system for å låse opp deres iPhone hver dag.
Men publikum har også fått en ny bevissthet om farene ansiktsgjenkjenning utgjør, spesielt innen strafferettspleien. Det er betydelig mer bevissthet, mer bekymring og mer samtale nå enn noen gang før, og i år har det sett mer lovgivning om ansiktsgjenkjenning enn alle tidligere år til sammen. Det var forbud eller moratorier i seks byer over hele USA i 2019, og det samme igjen i år.
Å forene disse lovene med veksten i industrien vil være vanskelig. Men hendelsene i 2020 gir noen ledetråder om hvordan disse kompromissene kan utspille seg i løpet av det kommende året.
Små aktører, stor industri
I januar, New York Times publiserte en undersøkelse av ClearviewAI, et lite ansiktsgjenkjenningsselskap som kjørte sin algoritme på en database med milliarder av bilder hentet fra sosiale medier. Politiavdelinger som brukte ClearviewAIs system fikk effektivt tilgang til Facebook-bildene dine for å matche ofte uskarpe eller ufullstendige politibilder under etterforskning.
Selskapet ble sterkt kritisert, og påfølgende rapportering av BuzzFeed News viste at systemet ble brukt av så mange som 2200 rettshåndhevelsesbyråer i USA, samt av Immigration and Customs Enforcement, Department of Justice og forhandlere inkludert Macy's og Walmart.
Clearview-historien skremte virkelig mange mennesker – som den burde, sier Jameson Spivack, en policymedarbeider ved Georgetown Universitys senter for personvern og teknologi. Mange av bekymringene fokuserer på hvor fragmentert feltet er. Mens store selskaper som IBM og Microsoft er betydelige krefter, er det også mange mindre private selskaper, som ClearviewAI og NtechLab, som opererer med lite offentlig tilsyn. Rapporteringen avslørte også hvor lite publikum visste om den utbredte myndighetenes bruk av teknologien.
Katalysatoren: Raseprotester
Disse historiene økte bevisstheten om problemene, men Spivack sier at Black Lives Matter-protestene etter drapet på George Floyd var den største enkeltstående katalysatoren for lovgivning som begrenser bruken av ansiktsgjenkjenning i USA. Amerikanere begynte plutselig å revurdere politiarbeid og dets verktøy, retningslinjer og kultur.
Bekymringen hadde begynt å vokse etter at forskerne Joy Buolamwini og Timnit Gebru oppdaget og dokumentert rasemessig skjevhet i kommersielle ansiktsgjenkjenningsprodukter i 2018, noe som førte til at flere byer og stater vedta lover som hindret politiet i å bruke ansiktsgjenkjenning sammen med kroppskameraer.
Men under den største protestbevegelsen i amerikansk historie, aktivistene var bekymret at politiets overvåkingsteknologier ville bli brukt til gjengjeldelse. Det har siden blitt bekreftet at i det minste New York , Miami , og Washington, DC, politiavdelingen s brukte ansiktsgjenkjenning for å overvåke demonstranter.
1. juni i Washington, DC, brukte politiet pepperkuler og tåregass for å presse tilbake demonstranter på Lafayette Square slik at president Trump kunne få en fotomulighet ved en kirke i nærheten. Midt i kaoset slo en demonstrant en politimann. Dager senere fant betjentene et bilde av mannen på Twitter og kjørte det gjennom ansiktsgjenkjenningssystemet deres, fikk en fyrstikk og arresterte. Tilsvarende i Miami ble en kvinne anklaget for å ha kastet stein mot politiet under en protest arrestert på grunnlag av en ansiktsgjenkjenningskamp.
Spivack så grasrotaktivister mot ansiktsgjenkjenning samarbeide tett med politireformgrupper gjennom sommeren og høsten, ledet av andre fortalergrupper som American Civil Liberties Union. I Portland, Oregon, opprettet en demonstrant til og med et ansiktsgjenkjenningssystem for å identifisere anonyme politifolk .
Etter hvert som 2020 gikk, ble det foreslått lovgivning for å begrense politiets bruk av slik teknologi på kommunalt, statlig og til og med føderalt nivå. I juni introduserte demokratiske lovgivere et lovforslag som ville forby bruken av ansiktsgjenkjenning av føderal rettshåndhevelse. I Vermont opprettet en executive order fra guvernøren et statlig forbud mot regjeringens bruk av teknologien. I Massachusetts vedtok byene Cambridge og Boston forbud mot teknologien i sommer, og delstatsmyndighetene godkjente forbud mot ansiktsgjenkjenning for offentlige etater, som inkluderer rettshåndhevelse, i desember; Guvernør Charlie Baker er for tiden nekter å signere regningen .
California startet sin egen debatt om statsdekkende lovgivning i mai, og byene San Francisco og Oakland har allerede forbudt bruk av ansiktsgjenkjenning av rettshåndhevelse. I juli innførte New York City et moratorium for ansiktsgjenkjenning i skoler frem til 2022. I Portland, Oregon, forbyr et nytt byomfattende forbud bruk av teknologien av enhver offentlig eller privat gruppe.
Men dette skiftet skjer ikke overalt, som gjenforpliktelsen til overvåking i Detroit viser. Spivack spekulerer i at rasemessig maktdynamikk kan påvirke den politiske kampen rundt politiovervåking. Hvis du ser på mange av byene som var noen av de første som forbød ansiktsgjenkjenning, var de vanligvis – ikke alltid, men typisk – rikere, hvitere, veldig progressive, kanskje med mer politisk kapital og evne til å påvirke lovgivere, mer så enn mer marginaliserte samfunn, sier han.
Et nasjonalt perspektiv?
Ikke alle reaksjonene har imidlertid tatt form av lovgivning. I begynnelsen av juni kunngjorde IBM at de hadde sluttet å selge noen av sine ansiktsgjenkjenningsprodukter. Amazon og Microsoft fulgte etter ved å midlertidig avbryte kontraktene sine med politiavdelinger. Og i juli sendte ACLU inn et søksmål mot ClearviewAI for ikke å overholde Illinois Biometric Information Privacy Act – den første fullstendige juridiske utfordringen til selskapet.
Microsoft, Amazon, IBM og industrigrupper som Security Industry Association forbereder seg på kamp. De dramatisk økte mengden lobbyvirksomhet på ansiktsgjenkjenning fra 2018 til 2019, og det er forventet at 2020 vil vise en enda større økning. Mange er for økt regulering, men ikke forbud. Amazons moratorium avsluttes i juni, og Microsofts er betinget av innføringen av en føderal lov.
I mellomtiden fortsetter ACLU å utarbeide lovforslag som søker å forby teknologien. En uttalelse på nettsiden sin leser at organisasjonen går til domstolene, gatene, lovgiverne, byrådene og til og med bedriftens styrerom for å forsvare våre rettigheter mot de økende farene ved denne uregulerte overvåkingsteknologien.
Prioriteringene til den nye administrasjonen vil også prege reguleringen i 2021 og fremover. Som presidentkandidat, Kamala Harris siterte regulering av ansiktsgjenkjenning i rettshåndhevelse som en del av hennes politireformplan. Hvis administrasjonen presser på for føderal lovgivning, er det mer sannsynlig at det blir et nasjonalt spørsmål, med det resultat at færre ressurser vil bli rettet til flere lokale tilsynskampanjer. Men hvis ikke, vil kampen sannsynligvis fortsette å spille på delstats- og bynivå.