NYPD brukte et kontroversielt ansiktsgjenkjenningsverktøy. Her er det du trenger å vite.

Getty

Det har vært en travel uke for Clearview AI, det kontroversielle ansiktsgjenkjenningsselskapet som bruker 3 milliarder bilder skrapet fra nettet for å drive en søkemotor for ansikter. 6. april publiserte Buzzfeed News en database med over 1800 enheter – inkludert statlig og lokalt politi og andre skattebetalerfinansierte byråer som helsevesen og offentlige skoler – som den sier har brukt selskapets kontroversielle produkter. Mange av disse byråene svarte på anklagene ved å si at de bare hadde prøvd teknologien og ikke hadde noen formell kontrakt med selskapet.

Men dagen før var definisjonen av en rettssak med Clearview detaljert når den ideelle nyhetssiden Muckrock utgitt e-poster mellom New York Police Department og selskapet. Dokumentene, innhentet gjennom forespørsler om informasjonsfrihet fra Legal Aid Society og journalisten Rachel Richards, sporer et vennlig toårig forhold mellom avdelingen og teknologiselskapet i løpet av hvilken tid NYPD testet teknologien mange ganger, og brukte ansiktsgjenkjenning i direkte etterforskning. .

Relatert historie

Det er en krise med ansiktsgjenkjenning og politiarbeid i USA Den dypt mangelfulle teknologien er i utstrakt bruk, stort sett ute av offentligheten

NYPD har tidligere bagatellisert forholdet til Clearview AI og bruken av selskapets teknologi. Men e-postene viser at forholdet mellom dem var godt utviklet, med et stort antall politifolk som foretok et høyt volum av søk med appen og brukte dem i reelle etterforskninger. Det har NYPD kjøre over 5100 søk med Clearview AI.

Dette er spesielt problematisk fordi uttalte retningslinjer begrenser NYPD fra å opprette et uovervåket lager av bilder som ansiktsgjenkjenningssystemer kan referere til, og begrense bruken av ansiktsgjenkjenningsteknologi til et spesifikt team. Begge retningslinjene ser ut til å ha blitt omgått med Clearview AI. E-postene avslører at NYPD ga mange offiserer utenfor ansiktsgjenkjenningsteamet tilgang til systemet, som er avhengig av et enormt bibliotek med offentlige bilder fra sosiale medier. E-postene viser også hvordan NYPD-offiserer lastet ned appen til sine personlige enheter, i strid med uttalte retningslinjer, og brukte den kraftige og forutinntatt teknologi på en uformell måte.

Clearview AI driver et kraftig nevralt nettverk som behandler fotografier av ansikter og sammenligner deres nøyaktige måling og symmetri med en massiv database med bilder for å foreslå mulige treff. Det er uklart hvor nøyaktig teknologien er, men den er mye brukt av politiavdelinger og andre offentlige etater. Clearview AI har vært sterkt kritisert for sin bruk av personlig identifiserbar informasjon, sin beslutning om å krenke folks personvern ved å skrape bilder fra internett uten deres tillatelse, og dets valg av klientell.

E-postene strekker seg over en periode fra oktober 2018 til februar 2020, fra når Clearview AI-sjef Hoan Ton-That ble introdusert for NYPDs viseinspektør Chris Flanagan. Etter innledende møter inngikk Clearview AI en leverandørkontrakt med NYPD i desember 2018 på en prøvebasis som varte til neste mars.

Dokumentene viser at mange enkeltpersoner ved NYPD hadde tilgang til Clearview under og etter denne tiden, fra avdelingsledelse til junioroffiserer. Gjennom utvekslingene oppmuntret Clearview AI til mer bruk av tjenestene deres. (Se om du kan nå 100 søk, oppfordret instruksjonene til offiserer.) E-postene viser at prøvekontoer for NYPD ble opprettet så sent som i februar 2020, nesten et år etter at prøveperioden ble sagt å ha avsluttet.

Vi gjennomgikk e-postene og snakket med toppovervåking og juridiske eksperter om innholdet. Her er det du trenger å vite.

NYPD løy om omfanget av forholdet til Clearview AI og bruken av ansiktsgjenkjenningsteknologien

Det fortalte NYPD BuzzFeed-nyheter og New York Post tidligere at det ikke hadde noe institusjonelt forhold til Clearview AI, formelt eller uformelt. Avdelingen avslørte at den hadde prøvd Clearview AI, men e-postene viser at teknologien ble brukt over en vedvarende tidsperiode av et stort antall mennesker som fullførte et stort volum av søk i reelle undersøkelser.

I en utveksling sa en detektiv som jobber i avdelingens ansiktsgjenkjenningsenhet, at appen fungerer utmerket. I en annen sa en offiser i NYPDs identitetstyverigruppe at vi fortsetter å motta positive resultater og har fortsatt med å arrestere. (Vi har fjernet fullstendige navn og e-postadresser fra disse bildene; andre personlige detaljer ble redigert i originaldokumentene.)

Albert Fox Cahn, administrerende direktør ved Surveillance Technology Oversight Project, en ideell organisasjon som tar til orde for avskaffelse av politiets bruk av ansiktsgjenkjenningsteknologi i New York City, sier at postene klart motsier NYPDs tidligere offentlige uttalelser om bruken av Clearview AI.

Her har vi et mønster av offiserer som får Clearview-kontoer – ikke for uker eller måneder, men i løpet av år, sier han. Vi har bevis på møter med tjenestemenn på høyeste nivå i NYPD, inkludert ansiktsidentifikasjonsseksjonen. Dette er ikke noen få offiserer som bestemmer seg for å gå av og få en prøvekonto. Dette var en systematisk bruk av Clearviews ansiktsgjenkjenningsteknologi for å målrette New Yorkere.

Videre NYPD beskrivelse av bruken av ansiktsgjenkjenning , som er påkrevd under en nylig vedtatt lov, sier at etterforskere sammenligner sondebilder tatt under undersøkelser med en kontrollert og begrenset gruppe fotografier som allerede er i besittelse av NYPD. Clearview AI er kjent for sin database med over 3 milliarder bilder skrapet fra nettet.

NYPD jobber tett med immigrasjonshåndhevelse, og offiserer henviste Clearview AI til ICE

Dokumentene inneholder flere e-poster fra NYPD som ser ut til å være henvisninger for å hjelpe Clearview med å selge teknologien sin til Department of Homeland Security. To polititjenestemenn hadde både NYPD og Homeland Security-tilknytning i e-postsignaturen, mens en annen offiser identifiserte seg som medlem av en arbeidsgruppe for Homeland Security.

Det ser ut til å være så mye kommunikasjon, kanskje datadeling og så mye uregulert bruk av teknologi.

New York er utpekt som en helligdomsby, noe som betyr at lokal rettshåndhevelse begrenser samarbeidet med føderale immigrasjonsbyråer. Faktisk NYPDs ansiktsgjenkjenning policyerklæring sier at informasjon ikke deles for å fremme immigrasjonshåndhevelse og tilgang vil ikke bli gitt til andre byråer med det formål å fremme håndhevelse av innvandring.

Jeg tror en av de store fordelene er hvor lovløst og uregulert interaksjonene og overvåkings- og datadelingslandskapet er mellom lokalt politi, føderal rettshåndhevelse, immigrasjonshåndhevelse, sier Matthew Guariglia, analytiker ved Electronic Frontier Foundation. Det ser ut til å være så mye kommunikasjon, kanskje datadeling og så mye uregulert bruk av teknologi.

Cahn sier at e-postene umiddelbart ringer alarmklokker, spesielt siden mye informasjon om rettshåndhevelse går gjennom sentrale systemer kjent som fusjonssentre.

Du kan hevde at du er en helligdomsby alt du vil, men så lenge du fortsetter å ha disse DHS-oppgavestyrkene, så lenge du fortsetter å ha informasjonsfusjonssentre som tillater sanntidsdatautveksling med DHS, gjør du det løftet til en løgn.

Mange offiserer ba om å bruke Clearview AI på sine personlige enheter eller gjennom sine personlige e-postkontoer

Minst fire offiserer ba om tilgang til Clearviews app på sine personlige enheter eller via personlige e-poster. Avdelingsenheter er nøye regulert, og det kan være vanskelig å laste ned applikasjoner til offisielle NYPD-mobiltelefoner. Noen offiserer valgte tydelig å bruke sine personlige enheter når avdelingens telefoner var for restriktive.

Clearview svarte på denne e-posten, Hei William, du bør ha en oppsett-e-post i innboksen din snart.

Jonathan McCoy er en digital rettsmedisinsk advokat i Legal Aid Society og deltok i innlevering av forespørselen om informasjonsfrihet. Han fant bruken av personlige enheter spesielt plagsom: Min takeaway er at de aktivt prøvde å omgå NYPDs retningslinjer og prosedyrer som sier at hvis du skal bruke teknologi for ansiktsgjenkjenning, må du gå gjennom FIS (ansiktsidentifikasjonsseksjonen) og de må bruke teknologien som allerede er godkjent av NYPD-grossisten. NYPD har allerede et ansiktsgjenkjenningssystem, levert av et selskap som heter Dataworks.

Relatert historie

Aktivisten demonterer rasistiske politialgoritmer Hamid Khan vinner kampen for avskaffelse av overvåkingsteknologi som brukes av LAPD

Guariglia sier det peker på en holdning av uforsiktighet fra både NYPD og Clearview AI. Jeg ville blitt forferdet over å høre at politifolk brukte Clearview på sine personlige enheter for å identifisere personer som deretter bidro til arrestasjoner eller offisielle NYPD-etterforskninger, sier han.

Bekymringene disse e-postene reiser er ikke bare teoretiske: de kan tillate politiet å bli utfordret i retten, og til og med få saker omgjort på grunn av manglende overholdelse av prosedyren. McCoy sier at Legal Aid Society planlegger å bruke bevisene fra e-postene til å forsvare klienter som har blitt arrestert som et resultat av en etterforskning som brukte ansiktsgjenkjenning.

Vi ville forhåpentligvis ha grunnlag for å gå i retten og si at den domfellelsen som ble oppnådd gjennom bruk av programvaren ble gjort på en måte som ikke var i samsvar med NYPDs retningslinjer og prosedyrer, sier han. Siden Clearview er en uprøvd og upålitelig teknologi, kan vi argumentere for at bruken av en slik teknologi skadet kundens rettigheter.

gjemme seg