Innbyggere vender ansiktsgjenkjenning til uidentifisert politi

Den nye serien av AI-podcasten vår, In Machines We Trust, handler om ansiktsgjenkjenning. I del én av serien utforsker Jennifer Strong og teamet ved MIT Technology Review de uventede måtene teknologien brukes på, inkludert hvordan den blir vendt mot politiet.

Vi møtes:

• Christopher Howell, dataforsker og demonstrant.

Studiepoeng:

Denne episoden ble rapportert og produsert av Jennifer Strong, Tate Ryan-Mosley og Emma Cillekens, og Karen Hao. Vi er redigert av Michael Reilly og Gideon Lichfield.

Transkripsjon:

[Annonse]

[TR ID]

Sterk: Et par ting har skjedd siden sist vi snakket om ansiktsgjenkjenning. Vi har sett flere steder flytte for å begrense bruken, samtidig som skoler og andre offentlige bygninger har begynt å bruke ansikts-ID som en del av deres covid-forebyggingsplaner. Vi bruker det til og med på dyr og ikke bare på ansikter med likheter med våre egne, som sjimpanser og gorillaer, kinesiske teknologifirmaer bruker det på griser, og kanadiske forskere jobber med å identifisere hvaler, til og med grizzlybjørner.

Med andre ord, antallet måter vi kan bruke denne teknologien eksploderer på, og bekymringene for om det er mulig, enn si en god idé. Og så utvides forbudene mot hvordan ansikts-ID kan brukes, fra Portland, Maine til Portland, Oregon, hvor de tøffeste restriksjonene for ansiktsgjenkjenning i landet skal tre i kraft neste år og forbyr ikke bare bruk av det av politiet, men kommersiell applikasjoner også.

Wheeler: Kolleger, vi er her i ettermiddag for å vurdere to forordninger som søker å forby bruken av ansiktsgjenkjenningsteknologier av vår egen byregjering i Portland og av private enheter i det offentlige rom.

Sterk: Det er Portland-ordfører Ted Wheeler som åpner bystyremøtet som vedtok disse lovforslagene i september. Som med de fleste ting i disse dager, fant de offentlige kommentarene og avstemningen sted på Zoom.

Wheeler: Portland er langt fra en anti-teknologiby, og jeg vil gjøre det helt klart. Vi er ikke anti-teknologi med et bredt spekter av lokale og nasjonale teknologiselskaper. Vi er et av de raskest voksende teknologiknutepunktene hvor som helst på vestkysten.

Sterk: I løpet av de neste timene sa advokater, programvareingeniører, bekymrede borgere og bedriftsledere sitt. Så, like før avstemningen fant sted. En siste person, en lokal dataforsker, rakte opp sin virtuelle hånd for å stille et spørsmål.

Wheeler: Christopher Howell... sist men ikke minst, velkommen.

Howell: Jeg vil gjerne uttrykke en betinget støtte til denne forordningen, men jeg har bekymringer.

Sterk: Det er fordi han bygger noe som bruker ansiktsgjenkjenning på en mindre enn vanlig måte.

Howell: Jeg er involvert i å utvikle ansiktsgjenkjenning som faktisk kan brukes på politifolk i Portland siden de ikke identifiserer seg for offentligheten og de begår forbrytelser. Ville dette blitt ulovlig hvis du vedtar denne forordningen?

[Musikk]

Sterk: Jeg heter Jennifer Strong og i løpet av de neste ukene skal vi gjøre et nytt dypdykk på fremveksten av ansiktsgjenkjenning. I denne siste miniserien vil vi utforske hvordan den brukes i sport både på idrettsutøvere og fans, hvordan den brukes i butikker og hvordan den brukes til å betjene hjemløse. Men først setter vi ting i gang med en titt på hvordan det blir vendt tilbake til politiet.

[VIS ID]

Sterk: Anonymiteten til politi og andre autoriteter er gjennomsyret av en virkelig komplisert historie. Det er en delikat balanse mellom personvern og ansvarlighet både sider for demonstranter og for politi.

[Lyden av Chicago-opptøyer.]

Sterk: Chicago Riots i 1968 avbrøt TV-ene til amerikanere over hele landet da de stilte inn for å se på Den demokratiske nasjonale konvensjonen, som ble holdt i Chicago det året.

[Lyden av Chicago-opptøyer.]

Sterk: Demonstranter demonstrerte mot Vietnamkrigen og mot Det demokratiske partiet. Etter sammenstøt med politiet i Grant Park, marsjerte demonstranter nedover Michigan Avenue til hotellet hvor mange av stevnedelegatene bodde. I 17 minutter så Amerika direkte da Illinois National Guard fyrte av tåregass... mens politiet slo demonstrantene.

[Lyden av Chicago-opptøyer. 'Hele verden ser på']

Sterk: Politiet hadde ikke på seg navneskilt, og dette er faktisk ganske vanlig når politiet håndterer demonstranter. Noen ganger er det lovlig, noen ganger er det ulovlig, og noen ganger er det til og med pålagt av sikkerhetshensyn som denne sommeren i Buffalo, New York.

Journalist: Buffalo-politiets kommissær sier at det var hans avgjørelse å la offiserer bære merkenumrene og ikke navnene deres på uniformene.

Kommisjonær: Det var en økende bekymring for trakassering hos offiserer og deres familie. For å la offiserer gjøre jobben sin uten frykt, tok jeg avgjørelsen på det tidspunktet.

Sterk: Men når det skjer, presser innbyggere og aktivister tilbake. Mange hevder at dette gir politiet enda mer makt enn de allerede har...fordi det blir nesten umulig å holde dem ansvarlige.

Intervjuobjekt: Vi trenger at rådet vårt står opp og snakker for de 255 000 menneskene du representerer og oppmuntrer og krever at denne politistyrken endrer politikken tilbake i stedet for å tenke utelukkende på et dusin eller så offiserer som ble trakassert, som kunne beskyttes under gjeldende gjeldende lov. .

Sterk: Men i god tid før hendelsene i sommer har folk forsøkt å identifisere uidentifiserte politifolk. De har brukt bilder fra protester, leting på sosiale medier, crowddsourcing via internett til og med ty til å stjele personlig informasjon. Som i tilfellet med et hackerkollektiv – kalt Anonymous. Det er kjent for å innrette seg etter Occupy Wall Street-protestene og kort ta ned New York Stock Exchanges nettsted. Den samme gruppen lekket senere privat informasjon den stjal fra politiets og regjeringens nettsteder, inkludert hjemmeadressene til politifolk.

Tulleringe: Du har nådd Baldwin County Sheriff's Office... [ring]

Sterk: I denne prank-callen krever de æren for hacket.

[Utdrag fra spøkesamtalen]

Sterk: Å avsløre de som utøver makt over andre er ikke unikt for USA. Tilbake i 2014, under Russlands annektering av Krim, husker du kanskje at soldater uten merker på sine grønne uniformer tok kontrollen. På den tiden nektet topptjenestemenn inkludert president Vladimir Putin gjentatte ganger at disse troppene var russiske.

Litt : Det er ingen tropper overhodet. Ingen russiske tropper i det minste.

Sterk: Dette er Russlands ambassadør til EU som snakker til journalister.

Ambassadør: USA som har tradisjon for å blande seg inn i andre land og sende tropper utenlands, kan opptre i henhold til sin egen mentalitet... vil jeg si. Men dette er ikke et tilfelle av russisk innblanding.

Sterk: Men det var. Ved å matche bilder, potensielt ved hjelp av ansiktsgjenkjenning, fastslo den ukrainske regjeringen at troppene faktisk var knyttet til russisk militær. Og de ga ut bilder som bevis. Senere innrømmet Putin også at troppene faktisk var russiske.

Putin-oversettelse: Selvfølgelig støttet de russiske tjenestemennene Krim-selvforsvarsstyrkene. De handlet sivilt, som jeg allerede har sagt, men en avgjørende og profesjonell måte.

[Musikk]

Sterk: Nå prøver demonstranter i økende grad å snu Face I-D tilbake til politiet – for å identifisere offiserer som bruker overdreven makt. Inkludert i Hong Kong, hvor dramatiske bilder av sammenstøt mellom demonstranter og politi i fjor dominerte nyhetsfeeds som viser politiet skyte levende kuler og demonstranter som angriper offiserer. Dette er New York Times reporter Paul Mozur som snakker på offentlig TV.

Mozur: Etter hvert som protestene har pågått, og politiet og Hongkonger fortsetter å slå ut uke etter uke, har ansiktet blitt bevæpnet og selve identiteten er på en måte bevæpnet. Du vet, demonstranter vil gå ut og politiet vil prøve å fange bildene deres på video og deretter gå tilbake og identifisere dem via alle sosiale medier og nettmateriell som er der ute og så omvendt. Vi så at politiet faktisk tok av seg merkene sine, så nå gjør demonstranter det samme mot politiet der de prøver å gå tilbake og bruke sosiale medier og finne ut hvilket politi som gjør hvilken handling. Spesielt en demonstrant, denne fyren Colin Cheung som vi fant, laget et ansiktsgjenkjenningsverktøy for å prøve å identifisere politiet... og han ga faktisk ikke ut produktet, men han sier at på grunn av at politiet målrettet ham.

Sterk: Og Cheung ble arrestert kort tid etter at han la ut om verktøyet på Facebook... men lignende forsøk pågår andre steder, inkludert Portland, Oregon.

Howell: Jeg tar nøyaktig samme teknologi som de bruker på oss. Og det er ikke slik at jeg prøver å doxe folk. Jeg mener, dette er for offiserer som i hovedsak bryter loven når det gjelder bruk av makt.

Sterk: Christopher Howell er en dataforsker og demonstrant.

Howell: Og jeg ville bare komme på posten. Hei, det er en annen måte vi kan bruke dette på. // Og egentlig handler det mer om, du vet, å holde presset på dem for å identifisere seg, i motsetning til at vi må gjøre det.

Sterk: Hans vitnesbyrd for bystyret i Portland om dette verktøyet han jobber med førte til at prosjektet hans ble dekket av The New York Times. Siden den gang har han fått en del oppmerksomhet, og det samme gjorde reaksjonen til Portlands ordfører, som kalte prosjektet skummelt.

Howell: Det er skummelt å la dem gå ut og rive gass på folk natt etter natt // og jeg, det var virkelig, for meg, bare et, slags grusomt øyeblikk av sånn, det er skummelt at disse gutta ikke har navnene deres. Du vet, at noen bare kan kle seg ut som en politimann du kjenner [ler]

Sterk: Han sier han startet prosjektet delvis bare for å se hvordan det ville fungere.

Howell: Jeg mener, det er en klar teknologisk nysgjerrighet der... og den slags, noe jeg kan gjøre når det er sent på kvelden og det er frustrerende å se disse tingene, nyhetene eller du går på Twitter og ser folks, alles videoer av protestene og ok, hva kan jeg gjøre? … og til syvende og sist vil jeg at det ikke skal være nødvendig. Jeg synes de bør bære navnene sine med høye bokstaver slik at vi slipper å bruke ansiktsgjenkjenning på politiet for å finne ut hvem de er.

Sterk: Å kunne identifisere en offiser handler ikke bare om å vite om noen faktisk er det... Det er ekstremt vanskelig å sende inn en klage mot noen uten å vite hvem personen er.

Howell: En av grunnene til at jeg startet dette var fordi du i rettssaker ikke kan navngi som politimannen som dyttet meg. Du må vite hvem det er. De vil bare si, vel, vi vet ikke hvem det var. Så det er ingen for deg å saksøke og prøver å få oversikt over hva bestemte offiserer gjorde, vil de ikke la deg fiske etter det. // Du må vite det, hvis du ga meg et bilde av, vet du, her er denne politimannen som slår noen med en stafettpinnen jeg vil, og vi skal finne ut av at du kan se ansiktet hans. Så vi skal finne ut hvem det er, hvordan gjør vi det? Og i utgangspunktet tenkte jeg mer på et omvendt bildesøk på en database. Som om jeg bare skal samle inn alle bildene jeg kan, og vi kan koble dem sammen slik at vi kan si at alle er den samme personen. Og så skjønte jeg at jeg kunne gjøre det bedre enn det.

Sterk: Han innså at han kunne bygge et ansikts-ID-verktøy ved å bruke bilder av offiserene fra internett.

Howell: Så jeg begynte å se på bildene deres der de er identifisert eller nyheter, du vet, gå lenger tilbake og få like nyhetsartikler.

Sterk: Prosjektet er teknisk enklere enn å bygge et system ment å identifisere hvem som helst.

Howell: Vi vet at hvem politiet er, vet du, det er det ikke, det skal ikke være folk i opprørsutstyr som ikke er politifolk. Så hvis du kan få alle bildene deres og det er den virkelige utfordringen, men da kan du ha et mindre vanskelig matematisk problem i den forstand å identifisere, ok, vi vet at denne personen er ute av dette settet. La oss finne ut hvilken av dem de er...

Sterk: Han sier at han har samlet inn tusenvis av bilder så langt ... for det meste manuelt fra Twitter og nyhetsartikler i gjennomsnitt 15 til 20 eller så for hver offiser han har identifisert.

Howell: Mange av de første bildene var fra Twitter. Mye av det var meg som gikk inn i nyhetsartikler. // Jeg mener, trafikkulykken, en er, du vet, nyhetshistorie er et så godt eksempel. For jeg fant en haug av dem. Eller som fellesgrill og det er uniformerte offiserer der og det navngir dem.

Sterk: Det er ikke akkurat samme skala som ansikts-ID-systemene som brukes av politiet ...

Howell : Jeg gjør akkurat dette akkurat nå på et Python-skript - du vet, alt er lokalt på den bærbare datamaskinen min.

Sterk: ...de er vanligvis trent på fotosett på millioner eller milliarder.

Howell: Fordi jeg tror at nøyaktigheten er viktig og, eh, og antallet bilder er lite nok til at hvis jeg prøvde å sette ansiktet mitt inn der, vil jeg ikke ha en Chris Howell til.

Sterk: Men det er akkurat nok bilder til at det ser ut til å gjøre susen. Han sier at verktøyet hans allerede har blitt brukt til å bekrefte identiteten til en offiser i en sak som er på vei til retten.

Howell: Noen brakte meg et bilde jeg ikke hadde funnet og sa, hjelp meg, du vet, du bruker systemet ditt og fortell meg hva det står. Og hun visste allerede hvem hun trodde det var, men hun fortalte meg det ikke. Og så var toppresultatet det som var forventet.

Sterk: Når det gjelder hvor dette går videre, er det noen som kan gjette, selv om han kan forestille seg en dag da det kan brukes i samarbeid med byen.

Howell: Jeg kunne se en fremtid, kanskje år fra nå, når ting er litt annerledes der byen gjør noe slikt tilgjengelig og arrangerer det selv og får dem til å ta en haug med bilder slik at vi kan ha en godt trent ting. Så som en lignende innbyggertilbakemelding. Og, og det trenger ikke nødvendigvis være negative ting, men på en måte at det også kan brukes til klager. Jeg mener, en del av meg tror det er en bruk for dem å samarbeide med myndighetene selv for å si, hei, vi vil være ansvarlige. Jeg tror ikke det er veldig realistisk i 2020, men jeg tror det, det kan ikke være langt unna! [latter]

Sterk: Noe han ikke vil er å gjøre det åpen kildekode.

Howell: Jeg tror ikke det er en god ide for noen å få det til å være som offentlig ansikt på et nettsted. Tenk at det er, det er å be om at ting skal gå galt utover som de virkelig åpenbare tingene du kan ha, folk, du vet, falske ting eller med vilje sette inn villedende bilder ...

[Musikk]

Sterk: Portlands forbud mot ansikts-ID vil tre i kraft i januar, men Howells prosjekt? Det vil ikke bli påvirket. Offentlige skoler, religiøse institusjoner, til og med hvordan ansiktsgjenkjenning brukes på flyplassen, for eksempel måten flyselskaper som Delta går ombord på passasjerene sine. Ingenting av det vil bli påvirket heller. Lokale myndigheter vil ikke kunne bruke det. Og det vil ikke være tillatt i de fleste offentlige rom eller private rom som er åpne for publikum, som et kjøpesenter. Lokalt politi vil heller ikke få lov til å bruke teknologien selv om folk i deres private hjem, som Christopher Howell, vil få det. Forbudene gjelder heller ikke for rettshåndhevelse på statlig eller føderalt nivå.

På en måte er bruken av denne overvåkingsteknologien i ferd med å bli et slags globalt våpenkappløp mellom offentligheten og autoritetsfigurer, som begge håper å fjerne anonymitetens forside for å oppmuntre til god oppførsel. Det er vanskelig å se hvem vinneren kan være, men taperen er absolutt privatlivet.

I neste episode...

Utdrag : Det er ikke traumeorientert å la noen gå inn i et anlegg og si, ja, du kan absolutt komme inn, men la meg bare ta fingeravtrykkene dine.

Sterk: Vi ser på tiltaket for å bruke ansiktsgjenkjenning i offentlige boliger og tilfluktsrom for hjemløse.

Utdrag : Ansiktsgjenkjenning er snillere følelsesmessig ved at den er passiv, den berører dem ikke og du kan fange den raskere og det er ingen risiko for overføring.

Sterk: Denne episoden ble rapportert og produsert av meg, Tate Ryan-Mosley, Karen Hao og Emma Cillekens. Vi er redigert av Michael Reilly og Gideon Lichfield.

Takk for at du lyttet, jeg heter Jennifer Strong.

[TR ID]

gjemme seg