Aktivisten demonterer rasistiske politialgoritmer

Damon Casarez

Hamid Khan har vært samfunnsarrangør i Los Angeles i over 35 år, med konsekvent fokus på politivold og menneskerettigheter. Han snakket med oss ​​3. april 2020 for en kommende podcastepisode om kunstig intelligens og politiarbeid. Mens verden retter oppmerksomheten mot politibrutalitet og institusjonell rasisme, tenkte vi at samtalen vår med ham om hvordan han mener teknologi muliggjør rasisme i politiarbeid burde publiseres nå.

Khan er grunnleggeren av Stop LAPD Spying Coalition, som har vunnet mange landemerke rettssaker på vegne av minoritetsmiljøene den kjemper for. Dens arbeid er kanskje mest kjent for talsmann mot prediktivt politiarbeid. 21. april, noen uker etter dette intervjuet, LAPD kunngjorde en slutt på alle prediktive politiprogrammer .

Khan er en kontroversiell figur som har avslått partnerskap med grupper som Electronic Frontier Foundation (EFF) på grunn av sin vekt på reform. Han tror ikke reformen vil fungere. Intervjuet er redigert for lengde og klarhet.

Fortell oss om arbeidet ditt. Hvorfor bryr du deg om politiovervåking?

Arbeidet vi gjør, spesielt ved å se på Los Angeles Police Department, ser på hvordan overvåking, informasjonsinnsamling, lagring og deling historisk har blitt brukt til å virkelig forårsake skade, spore, spore, overvåke, forfølge bestemte samfunn: samfunn som er fattige, som er svarte og brune, samfunn som vil bli ansett som mistenkte, og skeive transkropper. Så på ulike nivåer er overvåking en prosess med sosial kontroll.

Tror du det er en rolle for teknologi i politiarbeid?

Stop LAPD Spying Coalition har noen få veiledende verdier. Den første er at det vi ser på ikke er et øyeblikk i tid, men en fortsettelse av historien. Overvåking har vært brukt i hundrevis av år. Noen av de tidligste overvåkingsprosessene går tilbake til lanternelovene i New York City på begynnelsen av 1700-tallet. Hvis du var en slaveret person, en svart eller en urbefolkning, og hvis du gikk ut i det offentlige området uten din herre, måtte du gå med en faktisk bokstavelig lykt, med stearinlysene og alt, for å identifisere deg selv. deg selv som mistenkt, som den andre.

En annen veiledende verdi er at det alltid er en annen. Historisk sett er det alltid en trussel mot systemet. Det er alltid en kropp, et individ eller grupper av mennesker som anses som farlige. De anses som mistenkte.

Den tredje verdien er at vi alltid er ute etter å desensasjonalisere retorikken om nasjonal sikkerhet. For å holde det veldig enkelt og greit [vi prøver å vise] hvordan miljøet for informasjonsinnhenting og informasjonsdeling beveger seg og hvordan det er en prosess for å holde øye med alle.

Algoritmer har ingen plass i politiarbeid.

Og en av våre siste ledende verdier er at vår kamp er forankret i menneskerettigheter. Vi er en voldsom avskaffelsesgruppe, så målet vårt er å avvikle systemet. Vi engasjerer oss ikke i reformistisk arbeid. Vi anser også enhver policyutvikling rundt åpenhet, ansvarlighet og tilsyn som en mal for oppdragskryp. Hver gang overvåking blir legitimert, er det åpent for å utvides over tid. Akkurat nå kjemper vi for å holde dronene på bakken i Los Angeles, og vi klarte å holde dem på bakken i noen år. Og i slutten av mars kunngjorde Chula Vista-politiet i San Diego at de kommer til det utstyre dronene sine med høyttalere for å overvåke bevegelsen til personer uten hus.

Kan du forklare arbeidet Stop LAPD Spying Coalition har gjort med prediktivt politiarbeid? Hva er problemene med det fra ditt perspektiv?

PredPol var stedsbasert prediktivt politiarbeid der et sted på 500 x 500 kvadratmeter ble identifisert som et hot spot. Det andre ledsagerprogrammet, Operation Laser, var personbasert prediktivt politiarbeid.

I 2010 så vi på de ulike måtene disse [LAPD-overvåkings]-programmene ble iverksatt på. Prediktivt politi var et nøkkelprogram. Vi lanserte formelt en kampanje i 2016 for å forstå virkningen av prediktivt politiarbeid i Los Angeles med mål om å demontere programmet, bringe denne informasjonen til samfunnet og kjempe tilbake.

Personbasert prediktivt politiarbeid hevdet at for enkeltpersoner som kalles personer av interesse eller vaneforbrytere, som kan ha hatt en historie tidligere, kunne vi bruke et risikovurderingsverktøy for å fastslå at de kom til å gjenta seg. Så det var et tallspill. Hvis de hadde våpenbesittelse tidligere, ble de tildelt fem poeng. Hvis de var på prøveløslatelse eller prøvetid, ble de tildelt fem poeng. Hvis de var gjengtilknyttede, ble de tildelt fem poeng. Hvis de hadde hatt interaksjoner med politiet som en stopp-og-frisk, ville de blitt tildelt ett poeng. Og dette ble der enkeltpersoner som var på prøveløslatelse eller prøveløslatelse eller passet på sin egen virksomhet og gjenoppbygget livene sine, deretter ble plassert i det som ble kjent som et program for kroniske lovbrytere, uten at mange mennesker visste det.

Så plassering blir kriminalisert, folk blir kriminalisert, og det er bare noen sekunder unna før pistolen kommer ut og noen blir skutt og drept.

Deretter, basert på denne risikovurderingen, hvor Palantir behandler alle dataene , opprettet LAPD en liste. De begynte å gi ut bulletiner, som var som en Most Wanted-plakat med disse personenes bilder, adresser og historie også, og satte dem i patruljebiler. [De] begynte å distribuere nummerskiltlesere, stingrayen, IMSI-Catcher, CCTV og diverse andre teknologier for å spore bevegelsene deres, og deretter skape forhold på bakken for å stoppe og trakassere og skremme dem. Vi bygde mye grasrotkraft, og i april 2019 ble Operation Laser formelt demontert. Den ble avviklet.

Og akkurat nå går vi etter PredPol og krever at PredPol også skal demonteres. [LAPD kunngjorde slutt på PredPol 21. april 2020.] Målet vårt for avskaffelse og avvikling av dette programmet er ikke bare forankret i søppel inn, søppel ut; rasistiske data inn og rasistiske data ut. Vårt arbeid er virkelig forankret i at det til syvende og sist tjener hele det ideologiske rammeverket av patriarkat og kapitalisme og hvit overherredømme og kolonialisme fra nybyggere.

Vi har gitt ut en rapport, Før kulen treffer kroppen, i mai 2018 om prediktivt politiarbeid i Los Angeles, noe som førte til at byen Los Angeles holdt offentlige høringer om datadrevet politiarbeid, som var det første av sitt slag i landet. Vi krevde en rettsmedisinsk revisjon av PredPol av riksinspektøren. I mars 2019 ga generalinspektøren ut tilsynet og den sa at vi ikke engang kan revidere PredPol fordi det bare ikke er mulig. Det er så, så komplisert.

Algoritmer har ingen plass i politiarbeid. Jeg tror det er avgjørende at vi forstår at det er liv som står på spill. Dette språket for stedsbasert politiarbeid er i seg selv en proxy for rasisme. De er ikke der for å politie jettegryter og trær. De er der for å politifolk på stedet. Så plassering blir kriminalisert, folk blir kriminalisert, og det er bare noen sekunder unna før pistolen kommer ut og noen blir skutt og drept.

Teamlederne for Stop LAPD Spying Coalition Hamid Khan (til høyre), Jamie Garcia (i midten) og Gen Dogon (til venstre) i Skid Row-området i LA, hvor koalisjonen har sitt hovedkvarter.

DAMON CASAREZ

Hvordan sikrer du at publikum forstår denne typen polititaktikker?

Offentlige registre er et veldig godt verktøy for å få informasjon. Hva er opphavet til dette programmet? Vi vil vite: Hva var visjonen? Hvordan ble det formulert? Hva er formålet med finansieringen? Hva er vokabularet de bruker? Hva er resultatene de presenterer for finansiereren?

Jeg er et menneske, og jeg er ikke her for at du bare pakker meg ut og begynner å eksperimentere med meg og så pakker meg.

De [LAPD] ville anse et område, en bygård, som hot spots og soner. Og folk ble stoppet i et mye raskere tempo [der]. Hver gang du stopper noen, går den informasjonen inn i en database. Det ble et stort datainnsamlingsprogram.

Vi krevde at de skulle frigi den hemmelige listen de hadde over disse personene. LAPD kjempet tilbake, og vi vant det offentlige søksmålet. Så nå har vi en hemmelig liste med 679 personer, som vi nå ser etter å nå ut til. Og disse er alle unge individer, hovedsakelig 90 % til 95 % svarte og brune.

Redlinering av området skaper forhold på bakken for mer utvikling, mer gentrifisering, mer utkastelse, mer forflytning av mennesker. Så politiet ble beskyttere av privat eiendom og beskyttere av privilegier.

Hva sier du til folk som tror at teknologi kan bidra til å dempe noen av disse problemene i politiarbeid, for eksempel skjevheter, fordi teknologi kan være objektiv?

For det første fungerer ikke teknologien av seg selv. Fra design til produksjon til distribusjon til resultatet, er det konstant innebygd skjevhet. Det er ikke bare skjevhetene til menneskene selv; det er den iboende skjevheten inne i systemet .

Det er så mange påvirkningspunkter at vår kamp, ​​helt ærlig, ikke er for å rydde opp i dataene. Kampen vår er ikke for en objektiv algoritme, fordi vi ikke tror at selv matematisk kan det finnes en objektiv algoritme for politiarbeid i det hele tatt.

Hva er menneskerettighetshensynet når det gjelder polititeknologi og overvåking?

Den første menneskerettigheten ville være å slutte å bli eksperimentert på. Jeg er et menneske, og jeg er ikke her for at du bare pakker meg ut og begynner å eksperimentere med meg og så pakker meg. Det er så mye datafiksering av livene våre som har skjedd. Fra plantasjekapitalisme til rasisert kapitalisme til nå også overvåkingskapitalisme, vi er underlagt å bli kjøpt og solgt. Vårt sinn og våre tanker har blitt varslet. Det har en fordummende effekt også på vår kreativitet som mennesker, som en del av et naturlig univers. Samtykke blir produsert av oss.

Med noe som koronavirus ser vi absolutt at noen mennesker er villige til å gi opp noen av dataene sine og noe av privatlivet. Hva synes du om valget eller avveiningen mellom nytte og personvern?

Vi må virkelig se på det gjennom en mye bredere linse. Gå tilbake til en av våre veiledende verdier: ikke et øyeblikk i tid, men en fortsettelse av historien. Så vi må se på kriser i fortiden, både reelle og oppdiktede.

La oss se på OL i 1984 i Los Angeles. Det førte til den mest massive utvidelsen av politimyndigheter og militarisering av Los Angeles politiavdeling og sheriffavdelingen under dekke av offentlig sikkerhet. Saken var Vel, vi vil holde alt trygt. Men ikke bare ble det en permanent funksjon og den nye normalen, men taktikk ble også utviklet. Fordi gater måtte ryddes opp, ble mistenkte kropper, folk som ikke var innkvartert, tvangsfjernet. Gjengsveep begynte visstnok å skje. Så unge svarte og brune ungdommer ble arrestert i massevis. Dette er som 1983, som fører til 1984.

I 1986-1987 i Los Angeles ble gjengpåbud et permanent innslag. Dette resulterte i massive gjengdatabaser, og barn helt ned til ni måneder gamle gikk inn i disse gjengdatabasene. Det ble Operasjon Hammer, hvor de hadde skaffet stridsvogner og pansrede kjøretøyer, brukt av SWAT, for å levere narkotikaforbrytelser på lavt nivå, og å gå ned og bryte ned folks hjem.

Nå er vi igjen på et øyeblikk. Det er ikke bare den strukturelle utvidelsen av politimyndigheter; vi må se på at politiet nå i økende grad påtar seg roller som sosialarbeidere. Det har blitt bygget de siste 10 årene. Det er mye helse- og menneskelige tjenester knyttet til det også. For eksempel, i Los Angeles, bykontrolløren kom ut med tilsyn for omtrent fem år siden, og de så på 100 millioner dollar for hjemløsetjenester som byen tilbyr. Vel, gjett hva? Av det skulle 87 millioner dollar til LAPD.

Kan du gi et spesifikt eksempel på hvordan politiets bruk av teknologi påvirker samfunnsmedlemmer?

Etterretningsledet politiarbeid er et konsept som kommer ut av England, ut av Kent Constabulary, og startet for rundt 30 år siden i USA. Det sentrale temaet for etterretningsledet politiarbeid er atferdsovervåking. Folks oppførsel må overvåkes, og deretter behandles, og den informasjonen må deles. Folk må spores og spores.

Det finnes ikke noe som heter snillere, mildere rasisme, og disse programmene må demonteres.

Ett program kalt Suspicious Activity Reporting kom ut av 9/11, der flere aktiviteter som er fullstendig konstitusjonelt beskyttet er oppført som potensielt mistenkelige. For eksempel å ta bilder offentlig, bruke videokameraer offentlig, gå inn i infrastruktur og spørre om timer med operasjoner. Det er observert oppførsel som er en rimelig indikasjon på preoperativ planlegging av kriminell og/eller terroraktivitet. Så du observerer noens oppførsel, noe som med rimelighet indikerer at det ikke er noen sannsynlig årsak. Det skaper ikke et faktum, men en bekymring. At spekulativt og anelsebasert politiarbeid er ekte.

Vi var i stand til å få tall fra LAPDs See Something, Say Something-program. Og det vi fant var at det var en 3:1 uensartet innvirkning på det svarte samfunnet. Omtrent 70 % av disse See Something, Say Something-rapportene kom fra hovedsakelig hvite samfunn i Los Angeles. Så nå blir et program bevæpnet og blir en lisens for raseprofilering.

Målet er alltid å bygge kraft mot avskaffelse av disse programmene, fordi du ikke kan reformere dem. Det finnes ikke noe som heter snillere, mildere rasisme, og disse programmene må demonteres.

Så du tror virkelig at reformen ikke vil tillate bruk av disse teknologiene i politiarbeid?

Jeg kan bare snakke om min egen historie med 35 år med organisering i LA. Det er ikke et spørsmål om å bli bedre, det er et spørsmål om å bli verre. Og jeg tror teknologien fremmer det. Når du ser på reformhistorien, fortsetter vi å slå hodet i veggen, og det fortsetter å komme tilbake til den samme gamle greia. Vi kan egentlig ikke operere under antagelsen om at hjerter og sinn kan endre seg, spesielt når noen har lisens til å drepe.

Jeg er ikke en teknolog. Vår forsiktighet er for teknologene: du vet, hold deg i din kjørefelt. Følg fellesskapet og følg deres veiledning.

gjemme seg