Selvfølgelig opprettholder teknologi rasisme. Den ble designet på den måten.

Kildefoto: Getty / Ms Tech

I dag smuldrer USA under vekten av to pandemier: koronavirus og politibrutalitet.

Begge forårsaker fysisk og psykisk vold. Både dreper og svekker svarte og brune mennesker uforholdsmessig. Og begge er animert av teknologi som vi designer, gjenbruker og distribuerer – enten det er kontaktsporing, ansiktsgjenkjenning eller sosiale medier.

Denne historien var en del av juli 2020-utgaven vår

• Se resten av saken
• Abonnere

Vi bruker ofte teknologi for å hjelpe til med å løse problemer. Men når samfunnet definerer, rammer inn og representerer mennesker av farger som problemet, gjør disse løsningene ofte mer skade enn nytte. Vi har designet ansiktsgjenkjenningsteknologier som retter seg mot kriminelle mistenkte på grunnlag av hudfarge. Vi har trente automatiserte risikoprofileringssystemer som uforholdsmessig identifiserer Latinx-folk som illegale innvandrere. Vi har utviklet kredittscoringsalgoritmer som uforholdsmessig identifiserer svarte mennesker som risikoer og hindrer dem i å kjøpe boliger, få lån eller finne jobber.

Så spørsmålet vi må konfrontere er om vi vil fortsette å designe og distribuere verktøy som tjener interessene til rasisme og hvit overherredømme,

Selvfølgelig er det ikke et nytt spørsmål i det hele tatt.

Uborgerlige rettigheter

I 1960 konfronterte demokratiske partiledere sitt eget problem: Hvordan kunne deres presidentkandidat, John F. Kennedy, støtte opp med avtagende støtte fra svarte mennesker og andre raseminoriteter?

En driftig statsviter ved MIT, Ithiel de Sola basseng , henvendte seg til dem med en løsning. Han ville samle velgerdata fra tidligere presidentvalg, mate dem inn i en ny digital prosesseringsmaskin, utvikle en algoritme for å modellere stemmeatferd, forutsi hvilke politiske posisjoner som ville føre til de mest gunstige resultatene, og deretter råde Kennedy-kampanjen til å handle deretter. Pool startet et nytt selskap, den Simulmatics Corporation , og gjennomførte planen hans. Han lyktes, Kennedy ble valgt, og resultatene viste frem kraften til denne nye metoden for prediktiv modellering.

Rasespenningen eskalerte gjennom 1960-tallet. Så kom den lange, varme sommeren 1967. Byer over hele landet brant, fra Birmingham, Alabama, til Rochester, New York, til Minneapolis, Minnesota, og mange flere i mellom. Svarte amerikanere protesterte mot undertrykkelsen og diskrimineringen de møtte i hendene på USAs strafferettssystem. Men president Johnson kalte det sivil uorden, og dannet Kerner-kommisjonen for å forstå årsakene til ghettoopptøyer. Kommisjonen kalte på Simulmatics.

Som en del av et DARPA-prosjekt som hadde som mål å snu strømmen av Vietnamkrigen, hadde Pools selskap jobbet hardt med å forberede en massiv propaganda og psykologisk kampanje mot Vietcong. President Johnson var ivrig etter å distribuere Simulmatics sin atferdspåvirkningsteknologi for å dempe nasjonens innenlandske trussel, ikke bare dens utenlandske fiender. Under dekke av det de kalte en mediestudie, bygget Simulmatics et team for det som utgjorde en storstilt overvåkingskampanje i de opprørsberørte områdene som fanget nasjonens oppmerksomhet den sommeren 1967.

Lag med tre medlemmer dro inn i områder der opptøyer hadde funnet sted den sommeren. De identifiserte og intervjuet strategisk viktige svarte mennesker. De fulgte opp for å identifisere og intervjue andre svarte innbyggere, på alle steder fra frisørsalonger til kirker. De spurte innbyggerne om hva de syntes om nyhetsmedienes dekning av opptøyene. Men de samlet inn data om så mye mer også: hvordan folk beveget seg i og rundt byen under urolighetene, hvem de snakket med før og under, og hvordan de forberedte seg på etterspillet. De samlet inn data om bruk av bomstasjoner, salg av bensinstasjoner og bussruter. De fikk innpass i disse samfunnene under påskudd av å prøve å forstå hvordan nyhetsmedier visstnok oppildnet opptøyer. Men Johnson og nasjonens politiske ledere prøvde å løse et problem. De hadde som mål å bruke informasjonen som Simulmatics samlet inn til å spore informasjonsflyt under protester for å identifisere påvirkere og halshugge protestenes lederskap.

De klarte ikke dette direkte. De drepte ikke folk, satte folk i fengsel eller forsvant dem i all hemmelighet.

Men på slutten av 1960-tallet hadde denne typen informasjon bidratt til å skape det som ble kjent som informasjonssystemer for strafferett. De spredte seg gjennom tiårene, og la grunnlaget for raseprofilering, prediktiv politiarbeid og rasemålrettet overvåking. De etterlot seg en arv som inkluderer millioner av svarte og brune kvinner og fengslede menn.

Reframing problemet

Svarthet og svarte mennesker. Begge vedvarer som vår nasjons – tør jeg si til og med vår verdens – problem. Da kontaktsporing først dukket opp i begynnelsen av pandemien, var det lett å se det som et nødvendig, men godartet helseovervåkingsverktøy. Koronaviruset var vårt problem, og vi begynte å designe nye overvåkingsteknologier i form av kontaktsporing, temperaturovervåking og trusselkartleggingsapplikasjoner for å hjelpe til med å løse det.

Men noe både merkelig og tragisk skjedde. Vi oppdaget at svarte, latinske og urbefolkning ble uforholdsmessig infisert og påvirket. Plutselig ble vi også et nasjonalt problem; vi truet uforholdsmessig med å spre viruset. Det ble forsterket da det tragiske drapet på George Floyd av en hvit politimann sendte tusenvis av demonstranter ut i gatene. Da plyndringa og opptøyene startet, ble vi – svarte – igjen sett på som en trussel mot lov og orden, en trussel mot et system som opprettholder hvit rasemakt. Det får deg til å lure på hvor lang tid det vil ta før rettshåndhevelse implementerer de teknologiene vi først utviklet for å bekjempe covid-19 for å dempe trusselen som svarte mennesker angivelig utgjør for nasjonens sikkerhet.

Hvis vi ikke vil at teknologien vår skal brukes til å opprettholde rasisme, må vi sørge for at vi ikke blander sosiale problemer som kriminalitet eller vold eller sykdom med svarte og brune mennesker. Når vi gjør det, risikerer vi å gjøre disse menneskene til problemene som vi bruker teknologien vår for å løse, trusselen vi designer den for å utrydde.

Charlton McIlwain er professor i medier, kultur og kommunikasjon ved New York University og forfatter av Svart programvare: Internett og raserettferdighet, fra AfroNet til Black Lives Matter

gjemme seg