Vi kan se føderal forskrift om ansiktsgjenkjenning allerede neste uke

AP-foto/John Minchillo, fil

10. mai sendte 40 påvirkningsgrupper et åpent brev krever permanent forbud om bruk av Amazons programvare for ansiktsgjenkjenning, Rekognition, av amerikansk politi. Brevet var adressert til Jeff Bezos og Andy Jassy, ​​selskapets nåværende og kommende administrerende direktører, og kom bare uker før Amazons årelange moratorium på salg til rettshåndhevelse var satt til å utløpe.

Brevet kontrasterte Bezos og Jassys vokale støtte til Black Lives Matter-forkjempere under forrige sommers raserettferdighetsprotester etter drapet på George Floyd med å rapportere at andre Amazon-produkter har blitt brukt av politi for å identifisere demonstranter .

17. mai, Amazon annonsert det ville forlenge moratoriet på ubestemt tid, og slutte seg til konkurrentene IBM og Microsoft i selvregulert skjærsild. Bevegelsen er et nikk til den politiske makten til gruppene som kjemper for å dempe teknologien – og en erkjennelse av at nye lovgivende kampområder begynner å dukke opp. Mange tror at betydelig føderal lovgivning sannsynligvis vil komme snart.

Folk er utslitte

Det siste året har vært sentralt for ansiktsgjenkjenning , med avsløringer av teknologiens rolle i falske arrestasjoner , og forbud mot det innført av nesten to dusin byer og syv stater over hele USA. Men momentumet har endret seg en stund.

I 2018 publiserte AI-forskere en studie sammenligner nøyaktigheten til kommersiell ansiktsgjenkjenningsprogramvare fra IBM, Microsoft og Face++. Arbeidet deres fant at teknologien identifiserte lysere menn mye mer nøyaktig enn kvinner med mørk hud; IBMs system scoret dårligst, med en forskjell på 34,4 % i feilrate mellom de to gruppene.

Også i 2018, ACLU testet Amazons anerkjennelse og fant ut at den feilidentifiserte 28 medlemmer av kongressen som kriminelle – en feil som uforholdsmessig påvirker fargede. Organisasjonen skrev sitt eget åpne brev til Amazon , og krever at selskapet forbyr offentlig bruk av teknologien, det samme gjorde Congressional Black Caucus — men Amazon gjorde ingen endringer.

(En talsperson for Amazon henviste MIT Technology Review til en motbevisning publisert i juli 2018 som beskriver problemer selskapet hadde med nøyaktigheten og metodene til ACLUs test.)

'Hvis vi skal forplikte oss til rasemessig likhet i strafferettssystemet ... er en av de enkleste og klareste tingene du kan gjøre å avslutte bruken av ansiktsgjenkjenningsteknologi.'

Kate Ruane, ACLU

Under raserettferdighetsbevegelsene mot politibrutalitet i fjor sommer, overrasket Amazon imidlertid mange ved å kunngjøre at de stopper politiets bruk av anerkjennelse, med unntak for føderale rettshåndhevere som ICE. Selskapets kunngjøring sa at det håpet at pausen kunne gi kongressen nok tid til å sette på plass passende regler.

Evan Greer er direktør for Fight for the Future, en teknologiadvokatgruppe som tror på avskaffelse av teknologi for ansiktsgjenkjenning og sier at det er økende offentlig støtte for at den skal reguleres. Hun sier at denne ukens forlengelse av moratoriet viser at Amazon reagerer på dette enorme presset de mottar, ikke bare rundt ansiktsgjenkjenning, og legger til at jeg virkelig gir enorm ære til de landsomfattende opprørene for raserettferdighet som har skjedd det siste året og en halv.

En politisk realitet

Selv om det bygges press på store teknologileverandører, er realiteten at de fleste rettshåndhevelses- og offentlige brukere ikke kjøper programvare for ansiktsgjenkjenning fra selskaper som Amazon. Så selv om moratorier og forbud er velkomne til fortalergrupper, hindrer de ikke nødvendigvis teknologiene i å bli brukt. Kongressen har i mellomtiden ennå ikke vedtatt noen føderal lovgivning om ansiktsgjenkjenning i rettshåndhevelse, myndigheter eller kommersielle omgivelser som vil regulere mindre leverandører.

Noen håper imidlertid at føderal lovgivning snart kommer, enten gjennom direkte kongressaksjoner, en presidentordre eller kommende lovforslag om bevilgninger og politireformer.

Jeg tror det beste scenarioet er at kongressen vedtar et moratorium for bruken av det, sier Kate Ruane, senior lovgivende rådgiver ved ACLU. Hun mener ny bruk først bør tillates etter mer lovarbeid.

Flere føderale lovforslag er allerede foreslått som vil begrense tilgangen til ansiktsgjenkjenning.

• De Lov om moratorium for ansiktsgjenkjenning og biometrisk teknologi oppfordrer til å forby bruk av programvaren av noen føderale enheter og holde tilbake føderale stipendpenger fra stater og lokale myndigheter som ikke vedtar sitt eget moratorium. Det ble foreslått av fire demokratiske medlemmer av kongressen og introdusert for Senatet i fjor.
• De George Floyd Justice in Policing Act ville forhindre bruk av ansiktsgjenkjenning i kroppskameraer. Lovforslaget har allerede vedtatt i Representantenes hus og forventes å nå Senatet denne uken som kommer. President Biden har bedt om at lovforslaget vedtas før årsdagen for George Floyds død 25. mai.
• De Fjerde endring er ikke til salgs-loven , et lovforslag fra to partier introdusert av 18 senatorer, begrenser regjeringen fra å samarbeide med teknologileverandører som bryter tjenestevilkårene. I praksis vil det i stor grad hindre myndighetenes tilgang til systemer som driver med nettskraping, som Clearview AI .

Mutale Nkonde, den grunnleggende administrerende direktøren for AI for the People, en ideell organisasjon som tar til orde for raserettferdighet innen teknologi, tror vi sannsynligvis vil se ytterligere føderal lovgivning ved midtveisvalget neste år.

Jeg tror det kommer til å bli innført føderal lovgivning som skal styre alle algoritmiske systemer, inkludert ansiktsgjenkjenning, sier Nkonde. Jeg tror det er en politisk realitet.

Nkonde sier konseptet med konsekvensutredninger som evaluerer teknologiske systemer på grunnlag av borgerrettigheter får gjennomslag i politiske sirkler på begge sider av midtgangen.

ACLU driver lobbyvirksomhet for Biden-administrasjonen for en utøvende ordre, og det nylig publiserte et brev med 40 andre grupper ber om et øyeblikkelig forbud mot offentlig bruk av teknologien.

Hvis vi skal forplikte oss til raserettferdighet, hvis vi skal forplikte oss til rasemessig rettferdighet i strafferettssystemet, kommer vi til å forplikte oss til den slags reformer, en av de enkleste og klareste tingene du kan gjøre er å avslutte bruken av ansiktsgjenkjenningsteknologi, sier Ruane.

Folk er bare mer radikale

I mellomtiden forventer Ruane at selvregulering forblir en av de mest effektive metodene for å hindre utvidet bruk av ansiktsgjenkjenning. Det er sannsynlig at føderale byråer som departementet for bolig, hjemlandsikkerhet og utdanning vil vurdere å innføre regler som forbyr bruk av teknologien .

Nkonde er optimistisk på at moratoriene vil utvide seg til forbud og mer permanent lovgivning: Jeg tror moratorier så ut til å være det som var mulig før George Floyd ble drept. Etter det er folk bare mer radikale.

Men Greer advarer om at for all fremdriften mot ansiktsgjenkjenning, kan det hende at lovgivning som fokuserer sterkt på systemenes rasemessige nøyaktighet ikke løser dypere problemer. Jeg tror det ville være en feil hvis politikere ser på nøyaktighet som det eneste problemet med ansiktsgjenkjenning som må tas tak i, sier hun. Industrien ville faktisk vært veldig fornøyd med en regning som for eksempel sier noe sånt som 'Hvis du skal selge et ansiktsgjenkjenningssystem, må det være 99% nøyaktig på mennesker av alle forskjellige raser og hudtoner.'

Selv om skjevheten ikke er bakt inn i systemet, har du fortsatt et partisk politisystem som nå blir akselerert og på en måte overladet med denne teknologien, legger hun til.

Denne historien har blitt oppdatert for å inkludere Amazons tilbakevisning til ACLUs test av Amazons anerkjennelsessystem i 2018.

gjemme seg