211service.com
Hvorfor San Franciscos forbud mot ansiktsgjenkjenning bare er starten på en lang kamp
Et bilde av en gate i San Francisco Unsplash
San Francisco har blitt første amerikanske by som forbyr bruk av ansiktsgjenkjenning av sin regjering . Men selv om personvernforkjempere feirer, stopper ikke forordningen private selskaper fra å bruke ansikts-ID på måter som mange synes er skumle.
Det kan imidlertid være et første skritt.
Bruken av ansiktsgjenkjenningsteknologi har blitt stadig mer vanlig, til tross for bevis på at det feilidentifiserer ofte fargede personer . Aktivister advarer om at det kan føre til falske arrestasjoner, eller brukes til å spore folks oppholdssted og målrette meningsmotstandere som ikke har gjort noe galt .
De siste årene har tjenestemenn i San Francisco vært nødt til å gjette deres bruk av høyteknologiske overvåkingsverktøy. I 2009 stoppet politiet en sjåfør, Denise Green, og holdt henne under våpen mens hun ransaket bilen hennes , alt fordi en billeser feilaktig sa at den var stjålet. Green saksøkte og byen endte opp betaler henne 495 000 dollar . Slike episoder bidro utvilsomt til presset for et forbud, selv om San Franciscos politi for øyeblikket ikke bruker ansiktsgjenkjenningsteknologi.
På mange måter er det imidlertid ikke overraskende at den teknologibesatte byen er den første som begrenser teknologien. [Det er som hvordan] Silicon Valley-foreldre er mest sannsynlig å forby skjermtid for barna sine, sier Laura Noren, en dataetiker og visepresident for personvern og tillit hos Obsidian sikkerhet . Andre teknologikyndige byer vil sannsynligvis følge den, sier Noren, noe som forklarer hvorfor Oakland og Somerville i Massachusetts har allerede foreslått lignende forbud. Likevel tror hun et føderalt forbud er usannsynlig under Trump-administrasjonen.
Offentlig vs. privat
Imidlertid vil de flestes erfaring med ansiktsanalyse og -gjenkjenning ikke skje på grunn av politiovervåking. Snarere vil det være på grunn av ikke-statlige bestrebelser, som skolesikkerhetskameraer eller lagrer det vise forbrukermålrettede annonser . Disse bruken har samme risiko for feilidentifikasjon og diskriminering, men forbud som det i San Francisco vil ikke forby dem.
I ett eksempel på problemene som kan oppstå, en 18-åring saksøkte Apple forrige måned fordi, påsto han, et ansiktsgjenkjenningssystem i en av butikkene feilaktig knyttet ham til tyverier. (I følge Apple bruker de ikke slike systemer i sine butikker.) I et annet tilfelle, leietakere ved Atlantic Plaza Towers, en leilighetsbygning i New York City, kjemper mot utleiers plan om å erstatte et fjernkontrollsystem med et ansiktsgjenkjenningssystem . Teknologien er diskriminerende, sier leietakerne, fordi tårnbeboerne stort sett er fargede. Hvorfor valgte [eier] bygningen vår for å prøve dette systemet? Versus 11 andre bygninger som har en annen sminke? spør Icemae Downes, en av beboerne.
Et fullstendig forbud i privat sektor er imidlertid usannsynlig. Mange forbrukere bruker allerede FaceID for å låse opp iPhone-ene sine eller kjøpe videoringeklokker, som Googles Nest Hello, som identifisere kjente personer . Når fortellingen din er 'statlig overvåking', har det en tendens til å ha kraftig resonans, sier Joseph Jerome , politisk rådgiver for Privacy & Data Project ved Senter for demokrati og teknologi. Når du har å gjøre med privat sektor, begynner vi å ha debatter om hva som er gunstig innovasjon.
Slike debatter blir fort kompliserte. Hvis bedrifter bruker teknologi for ansiktsgjenkjenning, hvordan skal de varsle kundene? Hvilke rettigheter bør folk ha til å velge bort, og hvor enkel skal den prosessen være? Bør data noen gang gis eller selges til tredjeparter? Dette var noen av spørsmålene som dukket opp under diskusjon av en Washington State personvernlov som mislyktes tidligere i år, ifølge Jevan Hutson , en teknologipolitisk forsker ved University of Washington. De to sidene klarte ikke å bli enige om hvor sterke personvernrestriksjonene skulle være.
Likevel har det begynt å dukke opp restriksjoner på kommersiell bruk, sier Jennifer Lynch, direktør for overvåkingssøksmål ved Electronic Frontier Foundation. For eksempel, en lov i Illinois krever at selskaper innhenter samtykke før de samler inn noen form for biometriske data. Et tverrpolitisk lovforslag med et snevrere krav, den Personvernloven om kommersiell ansiktsgjenkjenning , er for tiden i komitéhøringer i kongressen.
Noren mener på sin side at selskaper vil etterstrebe et krav til nøyaktighetsterskel – faktisk foreslår at ansiktsgjenkjenning tillates så lenge de kan bevise at det ikke gjør for mange feil.
Til syvende og sist, sier Jerome, er det for tidlig å si hvor mye SF-forordningen vil påvirke kommersiell regulering. Jeg tror det vil presse debatten som stater og den føderale regjeringen har rundt ansiktsgjenkjenning, men om det fører til handling er uklart, sier han. Det var en lignende offentlig/privat splittelse over droner for noen år tilbake, legger Jerome til: mange lokale byer begrenset bruken av rettshåndhevelse, men gjorde lite for å regulere dem for kommersielle formål.