211service.com
FBIs ansiktsgjenkjenningsprogram er omfattende og unøyaktig
Smil: kanskje du blir feilidentifisert.
I fjor lærte vi om den bemerkelsesverdige skalaen til FBIs ansiktsgjenkjenningsteknologi, med tilgang til nesten 412 millioner bilder – mange stammer fra kilder som ikke er relatert til kriminalitet, for eksempel ID-dokumenter. Etterretningsbyrået har forsøkt å lage et system som nøyaktig kan identifisere kriminelle i, for eksempel, CCTV-opptak – selv om det ikke da var kjent hvor godt byråets programvare fungerte, og heller ikke om det faktisk forbedret etterforskningen.
Nå har vi i det minste litt mer innsikt i programmet. De Verge rapporter at en høring i husets tilsynskomité i forrige uke avslørte noen interessante nye detaljer om spredningen og evnene til FBIs ansiktsgjenkjenningssystemer.
For det første er det en veldig god sjanse for at du som amerikaner dukker opp i databasen. Blant de mange millioner bildene, viser det seg, er likhetene til rundt halvparten av landets voksne befolkning. Det er mulig fordi bilder som er hentet fra kilder som ikke er relatert til kriminalitet, utgjør 80 prosent av databasen. Så når du sender ut skjemaer og bilder for pass, førerkort eller annen offisiell identifikasjon, hjelper du sannsynligvis med å utvide datasettet.
Kanskje mer urovekkende er kvaliteten på FBIs anerkjennelse. Høringen avslørte at programvaren for øyeblikket feilidentifiserer enkeltpersoner nesten 15 prosent av tiden. Derimot er markedsledende ansiktsgjenkjenningsteknologi nå så nøyaktig at den brukes til å autorisere betalinger i Kina, og Baidu hevder å bekrefte noens identitet korrekt. 99,77 prosent av tiden .
Til FBIs forsvar jobber den sannsynligvis med bilder av langt lavere kvalitet, både i databasen og i bildene den prøver å gjenkjenne, enn de som er tilgjengelige for slike som Baidu. Men feilrater på 15 prosent er fortsatt høye, og kan føre til falske spor eller ubegrunnede inngrep i personvernet.
getty
Programvaren ser også ut til å feilaktig identifisere svarte mennesker oftere enn hvite mennesker. Dessverre er denne effekten forutsigbar: vi har tidligere forklart at ansiktsgjenkjenningssystemer iboende er partiske fordi de er trent på datasett som underrepresenterer noen demografi.
Men det problemet kan få urovekkende konsekvenser. Som Verge notater, svarte mennesker er mer sannsynlig å ha ansiktsgjenkjenningsprogramvare brukt for å identifisere dem , så det virker rart – til og med urettferdig – å bruke verktøy som tydeligvis er dårlig utstyrt for å skjelne likheten deres.
Disse nuggets legger alle til personvernbekymringene som allerede har plaget FBIs initiativ til å bygge et system som nøyaktig kan identifisere kriminelle. Problemene har i det minste blitt avslørt - nå må de bare løses.
(Les mer: Vergen , Mens det leter etter mistenkte, kan FBI se på deg , betale med ansiktet ditt , er ansiktsgjenkjenningssystemer nøyaktige? Avhenger av rasen din. )