Slik mistet vi kontrollen over ansiktene våre

Getty

I 1964, matematiker og informatiker Woodrow Bledsoe forsøkte først oppgaven med å matche mistenktes ansikter med mugshots. Han målte opp avstandene mellom ulike ansiktstrekk i trykte fotografier og matet dem inn i et dataprogram. Hans rudimentære suksesser ville sette i gang tiår med forskning på å lære maskiner for å gjenkjenne menneskelige ansikter.

Nå en ny studie viser hvor mye denne bedriften har erodert personvernet vårt. Det har ikke bare gitt næring til et stadig kraftigere verktøy for overvåking. Den siste generasjonen av dyp-læringsbasert ansiktsgjenkjenning har fullstendig forstyrret våre normer for samtykke.

Deborah Raji, en stipendiat ved nonprofit Mozilla, og Genevieve Fried, som gir råd til medlemmer av den amerikanske kongressen om algoritmisk ansvarlighet, undersøkte over 130 datasett for ansiktsgjenkjenning samlet over 43 år. De fant at forskere, drevet av de eksploderende datakravene til dyp læring, gradvis forlot å be om folks samtykke. Dette har ført til at flere og flere av folks personlige bilder har blitt innlemmet i overvåkingssystemer uten deres viten.

Det har også ført til langt mer rotete datasett: de kan utilsiktet inkludere bilder av mindreårige, bruke rasistiske og sexistiske merkelapper, eller ha inkonsekvent kvalitet og lyssetting. Trenden kan bidra til å forklare det økende antallet tilfeller der ansiktsgjenkjenningssystemer har sviktet med plagsomme konsekvenser, som f.eks. falske arrestasjoner av to svarte menn i Detroit-området i fjor.

Folk var ekstremt forsiktige med å samle inn, dokumentere og verifisere ansiktsdata i de første dagene, sier Raji. Nå bryr vi oss ikke lenger. Alt dette er forlatt, sier hun. Du kan bare ikke holde styr på en million ansikter. Etter et visst punkt kan du ikke engang late som om du har kontroll.

En historie med data om ansiktsgjenkjenning

Forskerne identifiserte fire store epoker for ansiktsgjenkjenning, hver drevet av et økende ønske om å forbedre teknologien. Den første fasen, som pågikk til 1990-tallet, var i stor grad preget av manuelt intensive og beregningsmessig langsomme metoder.

Men så, ansporet av erkjennelsen av at ansiktsgjenkjenning kunne spore og identifisere individer mer effektivt enn fingeravtrykk, pumpet det amerikanske forsvarsdepartementet 6,5 millioner dollar til å lage det første store ansiktsdatasettet. Over 15 fotograferingsøkter på tre år tok prosjektet 14 126 bilder av 1 199 individer. Face Recognition Technology (FERET) databasen ble utgitt i 1996.

Det påfølgende tiåret så en økning i akademisk og kommersiell forskning på ansiktsgjenkjenning, og mange flere datasett ble opprettet. De aller fleste ble hentet gjennom fotoseanser som FERETs og hadde fullt deltakersamtykke. Mange inkluderte også grundige metadata, sier Raji, som alder og etnisitet til forsøkspersoner, eller belysningsinformasjon. Men disse tidlige systemene slet i virkelige omgivelser, noe som fikk forskere til å søke større og mer mangfoldige datasett.

I 2007 åpnet utgivelsen av datasettet Labeled Faces in the Wild (LFW) slusene for datainnsamling gjennom nettsøk. Forskere begynte å laste ned bilder direkte fra Google, Flickr og Yahoo uten bekymring for samtykke. Et påfølgende datasett satt sammen av andre forskere kalt LFW+ lempet også standardene rundt inkludering av mindreårige, ved å bruke bilder funnet med søkeord som baby, ungdom og tenåring for å øke mangfoldet. Denne prosessen gjorde det mulig å lage betydelig større datasett på kort tid, men ansiktsgjenkjenning sto fortsatt overfor mange av de samme utfordringene som før. Dette presset forskere til å søke enda flere metoder og data for å overvinne teknologiens dårlige ytelse.

Så, i 2014, brukte Facebook sine brukerbilder til å trene en dyplæringsmodell kalt DeepFace. Mens selskapet aldri ga ut datasettet, løftet systemets overmenneskelige ytelse dyp læring til de facto-metoden for å analysere ansikter. Det var da manuell verifisering og merking ble nesten umulig ettersom datasettene vokste til titalls millioner bilder, sier Raji. Det er også når virkelig merkelige fenomener begynner å dukke opp, som autogenererte etiketter som inkluderer støtende terminologi.

Relatert historie

En AI så et beskåret bilde av AOC. Den autofullførte henne i bikini. Algoritmer for bildegenerering gjenoppstår de samme sexistiske, rasistiske ideene som finnes på internett.

Måten datasettene ble brukt på begynte å endre seg rundt denne tiden også. I stedet for å prøve å matche individer, begynte nye modeller å fokusere mer på klassifisering. I stedet for å si: 'Er dette et bilde av Karen? Ja eller nei,» ble det til «La oss forutsi Karens interne personlighet, eller hennes etnisitet», og bokse folk inn i disse kategoriene, sier Raji.

Amba Kak, global policy-direktør ved AI Now, som ikke deltok i forskningen, sier at papiret gir et sterkt bilde av hvordan biometriindustrien har utviklet seg. Deep learning kan ha reddet teknologien fra noen av kampene, men den teknologiske fremskritt har også kostet, sier hun. Det har kastet opp alle disse problemene som vi nå er ganske kjent med: samtykke, utvinning, IP-problemer, personvern.

Skade som forårsaker skade

Raji sier at etterforskningen hennes av dataene har gjort henne alvorlig bekymret for dyp læringsbasert ansiktsgjenkjenning.

Det er så mye farligere, sier hun. Datakravet tvinger deg til å samle inn utrolig sensitiv informasjon om minst titusenvis av mennesker. Det tvinger deg til å krenke personvernet deres. Det i seg selv er et skadegrunnlag. Og så samler vi all denne informasjonen som du ikke kan kontrollere for å bygge noe som sannsynligvis vil fungere på måter du ikke engang kan forutsi. Det er egentlig naturen til hvor vi er.

Hun håper artikkelen vil provosere forskere til å reflektere over avveiningen mellom ytelsesgevinstene fra dyp læring og tap av samtykke, grundig dataverifisering og grundig dokumentasjon. Var det verdt å forlate alle disse praksisene for å gjøre dyp læring? hun sier.

Hun oppfordrer de som ønsker å fortsette å bygge ansiktsgjenkjenning til å vurdere å utvikle forskjellige teknikker: For at vi virkelig skal prøve å bruke dette verktøyet uten å skade folk, vil det kreve å tenke nytt om alt vi vet om det.

Rettelse, 15. februar 2021: En tidligere versjon av artikkelen uttalte at datasettet med merkede ansikter i naturen (LFW) 'avslappet standarder rundt inkludering av mindreårige.' Det var faktisk LFW+-datasettet, som ble satt sammen i etterkant av en annen gruppe forskere.

gjemme seg