Folks nettbilder brukes uten samtykke til å trene ansiktsgjenkjenning AI

Kategori: Kunstig intelligens Lagt ut 13. mars

Bilder av folks ansikter blir rutinemessig tatt fra nettsteder for å hjelpe med å utvikle ansiktsgjenkjenningsalgoritmer, uten forsøkspersonens samtykke, en rapport av NBC avslører.

Det siste eksemplet: I januar IBM ga ut et datasett av nesten en million bilder som hadde blitt skrapet fra bildedelingsnettstedet Flickr og deretter kommentert med informasjon om detaljer som hudtone. Selskapet presenterte dette som en del av arbeidet med å redusere det (svært reelle) problemet med skjevhet innen ansiktsgjenkjenning. Den fikk imidlertid ikke samtykke fra noen til å gjøre dette, og det er nesten umulig å få fjernet bildene.

Skitten hemmelighet: IBM er langt fra alene. Mens selskaper streber etter å forbedre teknologien for ansiktsgjenkjenning, trenger de tilgang til et stort antall bilder for å mate algoritmene sine. Bare det å ta bilder som allerede er lastet opp til internett er en veldig rask – men etisk tvilsom – måte å gjøre det på.

Rask fremgang: Ansiktsgjenkjenning kan være praktisk for å låse opp telefonen, men det kan også være et kraftig overvåkingsverktøy. Bruken utvides raskt uten praktisk talt tilsyn, noe som fører til økende krav om at teknologien skal reguleres.

En spenning: Ansiktsgjenkjenningsalgoritmer har en dårlig nøyaktighet når det gjelder å identifisere ikke-hvite ansikter, og systemer kan miskjønne mennesker på bakgrunn av for eksempel lengden på håret. En måte å bekjempe dette på er å legge til flere bilder av for eksempel svarte kvinner, eller menn med langt hår, til treningsdataene. Men å gjøre det uten å innhente folks samtykke før du bruker bildene deres, vil få mange til å føle seg dypt ukomfortable.

Registrer deg her for vårt daglige nyhetsbrev The Download for å få din dose av de siste må-lese nyhetene fra verden av nye teknologier.