Å slette uetiske datasett er ikke godt nok

Ms Tech | Pixabay

I 2016, i håp om å stimulere fremskritt innen ansiktsgjenkjenning, ga Microsoft ut den største ansiktsdatabasen i verden. Kalt MS-Celeb-1M, inneholdt den 10 millioner bilder av 100 000 kjendisansikter. Kjendis var imidlertid løst definert.

Tre år senere, forskerne Adam Harvey og Jules LaPlace gjennomsøkte datasettet og fant mange vanlige individer, som journalister, kunstnere, aktivister og akademikere, som opprettholder en online tilstedeværelse for sine profesjonelle liv. Ingen hadde gitt samtykke til å bli inkludert, og likevel hadde ansiktene deres funnet veien inn i databasen og utover; forskning ved bruk av innsamling av ansikter ble utført av selskaper inkludert Facebook, IBM, Baidu og SenseTime, en av Kinas største ansiktsgjenkjenningsgiganter, som selger teknologien sin til det kinesiske politiet.

Kort tid etter Harvey og LaPlaces etterforskning, og etter å ha mottatt kritikk fra journalister , fjernet Microsoft datasettet, og sa ganske enkelt: Forskningsutfordringen er over. Men personvernbekymringene det skapte henger igjen i et evig-internettland. Og denne saken er neppe den eneste.

Å skrape nettet for bilder og tekst ble en gang ansett som en oppfinnsom strategi for å samle inn data fra den virkelige verden. Nå har lover som GDPR (Europas databeskyttelsesforordning) og økende offentlig bekymring for personvern og overvåking gjort praksisen juridisk risikabel og upassende. Som et resultat har AI-forskere i økende grad trukket tilbake datasettene de opprettet på denne måten.

Men en ny studie viser at dette har gjort lite for å hindre de problematiske dataene fra å spre seg og bli brukt. Forfatterne valgte ut tre av de mest siterte datasettene som inneholder ansikter eller personer, hvorav to var trukket tilbake; de sporet måtene hver hadde blitt kopiert, brukt og gjenbrukt i nærmere 1000 papirer.

Når det gjelder MS-Celeb-1M, eksisterer kopier fortsatt på tredjepartssider og i avledede datasett bygget på toppen av originalen. Åpen kildekode-modeller som er forhåndstrent på dataene, forblir også lett tilgjengelige. Datasettet og dets derivater ble også sitert i hundrevis av artikler publisert mellom seks og 18 måneder etter tilbaketrekking.

DukeMTMC, et datasett som inneholder bilder av mennesker som går på Duke Universitys campus og trukket tilbake i samme måned som MS-Celeb-1M, vedvarer på samme måte i avledede datasett og hundrevis av papirhenvisninger.

Listen over steder hvor dataene henger igjen, er mer omfattende enn vi først ville ha trodd, sier Kenny Peng, en sophomore ved Princeton og medforfatter av studien. Og selv det, sier han, er sannsynligvis en undervurdering, fordi siteringer i forskningsartikler ikke alltid tar hensyn til måtene dataene kan brukes kommersielt på.

Blitt vill

En del av problemet, ifølge Princeton-avisen, er at de som setter sammen datasett raskt mister kontrollen over kreasjonene sine.

Datasett utgitt for ett formål kan raskt samordnes for andre som aldri var ment eller forestilt av de opprinnelige skaperne. MS-Celeb-1M, for eksempel, var ment å forbedre ansiktsgjenkjenning av kjendiser, men har siden blitt brukt til mer generell ansiktsgjenkjenning og ansiktstrekksanalyse, fant forfatterne. Den har også blitt ommerket eller bearbeidet i avledede datasett som Racial Faces in the Wild, som grupperer bildene sine etter rase, og åpner døren for kontroversielle applikasjoner.

Relatert historie

Dette er hvordan vi mistet kontrollen over ansiktene våre

Den største studien noensinne av ansiktsgjenkjenningsdata viser hvor mye økningen av dyp læring har ført til tap av personvern.

Forskernes analyse tyder også på at Labeled Faces in the Wild (LFW), et datasett introdusert i 2007 og det første som brukte ansiktsbilder skrapet fra internett , har forandret seg flere ganger gjennom nesten 15 års bruk. Mens det begynte som en ressurs for evaluering av ansiktsgjenkjenningsmodeller som kun er for forskning, brukes den nå nesten utelukkende til å evaluere systemer ment for bruk i den virkelige verden. Dette til tross for en advarselsetikett på datasettets nettside som advarer mot slik bruk.

Nylig ble datasettet gjenbrukt i et derivat kalt SMFRD, som la til ansiktsmasker til hvert av bildene for å fremme ansiktsgjenkjenning under pandemien. Forfatterne bemerker at dette kan reise nye etiske utfordringer. Personvernforkjempere har kritisert slike applikasjoner for å stimulere til overvåking, for eksempel - og spesielt for å muliggjøre offentlig identifikasjon av maskerte demonstranter.

Dette er et veldig viktig papir, fordi folks øyne generelt ikke har vært åpne for kompleksiteten, og potensielle skader og risikoer, ved datasett, sier Margaret Mitchell, en AI-etikkforsker og en leder innen ansvarlig datapraksis, som ikke var involvert i studien.

I lang tid har kulturen innenfor AI-miljøet vært å anta at data eksisterer for å brukes, legger hun til. Denne artikkelen viser hvordan det kan føre til problemer i etterkant. Det er veldig viktig å tenke gjennom de ulike verdiene som et datasett koder, så vel som verdiene som koder for å ha et tilgjengelig datasett, sier hun.

En fiks

Studieforfatterne gir flere anbefalinger for AI-fellesskapet fremover. For det første bør skapere kommunisere tydeligere om den tiltenkte bruken av datasettene deres, både gjennom lisenser og gjennom detaljert dokumentasjon. De bør også sette strengere grenser for tilgang til dataene deres, kanskje ved å kreve at forskere signerer avtalevilkår eller be dem fylle ut en søknad, spesielt hvis de har til hensikt å konstruere et avledet datasett.

For det andre bør forskningskonferanser etablere normer for hvordan data skal samles inn, merkes og brukes, og de bør skape insentiver for ansvarlig opprettelse av datasett. NeurIPS, den største AI-forskningskonferansen, inkluderer allerede en sjekkliste over beste praksis og etiske retningslinjer.

Mitchell foreslår å ta det enda lenger. Som en del av BigScience-prosjektet , et samarbeid mellom AI-forskere for å utvikle en AI-modell som kan analysere og generere naturlig språk under en streng etikkstandard, hun har eksperimentert med ideen om å lage forvaltningsorganisasjoner for datasett – team av mennesker som ikke bare håndterer kurering, vedlikehold, og bruk av dataene, men samarbeider også med advokater, aktivister og allmennheten for å sikre at de overholder juridiske standarder, samles inn kun med samtykke og kan fjernes hvis noen velger å trekke tilbake personlig informasjon. Slike forvaltningsorganisasjoner vil ikke være nødvendige for alle datasett – men absolutt for utskrapte data som kan inneholde biometrisk eller personlig identifiserbar informasjon eller åndsverk.

Datainnsamling og overvåking er ikke en engangsoppgave for én eller to personer, sier hun. Hvis du gjør dette på en ansvarlig måte, brytes det ned i massevis av forskjellige oppgaver som krever dyp tenkning, dyp ekspertise og en rekke forskjellige mennesker.

De siste årene har feltet i økende grad beveget seg mot troen på at mer nøye utvalgte datasett vil være nøkkelen til å overvinne mange av bransjens tekniske og etiske utfordringer. Det er nå klart at det ikke er på langt nær nok å konstruere mer ansvarlige datasett. De som jobber i AI må også forplikte seg til å opprettholde dem og bruke dem etisk.

gjemme seg