211service.com
Denne oppstarten hevder at deepfakes vil beskytte personvernet ditt
D-ID D-ID
Som det sies: Hvis det ser ut som en and, svømmer som en and og kvakker som en and, er det sannsynligvis en and. Nå, hvis noen i et videoklipp er av samme rase, kjønn og alder som deg, har de samme gestene og følelsesmessige uttrykkene som deg – og faktisk er basert på deg – ser likevel ikke akkurat ut som deg … er er det fortsatt deg?
Nei, ifølge Gil Perry, medgründer av det israelske personvernfirmaet D-ID . Og det, hevder han, er grunnen til at oppstarten hans fungerer. D-ID tar videoopptak – for eksempel tatt av et kamera inne i en butikk – og bruker datasyn og dyp læring for å lage et alternativ som beskytter motivets identitet. Prosessen gjør deg i videoen til en avatar som har alle de samme egenskapene, men som ser litt annerledes ut.
Fordelene for bedrifter er at denne nye, anonymiserte videoen ikke lenger gir bort den nøyaktige identiteten til en kunde – noe som, sier Perry, betyr at selskaper som bruker D-ID kan eliminere behovet for samtykke og analysere opptakene for forretnings- og markedsføringsformål. En butikk kan for eksempel mate video av en hvit kvinne som ser glad ut til en algoritme som kan vise den mest effektive annonsen for henne i sanntid. (Det er verdt å merke seg at legitimiteten til følelsesgjenkjenning har blitt utfordret, med en fremtredende AI-forskningsgruppe som nylig ba om å forby bruken fullstendig.)
Eksempler på D-IDs smarte anonymiseringstjeneste viser varierende grad av suksess med å skjule identitet i video. I én demonstrasjon , den tidligere britiske statsministeren David Cameron ser litt ut som David Cameron med bart. I et annet stillbilde , en kvinne ser noe annerledes ut, men de to bildene virker fortsatt foruroligende like. I en tredje, Brad Pitt blir ugjenkjennelig.
D-ID vil ikke nevne bestemte kunder som bruker teknologien deres, men Perry sa at selskapet hovedsakelig jobber med forhandlere, bilselskaper og store konglomerater som distribuerer CCTV i Europa. Ann Cavoukian, et D-ID rådgivende styremedlem og tidligere personvernkommissær for den kanadiske provinsen Ontario, sier at løsningen er en total vinn-vinn.
Andre eksperter sier imidlertid at selskapet feiltolker Europas generelle databeskyttelsesregel, ikke gjør det det skal, og – selv om det gjør det – sannsynligvis ikke burde gjøre det uansett.
Brudd på GDPR?
Tre ledende europeiske personverneksperter som snakket med MIT Technology Review ga uttrykk for sine bekymringer om D-IDs teknologi og dens intensjoner. Alle sier at D-ID etter deres mening faktisk bryter med GDPR. (Det kan imidlertid være lovlig i områder utenfor EU.)
Rase er en spesiell kategori under GDPR, som betyr å behandle data som antyder at rase er ulovlig uten eksplisitt samtykke, forklarer Gaëtan Goldberg, en personvernadvokat med GDPR-vakthund NOYB. Brudd på GDPR-reglene kan resultere i bøter på €20 millioner eller 4 % av et selskaps årlige inntekt, avhengig av hva som er høyest.
Da han ble presentert for disse bekymringene, var David Mirchin, en personvernadvokat som gir råd til D-ID, uenig med ekspertene. Han hevder at det aldri er et punkt hvor D-IDs Smart Anonymization-løsning analyserer, avslører eller lagrer denne typen sensitive data. Perry legger til at D-ID også gjerne anonymiserer etnisitetsdata. De eksterne advokatene hevder imidlertid at det å oppdage ansiktene, enten de skal anonymiseres eller ikke, er et brudd.
Perry og Mirchin argumenterer også for at det er greit å mate anonymiserte biometriske data til algoritmer. Men selv om GDPR ikke gjelder for anonyme data, anonymiserer ikke oppstarten videoen i alle fall, sier Michael Veale, en personvernekspert ved University College London. Den krypterte videoen vil ikke bli ansett som anonym i henhold til GDPR. Med virkelig anonyme data kan ikke ett stykke informasjon kobles tilbake til en bestemt person selv når den kombineres med andre data. Det er en høy bar.
Men selv om endret opptak ikke ser helt ut som deg, kan det kombineres med annen informasjon – stedsdata hentet fra for eksempel sosiale medier eller kredittkortposter – og spores tilbake. I tillegg, sier Veale, vil teknologien fortsatt ikke automatisk gi selskaper carte blanche til å gjenbruke CCTV til ganske useriøse forretningsformål som ikke er noe med en alvorlig offentlig interesse, som å bekjempe kriminalitet.
Lovens ånd
At D-ID posisjonerer seg som en personvernløsning er avslørende. Med elementer av nye databeskyttelseslover som GDPR og California Consumer Privacy Act fortsatt åpne for tolkning, viser noen selskaper seg geniale til å markedsføre seg selv. Disse teknologiene overholder regelverket på en måte som gagner selskapene som ønsker å tjene penger på data, i stedet for menneskene hvis data blir fanget opp. Dette er et brudd på lovens ånd, sier kritikere. Britt Paris, en informasjonsvitenskapsforsker ved Rutgers University, kaller D-ID utnyttende og et eksempel på ytterligere inngrep i datafikseringen av hverdagen.
Men Cavoukian, styremedlem i D-ID, sier at hun ikke er en personvernfundamentalist og mener det ikke er noe galt med å samle inn data så lenge folks eksakte identiteter er skjult.
Hvis du ikke vil at det skal samles inn data om deg i det hele tatt, i dag og alder, selv om det ikke er noe personvernproblem fordi identifikatorene dine har blitt strippet, vil du ikke kunne gå utenfor huset ditt så langt, hun sier. Det er dagens realiteter.
Overvåking blir mer og mer utbredt. En fersk Pew-studie fant at de fleste amerikanere tror at de hele tiden blir sporet, men at de ikke kan gjøre mye med det, og ansiktsgjenkjenningsmarkedet forventes å vokse fra rundt 4,5 milliarder dollar i 2018 til 9 milliarder dollar innen 2024 . Likevel hindrer ikke overvåkingens virkelighet aktivister fra å slå tilbake. D-ID kan se seg selv som en mellomting mellom personvernpurisme og oppsamling av rådata, men uten teknologien ville kanskje ikke selskaper dekket av GDPR brukt disse videodataene i det hele tatt.
Disse reglene er der for en hensikt, ikke sant? sier Lilian Edwards, en GDPR-ekspert ved Newcastle Law School. [D-ID] sier «Samle inn visuelle data mens du overholder personvernforskrifter» og hva det egentlig betyr er «Samle inn visuelle data mens du unngår personvernforskrifter.» Du vet, loven er faktisk ikke helt dum.