Land med en milliard ansikter

Clearview AI har bygget en av de mest omfattende databasene over folks ansikter i verden. Bildet ditt er sannsynligvis der (verten vår Jennifer Strong var). I del to av denne firedelte serien om ansiktsgjenkjenning møter vi administrerende direktør for det kontroversielle selskapet som forteller oss at fremtiden vår er fylt med FaceID – uansett om den er regulert eller ikke.

Vi møtes:

• Hoan Ton-That, Clearview AI
• Alexa Daniels-Shpall, Politiets Executive Research Forum

Studiepoeng:

Denne episoden ble rapportert og produsert av Jennifer Strong, med Tate Ryan-Mosley og Emma Cillekens, med spesiell takk til Karen Hao og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield. Vår tekniske direktør er Jacob Gorski.

Utskrift av hele episoden:

Jennifer Strong: Det er en kamp som utspiller seg i domstolene mellom nettverkssiden LinkedIn og et selskap som heter hiQ Labs – en oppstart som forteller selskaper når deres ansatte er i fare for å bli tjuvjaget av andre selskaper...

Problemet er at det gjør dette ved å trekke data fra LinkedIns nettsted.

Leser nyhetsanker: med mer enn 500 millioner brukere over hele verden er LinkedIn en skattekiste av personlig informasjon. Men hva om den informasjonen du ikke vil dele kommer tilbake til sjefen din?

Jennifer Strong: Men hiQ hevder, det er ok - alle disse dataene er offentlig tilgjengelige uten pålogging. Saken kan gå til høyesterett i år, men så langt er rettssystemet enig med hiQ.

Vet du hvilke rettigheter du har til personvern på nettsteder som LinkedIn eller YouTube?

Ville det være overraskende at bilder – inkludert noen du aldri har sett, men på en eller annen måte havnet på nettet – blir brukt av selskaper for å utvide virksomheten deres, inkludert for å bygge ting som AI-systemer som identifiserer mistenkte for politiet?

Jeg heter Jennifer Strong, og i del to av serien vår om ansiktsgjenkjenning og politi snakker vi med administrerende direktør Hoan Ton-That, grunnleggeren av et av verdens mest kontroversielle teknologiselskaper, Clearview AI.

Jennifer Strong: Tilbake i 2011 ga Googles daværende administrerende direktør, Eric Schmidt, et hovedintervju på en konferanse arrangert av The Wall Street Journal.

Erik Schmidt : Jeg er personlig veldig bekymret for foreningen av mobilsporing og ansiktsgjenkjenning.

Jennifer Strong: Å kombinere ansikt I-D med sporingsdata fra mobiltelefoner kan gi bort nesten hver eneste detalj om hvordan og hvor vi bruker tiden vår.

Schmidt sa at han trodde det kunne brukes på godt eller ondt, men i demokratier trodde han det ville bli regulert raskt.

Han sto på scenen sammen med journalistene Walt Mossberg og Kara Swisher, og de presset ham på det: Hvilke evner hadde Google, og hva kan skje i feil hender?

Erik Schmidt : For å være tydelig, bygde vi den teknologien ... og vi holdt tilbake den. Så vidt jeg vet er det den eneste teknologien som Google bygde, og etter å ha sett på den bestemte vi oss for å stoppe.

Jennifer Strong: Spol frem nesten et tiår. Ansiktsgjenkjenning er fortsatt ikke regulert, og big tech er tilbake for å stille spørsmål ved hva som skal bygges, og hvem som skal ha det.

Saken er at teknologigigantene ikke er de største aktørene i det området. Selskaper som er – inkludert NEC, Cognitec og Clearview AI – fortsetter å selge systemene sine.

Og fordi ansiktsgjenkjenning ikke er regulert, med mindre et selskap bestemmer seg for å fortelle oss at disse verktøyene eksisterer eller en journalist avdekker noe, vil vi ikke nødvendigvis vite hva som finnes der ute – enn si hvordan det brukes, selv når det brukes på oss.

Clearview blir noen ganger referert til som morderappen til ansikts-ID. Det er også utrolig kontroversielt. Den skrapet stille milliarder av bilder av internett – fra Venmo, LinkedIn, Google, Facebook, Twitter, YouTube og så videre – og den bygde et system som antas å være mye brukt av rettshåndhevelse, inkludert FBI og ICE, også som statlig og lokalt politi.

Det er mange juridiske kamper som utkjempes om denne praksisen kalt nettskraping – ikke fordi det er noe iboende dårlig med det, det er bare et verktøy for å samle inn data fra internett. Det er hvordan nettsteder tilbyr prissammenligninger og eiendomsoppføringer. Det er også hvordan mye offentlig forskning blir gjort.

Så det virkelige problemet er at det egentlig ikke er grunnregler for hva kan skrapes. Og den føderale loven brukes oftest til å ordne opp i disse sakene? Vel, det er fra 1986. Før nettet eksisterte.

Gjennom denne serien kommer vi til å høre fra folk som bygger teknologier, så vel som de som kjemper mot dem. Og jeg satte meg ned med Clearviews administrerende direktør for å snakke om alt dette, fra hans perspektiv.

Hoan Ton-That : Mitt navn er Hoan Ton-That og jeg er grunnlegger og administrerende direktør for Clearview AI.

Jennifer Strong : Ok, hvordan vil du beskrive bedriften din, teknologien og hva den gjør?

Hoan Ton-That : I utgangspunktet er det en søkemotor for ansikter. Så du laster opp et bilde av et ansikt og det finner offentlig tilgjengelige lenker som er online. Og akkurat nå brukes den til rettshåndhevelse for å løse forbrytelser i etterkant. Så en offiser, hvis de sitter fast i en sak og de har noe fra videoopptak, kan de kjøre det gjennom systemet vårt og deretter starte en etterforskning.

Jennifer Strong: Han sier at det umiddelbart appellerte til politiet, men det var etter at han handlet det rundt til noen forskjellige grupper.

Hoan Ton-That : Da vi bygde ansiktsgjenkjenningsteknologien vår, utforsket vi mange forskjellige ideer og mange forskjellige sektorer fra privat sikkerhet til gjestfrihet ... da vi ga den til noen personer i rettshåndhevelsen, var økningen enorm. Og de ringte oss tilbake dagen etter og sa at vi løser saker. Dette er sprøtt. På en ukes tid hadde vi et skikkelig tykt hefte.

Jennifer Strong : Så hvor fikk du ideen om å lage Clearview. Hva var motivasjonene dine?

Hoan Ton-That : Jeg har alltid elsket å lære om dataprogrammering siden jeg var liten og så på MIT videoforelesninger eller gjør åpen kildekode-prosjekter og laster ned bilder for å trene bedre modeller for ansiktsgjenkjenning. Og til slutt gikk det over til å gjøre en ansiktssøkemotor. Og det var bare en overraskelse for meg hvor mange som virkelig ikke tok tak i denne ideen fordi det er et så vanskelig problem fordi du må være veldig, veldig nøyaktig, men vi holdt fast på det og det endte opp med å fungere veldig bra.

Jennifer Strong: Det er en voksende liste over grunner til at forskere kanskje velger å ikke jobbe med en søkemotor med ansikter. En stor er hvordan dette arbeidet kan brukes.

Kade Crockford : Ta saken til Steve Talley, en finansanalytiker fra Colorado.

Jennifer Strong: Kade Crockford er en personvernforkjemper. Dette er fra hennes Ted Talk.

Kade Crockford : I 2015 ble Talley siktet for bankran på bakgrunn av en feil i et ansiktsgjenkjenningssystem. Talley kjempet for den saken, og han ble til slutt frikjent for disse anklagene, men han mistet huset, jobben og barna. Steve Talleys sak er et eksempel på hva som kan skje når teknologien svikter. Men ansiktsovervåking er like farlig når det fungerer som annonsert.

Bare tenk på hvor trivielt det ville være for et statlig organ å sette et overvåkingskamera utenfor en bygning der folk møtes til Anonyme Alkoholikere-møter. Det ville være like enkelt å bruke denne teknologien til automatisk å identifisere hver person som deltok på Women's March eller en Black Lives Matter-protest.

Jennifer Strong: Selv om Ton-That mener at Clearviews verktøy er tryggere enn det hun beskriver.

Hoan Ton-That : En falsk positiv i en live-setting er mer et problem enn det er i en etter faktainnstilling. For hvis du får et varsel og du løper ned for å finne personen, har du kanskje mye mindre tid til å se om det er riktig. Mens hvis du står bak en pult og gjør en undersøkelse, har du all tid i verden til å forsikre deg om at du gjør det rette.

Jennifer Strong: Men det er ingen enighet om hva det betyr å gjøre det rette.

I episode én møtte vi Robert Williams. Han ble feilaktig arrestert i akkurat den typen etterforskning Ton-That snakker om, etter at programvare feilaktig matchet førerkortbildet hans til bilder av noen som stjeler klokker.

Verktøyet som ble brukt i tilfellet med Mr. Williams ble ikke bygget av Clearview, men av et selskap som heter DataWorks – selv om begge disse systemene er avhengige av nevrale nettverk.

Hoan Ton-That : Så et nevralt nettverk er en nyere form for kunstig intelligens der vi i stedet for å hardkode visse faktorer - for eksempel ønsker å gjøre ansiktsgjenkjenning for å finne lignende ansikter til samme person - i stedet for hardkodingsfaktorer som avstanden mellom øynene dine eller avstanden mellom øynene og nesen, den lærer bare av massevis av forskjellige eksempler. Og det vi gjør er at vi samler inn som tusen eksempler på George Clooney eller tusen eksempler på Brad Pitt og maskinen over tid lærer den forskjellen mellom de to ansiktene og så kan den bruke den på et ansikt som ikke har blitt sett før .

Jennifer Strong: Noe alle vi snakket med for denne serien var enige om, er at disse systemene fungerer best når belysningen er god og kameraene er plassert i ansiktshøyde.

Men med sikkerhetskameraer er det sjelden. Det er også utfordringen med skala.

Hoan Ton-That : Hvordan søker du etter milliarder av ansikter eller vektorer på under ett sekund? Typisk databaseoppslag etter navn og e-post. Dette ser opp etter likhet. Og å gjøre det i stor skala er vanskelig. Vi måtte skaffe oss et eget datasenter også for det. Vanligvis hvis du kjøper et ansiktsgjenkjenningssystem, er det et problem med kaldstart. Hvilke bilder legger du inn der? Så politiavdelinger kan ha sine egne mugshots, men de har ikke mugshots fra andre politiavdelinger. Så det begrenser virkelig nytten av det. Og vi innså nettopp at det er billioner og billioner av nettsider på internett og sosiale medier, og du vet, nyhetssider, mugshot-nettsteder.

Jennifer Strong: Vi er bare noen få mil unna hverandre i New York City, men på grunn av pandemien prater vi over Zoom.

Hoan Ton-That : Jennifer, jeg hadde tatt et skjermbilde av et bilde av deg før. Har du noe imot om jeg laster det opp?

Jennifer Strong : Nei, det er greit.

Jennifer Strong: Og han legger et gammelt bilde fra LinkedIn-kontoen min opp på skjermen.

Hoan Ton-That : Så, på venstre side? Ser du denne nye søkeknappen der du velger et bilde? Så det er denne jeg skal bruke. Ikke bekymre deg. Ingen kan se skjermen bortsett fra oss (latter).

Og så det tok, du vet, omtrent et sekund. Uh, og du kan se at det er en lenke du kan klikke på. Men når vi går gjennom dette er, så det er, eh, fra Twitter. Husker du dette bildet i det hele tatt?

Jennifer Strong : Ummm nei jeg visste ikke at det ble tatt... Jeg ser veldig ut...

Hoan Ton-That : Ja. Du gjør. Du ser veldig seriøs ut i den. Ja.

Her holder du et foredrag i The Wall Street Journal, The Future of Everything.

Jennifer Strong : Ja.

Hoan Ton-That : Du intervjuer noen her på Duke Health. Så, som jeg sa, alle disse tingene er offentlig tilgjengelige. Så det er i grunnen slik det fungerer.

Jennifer Strong: Det er ikke noe uvanlig her. Bare bilder av meg på jobb som rapporterer historier og holder paneler i forskjellige byer – selv om det er litt skurrende å finne bilder av meg selv jeg aldri har sett – og nok en gang tar det opp dette vanskelige spørsmålet om samtykke.

Du skjønner, jeg er usannsynlig å merke av i en boks som gir tillatelse til selskaper som Clearview til å skrape bildet mitt og bruke det til å bygge opp virksomhetene sine.

Saken er den at de ikke trenger det.

Vi kommer tilbake om et øyeblikk rett etter dette.

Hoan Ton-That : Det som er unikt med Clearview AI og som gjør det litt vanskeligere for folk å forstå, er kun å søke offentlig tilgjengelig informasjon.

Jennifer Strong: Og det er her Ton-That kommer med et argument vi kanskje diskuterer og sakfører i mange år fremover: at det åpne internett slik vi kjenner det, inkludert ting som Google-søk, egentlig ikke ville eksistert hvis vi hadde satt restriksjoner på bruken av online data.

Hoan Ton-That : LinkedIn er et milliardselskap, eller et billion dollarselskap Microsoft, de har ikke rett til å blokkere andres tilgang til offentlige data. Så det er en ting som bare er på et interessant sted fordi det bare søker etter offentlig tilgjengelig informasjon og ting som folk ønsker skal være private. Vi vet at vi ikke ønsker å plastre dem over hele internett. Så jeg tror at vi har et instinkt for hva vi ønsker å holde privat og hva vi ønsker å holde offentlig, og det vil alltid være tilfelle.

Jennifer Strong: Det er trygt å si at ikke alle er enige med ham.

Twitter er blant en rekke selskaper som sendte Clearview en stans og avstå ordre, og ba den slutte å skrape bildene deres og slette alle dataene deres. Twitter sier også at deres retningslinjer forbyr dataene deres fra å bli brukt til ansiktsgjenkjenning. Gitt at han allerede har skrapet milliarder av bilder, vil du bli tilgitt for å lure på hvor mye mer informasjon som fortsatt er der ute for ham å fange.

Men det er bare toppen av isfjellet.

Hoan Ton-That : Vi er fortsatt ikke engang 1% av det som er der ute når du kjører tallene, det er litt sprøtt hvor mye informasjon som er der ute. Så når det kommer til personvern, må vi på en måte se på oss selv og si, vel, vi deler frivillig mye av denne informasjonen. Og det kan være sant, men hvordan, hvordan føler vi om det? Vi har ingen privat informasjon som Google eller Facebook har. Google har posisjonen din på Android hele tiden. Facebook kjenner alle vanene dine og hva du liker og hva du ikke liker. Utforsk-fanen på Instagram er like fenomenal når det gjelder å finne ut hva du liker, det er litt skummelt, men de vet på en måte mye mer informasjon enn det vi gjør. Og vi er bare fokusert på å prøve å søke om det største gode, tror vi, for å gjøre verden mye tryggere.

Jennifer Strong: Og for ham betyr det å jobbe med politiet.

Hoan Ton-That : Så allerede i mange rettshåndhevelsesbyråer som bruker ansiktsgjenkjenning, har de en prosedyre som sier at du ikke bare kan arrestere noen basert på en ansiktsgjenkjenningsmatch. Du må fortsatt gjøre oppfølgingsundersøkelser. Så det er alltid et menneske i løkken som sjekker om denne personen er den rette? Har de riktig navn? Bor vedkommende i samme område der forbrytelsen ble begått?

Jennifer Strong: Men hva med folk som er falskt anklaget?

Ton-Det vil hevde at det er en menneskelig svikt. På samme måte er vi fortsatt ansvarlige for hvordan vi kjører mens vi bruker GPS – når navigasjonen sier ta til høyre og det ikke er trygt å gjøre det – er det opp til oss og vår menneskelige hjerne å ignorere det.

Og han minner oss på at folk tar feil også.

Hoan Ton-That : Som et eksempel er menneskelige oppstillinger. Innocence Project sier at 70 % av urettmessige domfellelser kommer fra øyenvitne. Så, du vet, hvis du er en dårlig politimann og du ønsker å anklage noen for en forbrytelse de ikke gjorde, kan du på en måte liker folk til å velge den personen du vil ha ut av en lineup, og jeg tror teknologi som Clearview kan faktisk bidra til å legge til mye åpenhet og ansvarlighet. Noe vi gjerne vil ta en grundig titt på er hvordan det faktisk kan hjelpe folk til å ikke bli feilidentifisert.

Jennifer Strong: På en måte, dette argumentet han kommer med mot menneskelig dømmekraft? Det er den samme som brukes mot å overlate disse avgjørelsene til AI: det er feil, skjevhet og rasisme. Men der Ton-That ikke tror at vi kan endre mennesker på en pålitelig måte, tror han at han har fjernet disse tingene fra systemet sitt.

Hoan Ton-That : Og så tror vi at vi har løst nøyaktighetsproblemet og rasebiasproblemet som på en måte har plaget andre ansiktsgjenkjenningsfirmaer. Og vi vil at andre skal vite at vi virkelig kan ta denne teknologien og bruke den.

Jennifer Strong: Dette er veldig store påstander som kanskje ikke engang er mulige, og det er foreløpig ingen måte å bekrefte noe av det. Clearview har ikke gitt den typen offentlig tilgang som gjør at systemet deres kan revideres på samme måte som Amazon og andre har.

Han sier at selskapet gjorde sin egen revisjon, og satte sammen en uavhengig vurderingskomité som tok en lignende tilnærming som da ACLU testet Amazons ansiktsgjenkjenningssystem ved å kjøre bilder av den amerikanske kongressen forbi en mugshot-database – som er bilder av personer som har blitt arrestert for en forbrytelse.

Hoan Ton-That : Og så de kjørte denne uavhengige studien. Men i stedet for å søke i et galleri med 25 000 mugshots, søkte den i et galleri med 2,8 milliarder bilder på den tiden. Og vi gjorde andre statlige lovgivere som delstaten New York og Texas. Og hvert av resultatene som kom opp var den riktige personen, og de gikk gjennom dem individuelt.

Jennifer Strong: Fra Clearviews perspektiv betyr dette at teknologien faktisk kan hjelpe rettssystemet til å bli mer rettferdig. Han sier at de fikk Jonathan Lippman, sjefsdommer ved lagmannsretten i New York, til å være en del av det revisjonspanelet.

Hoan Ton-That : Og han mener virkelig at hvis du har noe som er mer nøyaktig, er det bedre for de tiltalte også. De kommer ikke til å gå i fengsel for en forbrytelse de ikke har begått.

Jennifer Strong: Hvis Silicon Valley har et merke, er det denne teknooptimismen om hvordan deres kreasjoner vil forandre verden, men uten byrden av å være ansvarlig for eventuelle uønskede endringer som kan følge med det.

Kanskje det egentlig bør ikke være oppgaven til teknologiskapere å bekymre seg for hva slags åpenhet, tilsyn og rekkverk som trengs for å beskytte publikum.

Hoan Ton-That : Jeg tror det er myndighetenes og beslutningstakernes ansvar å komme med reguleringer og teknologiselskaper bør ha en plass ved bordet, og det er i deres interesse å ha en plass ved bordet. Noen ganger ser du dårlige retningslinjer vedtatt fordi de ikke vet hvordan teknologien fungerer. Så jeg tror flere teknologiselskaper kommer til å engasjere seg i politikk.

Vi har hatt mye oppmerksomhet, men vi vet at vi gjør det rette. Og jeg tror i det lange løp, enhver form for ny teknologi er kontroversiell fra trykkpressen... og det er bare en del av prosessen. Valget står ikke mellom ingen ansiktsgjenkjenning og ansiktsgjenkjenning. Det står mellom ansvarlig ansiktsgjenkjenning og et slags ville vesten.

Jennifer Strong: En gruppe som har som mål å bidra til å temme det ville vesten er The Police Executive Research Forum. Den ideelle organisasjonen har brukt de siste fire tiårene på å hjelpe politisjefer med å jobbe gjennom nye problemer.

Alexa Daniels-Shpall : Bruken av tasers. De bruker kroppsbårne kameraer. Nå ser vi også på temaet ansiktsgjenkjenning.

Jennifer Strong: Alexa Daniels-Shpall leder denne forskningen i samarbeid med det amerikanske justisdepartementet.

Alexa Daniels-Shpall : Vi har gjort mye av denne forskningen på dette området med mål om å utvikle noen nasjonale retningslinjer. De bruker det på en rekke forskjellige måter, og de har liksom alle utviklet sine egne prosedyrer, protokoller og retningslinjer.

Jennifer Strong: Vi kommer inn på den neste episoden ... Men foreløpig er det viktige at forskningen hennes tyder på at Clearviews adopsjon av politiavdelinger kanskje ikke er så utbredt som hevdet. I januar fortalte han New York Times at mer enn 600 rettshåndhevelsesbyråer har begynt å bruke produktet hans det siste året.

Alexa Daniels-Shpall : Vi har bare sett en håndfull som har fulgt opp med en formell kontrakt.

Jennifer Strong: Bunnlinjen: politibyråer bruker Clearview. Men det er stor forskjell på å prøve og kjøpe.

Alexa Daniels-Shpall : Jeg vet at noen prøvde det ut og deretter bestemte seg for ikke å bruke det. Og i det minste noen av dem vi snakket med sa at det bare ikke fungerte så bra for dem. Og jeg tror nok det kommer an på, vet du, hva du tester det med og, og akkurat hvor du er i landet. For, du vet, jeg vet ikke at noen har en følelse av hvor mange bilder som kommer opp i forskjellige områder.

Jennifer Strong: Og ikke alle politibyråer som prøvde det ut gjorde det bevisst ... eller gjennom offisielle kanaler.

Alexa Daniels-Shpall : Lederne fant ut at detektiver hadde blitt kontaktet av selskapet for å teste det ut. Og så brakte de det til sjefene sine for å si: Hei, vi bør se på å gå videre med det. Og lederne sa på en måte, vi kommer til å stenge det for nå, og gå gjennom våre vanlige anskaffelses- og evalueringsprosesser før vi går videre. // Det har vært en slags blandet mottakelse vil jeg si fra forskjellige byråer. Og det viktigere spørsmålet ville være å finne ut hvor mange slags permanente langsiktige kontrakter, og hvor mange byråer som har gjort de formelle anskaffelsene for å få et forhold til selskapet i stedet for bare de gratis prøveversjonene som pågikk.

Jennifer Strong: Neste gang møter vi politi rundt om i USA som bruker ansikts-ID...

Dori Koren : Det er litt hollywoodsk, men vi gjorde det med vilje, det var slik vi ville at det skulle føles. Så, forestill deg å gå inn i et stort rom og på frontveggen har du denne massive skjermen - alle slags kamerastrømmer som et overvåkingsrom, men litt mer høyteknologisk, litt større, litt mer avansert.

Jennifer Strong: Og finn ut hvilken rolle skuespilleren Woody Harrelson og andre kjendiser ubevisst spiller når det gjelder å navngi politimistenkte...

Denne episoden ble rapportert og produsert av meg, med Tate Ryan-Mosely og Emma Cillekens, med spesiell takk til Karen Hao og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Litchfield. Vår tekniske direktør er Jacob Gorski.

Takk for at du lyttet, jeg heter Jennifer Strong.

gjemme seg