211service.com
Podcast: Oppmerksomhet, kunder – du blir sporet
I noen butikker sporer sofistikerte systemer kunder på nesten alle tenkelige måter, fra å gjenkjenne ansiktene deres til å måle alderen deres, humøret deres og praktisk talt gi dem sminke. Systemene ber sjelden om folks tillatelse, og for det meste trenger de ikke det. I vår sesong 1-finale ser vi på eksplosjonen av AI og ansiktsgjenkjenningsteknologier i butikklokaler, og hva det betyr for fremtidens shopping.
Vi møtes:
- RetailNext CTO Arun Nair
- Global VP Guive Balooch for L'Oreals teknologiinkubator
- Modiface-sjef Parham Arabi
- Biometripioner og styreleder for ID4Africa Joseph Atick
Studiepoeng
Denne episoden ble rapportert og produsert av Jennifer Strong, Anthony Green, Tate Ryan-Mosley, Emma Cillekens og Karen Hao. Vi er redigert av Michael Reilly og Gideon Lichfield.
Avskrift
[TR ID]
Sterk: Forhandlere har brukt ansiktsgjenkjenning og AI-sporingsteknologier i årevis.
[ Lyd fra Face First: Hva om du kunne stoppe detaljhandelskriminalitet før det skjer ved å vite øyeblikket en butikktyv kommer inn i butikken din? Og hva om du kunne vite om tilstedeværelsen av voldelige kriminelle før de handler? Med Face First kan du stoppe kriminalitet før den starter.]
Sterk: Det er en av de største leverandørene av denne teknologien til butikker. Den oppdager ansikter, stemmer, gjenstander og hevder at den kan analysere atferd. Men ansiktsgjenkjenningssystemer har en veldokumentert historie med feilidentifisering av kvinner og fargede.
[ Lyd fra kongresshøringen 2019 om ansiktsgjenkjenning (Ocasio-Cortez): Vi har en teknologi som ble skapt og designet av én demografisk person som bare stort sett er effektiv på den ene demografien. Og de prøver å selge det og påtvinge det hele landet?]
Sterk: Dette er representanten Alexandria Ocasio-Cortez under en kongresshøring i 2019 om ansiktsgjenkjenning. Fototeknologi fungerer bedre på lysere hud. Og datasett som brukes av selskaper for å trene ansiktsanalysesystemer er i stor grad basert på ansikter samlet inn fra internett der innhold har en tendens til å skjeve hvitt, mannlig og vestlig.
[ Lyd fra kongresshøringen 2019 om ansiktsgjenkjenning (Ocasio-Cortez): Og tror du at dette kan forverre de allerede alvorlige ulikhetene i vårt strafferettssystem]
[ Lyd fra kongresshøringen 2019 om ansiktsgjenkjenning (Buolamwini): Og det er det allerede.]
Sterk: Joy Buolamwini er en aktivist og informatiker.
[ Lyd fra kongresshøringen 2019 om ansiktsgjenkjenning (Buolamwini): Så det er en sak med Mr. Bah, en 18 år gammel afroamerikansk mann som ble feilidentifisert i Apple-butikker som en tyv. Og faktisk ble han falskt arrestert flere ganger på grunn av denne typen feilidentifikasjon.
Sterk: Etter hvert som bevisstheten om disse problemene vokser, ser flere steder etter å sette restriksjoner rundt bruken, for eksempel i Portland, Oregon, som nylig vedtok det mest omfattende forbudet mot ansikts-ID i USA.
[ Lyd fra butikk i Portland, Oregon: se inn i kameraet for å komme inn]
Sterk: Forbudet trer i kraft i januar, og når det gjør det, vil stemmen og kameraet forsvinne fra steder som denne matbutikken der teknologien låser opp døren for sent på kvelden. Men bruk andre steder går langt utover å bekjempe kriminalitet (og begynner å spille andre detaljhandelsroller) som å huske tidligere bestillinger og betalingsdetaljer.
Miller: Disse ansiktsbaserte teknologiene, uhh kunstig intelligens, maskinsyn lar oss se kundene våre i den offline verden slik Amazon ser kundene sine i den elektroniske verdenen. Det lar oss skape skreddersydde opplevelser for kunden og lar oss også målrette kunden direkte på nye måter når de kommer tilbake til restauranten.
Sterk: Det er styrelederen i Cali Group, John Miller, hurtigmatrestauranten Caliburger prøver ut teknologier den senere markedsfører til hele industrien. Andre forhandlere bruker ansiktsgjenkjenning for å finne ut når VIP-shoppere eller kjendiser er i butikkene deres, ikke ulikt denne scenen fra filmen Minority Report der Tom Cruise rusler gjennom et kjøpesenter, øynene hans skannes og annonsene adresserer karakteren hans ved navn.
[ Lyd fra Minority Report hvor stemmer henvender seg til John Anderson personlig]
Sterk: Ansiktsmålingene som driver disse applikasjonene kan også brukes til mange andre ting i tillegg til å identifisere noen. Noen kjøpesentre bruker det for eksempel til å sette butikkleiene ved å telle hvor mange som går forbi, og bruke ansiktsdata for å måle kjønn, alder og annen demografi. Noen ganger er ansiktsgjenkjenningskameraer til og med skjult inne i kjøpesenterkataloger. Og inne i butikker bruker forhandlere det for å bedre forstå hva kunder er interessert i. Det er også innebygd i shoppingapper og butikkspeil som lar folk prøve alt fra briller til sminke virtuelt.
Jeg heter Jennifer Strong, og denne episoden avslutter vår første sesong (og vår siste miniserie om ansiktsgjenkjenning) med en titt på hvordan den brukes til å se, forstå og påvirke handlevanene dine.
[VIS ID]
Sterk: Så jeg står foran det som pleide å være den største butikken i verden. Dette er Macy's på 34th Street på Manhattan. Bygningen fyller en hel byblokk, og på noen måter er den et slags tyngdepunkt for julehandelsesongen her som blant annet inspirasjonen til en av New Yorks mest kjente julefilmer, Miracle on 34th Street.
Men selskapet kan også ha en historie med å bruke ansiktsgjenkjenning, og det ble anlagt søksmål om det i Illinois som har en biometrisk personvernlov som krever at selskaper får tillatelse før de bruker den på kunder. Saken hevder Macy's er en klient av ClearviewAI. Vi har hatt grunnleggeren på dette showet Hoan Ton-That og produktet hans fungerer ved å matche bilder, i dette tilfellet av shoppere eller butikktyver, mot en database med kanskje milliarder av bilder tatt fra sosiale medier lagt ut av folk som ikke har endret innstillinger for å gjøre bildene private bare for vennene deres.
Nå har New York Citys rådsmedlemmer nettopp vedtatt et biometrisk mål her som hvis det er signert av ordføreren, vil gjøre at forhandlere her også forteller kunder at ansiktsgjenkjenning blir brukt og kanskje hva som skjer med disse dataene. Men du vet at det er for tidlig å si hvordan det kan se ut. Jeg mener er det å gå som en del av en stor mengde shoppere forbi en veggplakett som sier at ansiktsgjenkjenning er til stede, er det det samme som å være informert, enn si å gi samtykke? Men jeg skal gå inn med produsenten min, Anthony Green, og se om vi kan finne helt forskjellige bruksområder for ansiktskartlegging å vise deg.
Flere av disse skjønnhetsdiskene har iPads som fungerer som speil med utvidet virkelighet. Vi prøvde ut tre av dem, men vi ba om samtykke til å analysere ansiktene våre. To av systemene så oss fint gjennom maskene våre. Den andre kjente ikke igjen ansiktene våre i det hele tatt.
Jeg gikk bort til et speil og det sa at belysningen min er i orden. Kom nærmere til ansiktet ditt fyller en sirkel. Jeg har tydeligvis mørke ringer, ujevn tekstur. irritasjon og rødhet og øyelinjer. Vi er i det minste på den mindre siden? Jeg vet ikke. Wow. Hei Anthony, du burde se dette. Jeg var ikke sikker på at det gjorde noe, og se nå i speilet.
Grønn: Wow.
Sterk: Ikke sant?
Grønn: Wow.
Sterk: Jeg har egentlig ikke ord for å beskrive dette, men det er så morsomt å se meg selv dette oppdiktet.
Grønn: Akkurat som glammet opp.
Sterk: Ja. Jeg er superglad. Og bokstavelig talt alt jeg gjorde var å se i dette speilet, og så så jeg ned på en iPad og Holy, wow.
Grønn: Dette fungerer med masken på.
Sterk: Dette er med masken min på. Og trekker jeg masken ned, blir jeg sminket overalt.
Grønn: Å ja.
Sterk: Som glosset og alt. Å, se på deg.
Grønn: Wow.
Sterk: Ok, så Anthony tok bare et skritt bortover mot meg, og nå har han gjort opp til nirene. Greit. Disse erfaringene er blant de mange måtene ansiktskartlegging kan brukes på.
Men fordi de er så kontroversielle, vil de fleste merker rett og slett ikke snakke om det. Og stort sett trenger de ikke. Det er ikke noe nasjonalt krav om at selskaper skal avsløre måten de samler inn eller bruker våre biometriske data på, selv om vi kan forestille oss en ikke så fjern fremtid når disse dataene blir viktigere enn noe dokument vi har. Disse personopplysningene vil sannsynligvis erstatte dem alle som beviser hvem vi er og hva vi eier.
Det meste av det vi vet om bruken av ansiktsgjenkjenning av forhandlere startet i 2013 da det ble offentlig at identitetsselskapet NEC hadde rundt et dusin merker og hoteller som kunder, og de brukte ansiktsleseteknologien for å identifisere kjendiser og andre VIP-er mens de gikk gjennom dørene deres.
Året etter kunngjorde Facebook at de brukte nevrale nettverk på ansikts-ID for første gang, noe som fikk det til å fungere betydelig bedre. Og forhandlere, inkludert Walmart, begynte å teste det som en måte å identifisere personer som ble tatt for butikktyveri.
I 2016 eksperimenterte hurtigmatbedrifter med andre bruksområder. Ett partnerskap, mellom KFC og den kinesiske teknologigiganten Baidu, anbefalte menyelementer til kunder basert på deres alder og humør som ansett ved ansiktsskanning. I disse dager er det også mulig å betale med ansiktet ditt, men foreløpig har disse applikasjonene ikke virkelig fanget opp. Og så, uansett hvor du handler, er det rimelig å anta at du kan støte på noen aspekter ved denne teknologien, og den kan kombineres med en rekke andre trackere. Men det er like sant at mye av sporingen som gjøres i butikker som bruker datasyn, ikke innebærer noen ansiktsgjenkjenning i det hele tatt.
Nair: Hvis du bygger et nettsted i dag, er det mange tilgjengelige verktøy som du kan bruke for å gi deg data, som hvor mange som besøkte nettstedet ditt, hvem de var, hvordan de navigerte på nettstedet ditt og så videre, og for e-handelssider. eventuell kjøpsaktivitet også. Og du kan bruke alle disse dataene til å forstå besøkendes adferd og optimalisere nettstedet ditt. Vi gjør akkurat det samme, men for fysiske rom. Jeg heter Arun Nair. Jeg er CTO og medgründer av RetailNext.
Sterk: Sporingsprogramvaren deres er distribuert på kontorer, museer, til og med bowlingbaner, men deres primære marked er detaljhandel. Takkameraer utstyrt med datasyn sporer kunder mens de reiser gjennom butikken. Den kan gjette grunnleggende demografisk informasjon som kjønn, hvem som er en ansatt – basert på om de går bak registeret, til og med interaksjoner mellom ansatte og kunder.
Nair: Vi har til og med en prediksjonsalgoritme som vil fortelle deg basert på historisk informasjon når butikken din kommer til å være opptatt senere på dagen, senere i uken. Og det er svært nyttig for bemanning. Så pass på at når du forventer en topp, at det er folk der for å hjelpe kjøpere og de ikke står i kø og så videre, samt at du ikke alltid er bemannet når ingen trenger å være der.
Sterk: Han sier at selskapet er i stand til å bestemme hva du ser på, men det sporer ikke blikk, uttrykk eller ansikter. Og de identifiserer ikke noen individuelt.
Nair: Vi vet ikke hvem de er som individer, og vi prøver spesifikt å la være det også. Og i faktisk mange tilfeller, når vi får den informasjonen, kaster vi videoen eller vi gjør videoen uskarp.
Sterk: Når det gjelder personvern, mener han at systemer som bruker ansiktsgjenkjenning for identitet bør være opt-in
Nair: Samtykke handler ikke bare om at jeg legger ut dataene mine slik at du kan gjøre hva du vil. Jeg tror samtykke også handler om at du vet, vi vil at du skal gjøre dette slik at vi kan gjøre dette til gjengjeld for deg. Er du ok med det?
Sterk: Men han innrømmer at det er lettere sagt enn gjort.
Nair: Det er ikke lett å velge bort de tingene. Og selv om du velger bort, er utfordringen at la oss si at du sier det, hei, jeg vil velge bort ansiktet mitt. Som et teknologiselskap må jeg fortsatt lagre en digitalisert versjon av ansiktet ditt for å være sikker på at jeg ikke sporer deg igjen i fremtiden fordi neste gang jeg ser ansiktet ditt, trenger jeg noe å kartlegge for å si det, Å, jeg burde slippe ansiktet til denne personen. Men så igjen, du vet, på en merkelig måte, jeg lagrer nå en digitalisert versjon av ansiktet ditt, som. Igjen, det er egentlig ikke ansiktet ditt, men det er en representasjon av det.
Sterk: Og disse utfordringene forsvinner ikke. De fleste sporingsteknologier er ikke regulert, og vi vet rett og slett ikke hvor ofte ting som ansiktsdata blir fanget. Det som er tydelig at detaljhandelsbransjen skifter til en verden som er sentrert rundt sanntidsanalyse av kundeopplevelser.
Nair: Jeg tror de kommer til å se mer og mer av det fremover, hvor det faktisk skjer færre kjøp på disse stedene, men det er på en måte du lærer om merkevaren. [00:12:15] Nesten som reklame, i tillegg til å bygge en merkevarelojalitet.
Sterk: Å spore kunder og deres interaksjon med butikken hjelper ikke bare forhandlere å vite hva som selger, det gir dem også innsikt i hva kundene vil ha.
Nair: Du introduserer et nytt produkt. Og du vil sørge for at folk ser det produktet. Algoritmene våre vil fortelle deg om folk faktisk går inn i et område av butikken og samhandler med et produkt og faktisk gjør et kjøp etterpå.
Balooch: Jeg tror at det er en kombinasjon av AI med fysiske objekter som virkelig skaper et spennende øyeblikk i tid. Du vet, du kunne aldri virkelig prøve en trend og så faktisk gi den ut. Det var aldri mulig. Men nå på grunn av AI, er vi i stand til å virkelig gå gjennom trender veldig raskt. Vi er i stand til å kurere trender, vi er i stand til å gi folk det de ønsker. Mitt navn er Guive Balooch og jeg driver den globale teknologiinkubatoren på L'Oreal. Jeg har vært i selskapet i 15 år og jobben min er å finne skjæringspunktet mellom skjønnhet og teknologi.
Sterk: L’Oreal er verdens største kosmetikkselskap med Estee Lauder, Maybelline, Garnier og utallige andre forbrukermerker under bedriftens paraply.
Balooch: Vi startet for omtrent åtte år siden med en utvidet virkelighet-app kalt makeup genius. Det var verdens første virtuelle prøving. Og siden den gang har vi lansert prosjekter rundt personlig skjønnhet som personlig tilpasning av hudpleie, personlig tilpasning av foundation. Vi har lansert en UV-sensor i Apple-butikken som er en bærbar enhet som ikke har batteri og kan måle UV-eksponeringen din. Og nå er vi, vi beveger oss mer og mer mot massetilpasning og finne måter å kombinere teknologier som AR og AI for å skape nye fysiske objekter som kan være magiske for skjønnhetsforbrukere og forhåpentligvis glede brukerne våre.
Sterk: Og dette er vanskeligere enn det kan høres ut. Å designe opplevelser som lar kunder prøve sminke i utvidet virkelighet byr på store tekniske utfordringer for ansiktsgjenkjenning.
Balooch: Du må oppdage hvor øyet er og hvor øyenbrynet er. Og det må være på et nivå av nøyaktighet at når produktet er der, ser det ikke ut som det ikke akkurat er på leppen din. Og det er, det er morsomt fordi jeg kommer fra en akademisk bakgrunn med en doktorgrad. Så jeg skjønte ikke hvor komplisert den spesifikke delen av denne teknologien er. Jeg tenkte: Å, det er greit. Vi får bare programvaren. Det blir lett. Vi får det bare til å fungere. Men det viser seg at nei, det er veldig komplisert fordi folks lepper kan variere i form, fargen mellom hudtonen og leppen din kan også være veldig forskjellig. Og så du må ha en algoritme som kan oppdage det og sørge for at det fungerer på mennesker fra veldig lys til veldig mørk hud.
Sterk: Og han sier at en av de største virkningene av AI på skjønnhetsmarkedet kan være mer inklusivitet – noe industrien lenge har slitt med.
Balooch: Jeg er under denne sterke troen på at inkludering er fremtiden for skjønnhet og inkludering betyr at alle mennesker har rett til å ha et produkt som er det de trenger for seg selv og til å vise verden hvordan de ønsker å være vist frem. Og jeg tror at bare gjennom ting som AI og teknologi, vil vi være i stand til å nå det nivået av personlig forhold til folks ønsker for deres skjønnhetsvaner.
Sterk: Disse vanene er formet rundt huden vår. Og hudfarge har historisk sett vært en av de vanskeligste tekniske og kulturelle utfordringene.
Balooch: Vi lanserte dette prosjektet kalt som er denne foundationblenderen. Og da jeg først startet dette prosjektet, trodde jeg det kom til å være veldig enkelt, for da jeg gikk til Home Depot umm, er jeg egentlig ikke en altmuligmann, men jeg dro mye med faren min til Home Depot og han ville kjøpe maling. Han ville matche malingen og de ville bare lage malingen der. Og jeg sa, ok, er det så enkelt? Så da vi først startet prosjektet, skjønte vi, ok, du vet, du bare tar en hudtone fra et stykke, du vet, et papir, og du kan bare matche foundationen. Og jeg innså senere at huden vår ikke er som en vegg, det er biologisk vev som endrer seg avhengig av hva slags hudtone du har.
Sterk: Kort sagt, algoritmen fungerte ikke.
Balooch: Og derfor måtte vi stoppe og bruke ytterligere seks måneder på å forbedre det. Først gjorde vi det med en liten enhet som på en måte måler hudtonen din, ved hjelp av et fysisk objekt, fordi hudtonen din er vanskelig å måle hvis du faktisk ikke berører huden fordi lyset kan endre fargen på huden din. Og så avhengig av om du er ute eller om du er inne, kan du ha stor forskjell i målingen. Men ikke nå lenger. Takket være AI, tror jeg mer og mer med AI, kommer vi til å kunne få nøyaktige målinger. Vi må teste dem og sørge for at de fungerer like bra som gjenstander. Men når vi først kommer til et punkt, når vi tror vi nærmer oss det, kan du løse noen virkelig, virkelig store utfordringer. Og i foundation finner ikke 50 % av kvinnene den riktige nyansen av foundation. Og det er ingen måte at antallet produkter på hyllen noen gang vil løse det fordi du alltid vil ha flere hudtoner i verden enn produkter du kan legge på hyllen.
Sterk: Og fremtiden kan åpne opp for en helt ny klasse med personlig tilpassede skjønnhetsverktøy.
Balooch: Vi kan lage gjenstander som, du vet, ikke er store – håndholdte – og som kan gjøre utrolige ting. Som i fremtiden kan du tenke deg at du kan dispensere øyenskygge på øyelokket ditt automatisk bare ved å oppdage ansiktet og kunne ha en gjenstand som kan dispensere det.
Sterk: For å bygge denne fremtiden kjøpte L'Oreal et selskap kalt Modiface som lager utvidet virkelighetsverktøy for mer enn 70 av verdens beste skjønnhetsmerker.
Arabisk: Et stort skritt som skjedde for noen år siden var å gå fra bilder til live videosimulering. Virkelig vanskelig teknologisk, men virkelig innvirkning på forbrukeropplevelsen. I stedet for å måtte ta et bilde og laste det opp, kunne de se en direktesendt video.
Sterk: Parham Aarabi er grunnlegger og administrerende direktør i Modiface.
Arabisk: Det neste store steget jeg ser at jeg er veldig spent på, er en kombinasjon av AI-forståelse av ansiktet, sammen med simuleringen vår. Så ikke bare sier du, ok, så du velger en leppestift og slik ser den ut, men sier, fordi du valgte denne leppestiften og fordi du, du vet, du har blå øyne, tror vi at denne øyenskyggen kan matche den beste.
Sterk: Bakgrunnen hans er i ansikts- og leppesporing.
Arabisk: Og så hadde vi laget denne prøvedemoen der du kunne spore noens lepper og bytte leppene med en kjendis, for eksempel. Min medgründer hadde ideen om at før vi gjør dette, burde vi faktisk bruke noen endringer på huden. Og så var det egentlig kombinasjonen av disse to ideene som ble grunnlaget for Modiface.
Sterk: Skjønnhetsindustrien trives med den personlige shoppingopplevelsen. Og selv om e-handelssalget lenge har vært på vei oppover, har denne sektoren vært mye tregere enn andre. For kontekst var den beste e-handelselgeren innen skjønnhet i 2018 sjampo. Men pandemien setter fart. Nettsalget hos skjønnhetsgiganten Sephora økte med 30 prosent i USA i år. Og det er også inngått samarbeid med Modiface for å utvikle en app som fungerer som en virtuell butikk, komplett med produktveiledninger og en utvidet virkelighet-skjønnhetsdisk.
Arabisk: Du ser en prøv-på-knapp, du trykker på den, og et vindu åpnes. Du ser din egen video i det vinduet, men med forskjellige virtuelle produkter som vises.
Sterk: Og å bygge forbrukernes tillit til disse simulerte produktene betyr å lage en opplevelse like sømløs som å se seg i et speil.
Arabisk: Hvis noen faktisk prøver på en leppestift og en hårfarge og deretter filmer seg selv i motsetning til å bruke teknologien vår og deretter ha en virtuell simulering av disse produktene, bør de to være umulig å skille. Etterslepet i simuleringen som brukes versus når du ser på ansiktet ditt og du ser bevegelser, må ikke være synlige for brukeren. Og derfor er dette store utfordringer. Den ene er av realisme. Du vil ikke at eyelineren skal flimre på noens øyne, og det andre er å gjøre det så raskt at du ikke merker noe etterslep på en nettside i live video. Så dette er store, store utfordringer.
Sterk: Og det er mer enn bare kosmetikk. Elementer av ansiktsdeteksjon brukes i økende grad i medisin for å diagnostisere sykdom. Og han tror produktene deres i fremtiden vil oppdage alle slags hudsykdommer.
Arabisk: Så vi har presset på denne hudvurderingen, um, retningen ved å se på noens bilde. Og basert på det, å vite hvilke hudpleieprodukter som er best for dem, og mer, jo mer vi gjør dette og jo mer vi trener AI-systemene våre, finner vi ut at de øker i nivået av nøyaktighet som samsvarer med hudleger. . Og jeg tror at hvis du følger den linjen, at denne kunstige intelligensen faktisk ikke kan erstatte hudleger, men virkelig hjalp dem som.. et objektivt verktøy som kan se på noens ansikt og komme med anbefalinger.
Sterk: Det føles som om det er mer bevissthet om ansiktsgjenkjenning av risikoene, umodenheten og skjevhetene, men også dens økte tilstedeværelse i livene våre og bare råpotensialet. For meg virker det som om vi nettopp har skrapet på overflaten - i dette rotete digitale kappløpet til noe annerledes og stort. Og det fikk meg til å lure på hvordan en av oppfinnerne kan føle seg om alt dette?
En flått: Jeg begynte å jobbe med den menneskelige hjernen omtrent et år etter at jeg ble uteksaminert og gjorde sammen med mine, samarbeidspartnere noen grunnleggende gjennombrudd, som førte til etableringen av et felt kalt den biometriske industrien og den første kommersielt levedyktige ansiktsgjenkjenningen. Det er derfor folk omtaler meg som en grunnleggende far for ansiktsgjenkjenning og den biometriske industrien.
Sterk: Det er Dr. Joseph Atick. Han utviklet en av de første ansiktsgjenkjenningsalgoritmene tilbake i 1994.
En flått: Algoritmen for hvordan en menneskelig hjerne vil gjenkjenne kjente ansikter ble tydelig mens vi driver med matematisk forskning ved Institute for advanced study i Princeton.
Sterk: Men teknologien som trengs for å fange disse ansiktene var ennå ikke i alles lommer.
En flått: På den tiden hadde ikke datamaskiner kamera. Telefoner som hadde kamera fantes ikke. Vi måtte bygge øynene for hjernen. Vi hadde en hjerne, vi trodde vi visste hvordan hjernen ville analysere signaler, men vi hadde ikke øynene som skulle få informasjonen og det visuelle signalet til hjernen.
Sterk: Webkameraer kom på 90-tallet og datamaskiner med videofunksjoner kom på markedet noen år etter.
En flått: Og det var en spennende tid, for plutselig hadde hjernen vi hadde bygget endelig øynene som det var nødvendig å se.
Sterk: Dette var gjennombruddet han og teamet hans trengte for å bringe konseptet sitt ut i livet. Så de begynte å kode.
En flått: det var en lang periode med måneder med programmering og feil og programmering og feil
Sterk: Men til slutt…
En flått: Og en kveld, tidlig morgen, faktisk, hadde vi nettopp ferdigstilt, um, en versjon av algoritmen. Vi sendte inn kildekoden for kompilering for å få en kjørekode. Og vi gikk ut, jeg gikk ut for å gå på vaskerommet. Og så da jeg gikk tilbake inn i rommet så den ansiktet mitt, trakk det ut fra bakgrunnen og det uttalte at jeg ser Josef. Og det var øyeblikket hvor håret på ryggen – jeg følte at noe hadde skjedd. Vi var et vitne. Og jeg begynte å kalle på de andre menneskene som fortsatt var i laboratoriet og hver og en av dem, de ville komme inn i rommet. Og jeg vil si, det vil si, jeg ser Norman. Jeg ville se Paulus, jeg ville se Josef. Og vi bytter på å løpe rundt i rommet bare for å se hvor mange den kan få øye på i rommet.
Sterk: De hadde bygget noe som aldri hadde blitt bygget før. Måneder med matematikk og koding og lange netter så ut til å gi resultater. Men i løpet av få år ble den spenningen til bekymring.
En flått: Min bekymring for teknologien jeg var med på å skape og oppfinne startet veldig raskt etter at jeg hadde oppfunnet den. Jeg så en fremtid hvor personvernet vårt ville være i fare hvis vi ikke iverksatte beskyttelsestiltak for å forhindre misbruk av denne kraftige teknologien.
Sterk: Og han ville gjøre noe med det.
En flått: Så i 1998 drev jeg lobbyvirksomhet for industrien og sa at vi må sette sammen prinsipper for ansvarlig bruk. Og det er her en organisasjon kalt IBIA ble født i 1998 som en bransjeforening for å fremme ansvarlig bruk. Og så var jeg grunnleggeren av den organisasjonen. Og jeg følte meg bra en stund fordi jeg følte at vi har fått det til. Jeg følte at vi hadde oppfunnet teknologien, men så fikk vi på plass en ansvarlig brukskode som følges av hva som er implementeringen. Den koden levde imidlertid ikke tidens tann. Og årsaken bak det er at vi ikke forutså fremveksten av sosiale medier.
Sterk: Ansiktsgjenkjenning er avhengig av en database med bilder. Størrelsen, kvaliteten og personvernbetingelsene til denne databasen er i stor grad det som avgjør hvor sikker eller påtrengende teknologien er. I 1998 bygde Atick databasene sine ved å manuelt skanne tusenvis av bilder og merke dem med navn. Det var kjedelig og begrensende i størrelse.
En flått: Vi har sluppet dyret ut av posen ved å mate det med milliarder av ansikter og hjelpe det ved å merke oss selv. Vi er nå i en verden der maskinlæring nå tillater fremveksten av over 400 forskjellige algoritmer for ansiktsgjenkjenning i verden. Derfor er ethvert håp om å kontrollere og kreve at alle skal være ansvarlige i bruken av ansiktsgjenkjenning vanskelig.
Sterk: Og dette forverres av skraping, der en database opprettes ved å skanne hele internett for offentlige bilder.
En flått: Og så jeg begynte å få panikk i 2011, og jeg skrev en artikkel som sa at det er på tide å trykke på panikkknappen fordi verden er på vei i en retning der ansiktsgjenkjenning kommer til å være allestedsnærværende og ansikter kommer til å være tilgjengelig overalt. i, i, i databaser. Datakraft blir veldig, veldig massiv til det punktet at vi potensielt kan gjenkjenne milliarder av mennesker. Og på den tiden sa folk at jeg var en alarmist, men de innser at det er akkurat det som skjer i dag.
Sterk: Så på en måte driver han på en måte mot sin egen oppfinnelse, selv om han fortsatt bruker biometri for å bygge ting han tror kan være til nytte for det større gode som digital ID for mennesker i utviklingsland.
En flått: Den avkjølende effekten er noe som er utilgivelig. Hvis jeg ikke kan gå ut på gaten, fordi jeg tror at noen bruker en iPhone, kan jeg ta et bilde av meg og koble meg til nettprofilen min, og denne online og offline tilkoblingen er en farlig ting. Og det skjer akkurat nå.
Sterk: Og han mener vi snarest trenger noen juridiske spilleregler.
En flått: Så det er ikke lenger et teknologisk problem. Vi kan ikke inneholde denne kraftige teknologien gjennom teknologi. Det må være noen form for juridiske rammer.
Sterk: Slik han ser det, vil den teknologiske fordelen fortsette å presse seg fremover – med AI i forkant. Men folket som bygger og bruker det? De er i sentrum.
En flått: Jeg tror det må være en viss harmoni mellom hva teknologien kan gjøre for oss og hjelper oss å leve med verdighet og ha lettere liv og få kontakt med menneskene vi elsker, men samtidig må det være innenfor hva vår moral og våre forventninger slik mennesker lar det være.
Sterk: Med andre ord, nok en gang... det virker opp til oss. Denne episoden ble rapportert og produsert av meg, Anthony Green, Emma Cillekens, Tate Ryan-Mosley og Karen Hao. Vi er redigert av Michael Reilly og Gideon Lichfield. Takk også til Kate Kaye med Podcasten Banned in PDX. Det er det for sesong én. Tusen takk for at du valgte å bruke tiden din med oss. Vi vil møte deg tilbake her på det nye året inntil da god ferie og... Takk for at du lyttet, jeg heter Jennifer Strong.
[TR ID]