211service.com
Podcast: Historien om AI, som fortalt av menneskene som oppfant den
Velkommen til Jeg var der når , et nytt muntlig historieprosjekt fra I maskiner vi stoler på podcast. Den inneholder historier om hvordan gjennombrudd innen kunstig intelligens og databehandling skjedde, som fortalt av menneskene som var vitne til dem. I denne første episoden møter vi Joseph Atick – som var med på å lage det første kommersielt levedyktige ansiktsgjenkjenningssystemet.
Studiepoeng:
Denne episoden ble produsert av Jennifer Strong, Anthony Green og Emma Cillekens med hjelp fra Lindsay Muscato. Den er redigert av Michael Reilly og Mat Honan. Den er mikset av Garret Lang, med lyddesign og musikk av Jacob Gorski.
Full utskrift:
[TR ID]
Jennifer: Jeg er Jennifer Strong, vert for I maskiner vi stoler på .
Jeg vil fortelle deg om noe vi har jobbet med en liten stund bak kulissene her.
Det heter Jeg var der når .
Det er et muntlig historieprosjekt som inneholder historiene om hvordan gjennombrudd innen kunstig intelligens og databehandling skjedde ... som fortalt av menneskene som var vitne til dem.
Joseph Atick: Og da jeg kom inn i rommet, oppdaget den ansiktet mitt, trakk det ut fra bakgrunnen og det uttalte: Jeg ser Joseph og det var øyeblikket hvor håret på ryggen... Jeg følte at noe hadde skjedd. Vi var et vitne.
Jennifer: Vi sparker i gang med en mann som bidro til å skape det første ansiktsgjenkjenningssystemet som var kommersielt levedyktig ... tilbake på 90-tallet ...
[IMWT ID]
Jeg er Joseph Atick. I dag er jeg administrerende styreleder for ID for Africa, en humanitær organisasjon som fokuserer på å gi mennesker i Afrika en digital identitet slik at de kan få tilgang til tjenester og utøve rettighetene sine. Men jeg har ikke alltid vært på det humanitære feltet. Etter at jeg tok doktorgraden min i matematikk, gjorde jeg sammen med mine samarbeidspartnere noen grunnleggende gjennombrudd, som førte til den første kommersielt levedyktige ansiktsgjenkjenningen. Det er derfor folk omtaler meg som en grunnleggende far for ansiktsgjenkjenning og den biometriske industrien. Algoritmen for hvordan en menneskelig hjerne ville gjenkjenne kjente ansikter ble tydelig mens vi drev med forskning, matematisk forskning, mens jeg var ved Institute for Advanced Study i Princeton. Men det var langt fra å ha noen formening om hvordan man ville gjennomføre noe slikt.
Det var en lang periode med måneder med programmering og feil og programmering og fiasko. Og en natt, tidlig morgen, faktisk, hadde vi nettopp ferdigstilt en versjon av algoritmen. Vi sendte inn kildekoden for kompilering for å få en kjørekode. Og vi gikk ut, jeg gikk ut for å gå på vaskerommet. Og da jeg gikk tilbake inn i rommet og kildekoden var kompilert av maskinen og kom tilbake. Og vanligvis etter at du har kompilert, kjører den den automatisk, og da jeg kom inn i rommet, oppdaget den et menneske som beveget seg inn i rommet, og den oppdaget ansiktet mitt, trakk det ut fra bakgrunnen og det uttalte: Jeg ser Josef. og det var øyeblikket hvor håret på ryggen - jeg følte at noe hadde skjedd. Vi var et vitne. Og jeg begynte å kalle på de andre menneskene som fortsatt var i laboratoriet og hver og en av dem de ville komme inn i rommet.
Og det ville si, jeg ser Norman. Jeg ville se Paulus, jeg ville se Josef. Og vi bytter på å løpe rundt i rommet bare for å se hvor mange den kan få øye på i rommet. Det var, det var et sannhetens øyeblikk hvor jeg vil si at flere års arbeid til slutt førte til et gjennombrudd, selv om det teoretisk sett ikke var behov for noe ekstra gjennombrudd. Bare det faktum at vi fant ut hvordan vi skulle implementere det og til slutt så at kapasitet i aksjon var veldig, veldig givende og tilfredsstillende. Vi hadde utviklet et team som er mer et utviklingsteam, ikke et forskningsteam, som var fokusert på å sette alle disse egenskapene inn i en PC-plattform. Og det var fødselen, egentlig fødselen til kommersiell ansiktsgjenkjenning, vil jeg si det, i 1994.
Bekymringen min startet veldig raskt. Jeg så en fremtid hvor det ikke var noe sted å gjemme seg med spredningen av kameraer overalt og kommodiseringen av datamaskiner og prosesseringsevnen til datamaskiner som ble bedre og bedre. Og så i 1998 drev jeg lobbyvirksomhet for industrien og jeg sa at vi må sette sammen prinsipper for ansvarlig bruk. Og jeg følte meg bra en stund, fordi jeg følte vi har fått det til. Jeg følte at vi har fått på plass en ansvarlig brukskode som skal følges av hva som er implementeringen. Den koden levde imidlertid ikke tidens tann. Og årsaken bak det er at vi ikke forutså fremveksten av sosiale medier. I utgangspunktet, på den tiden da vi etablerte koden i 1998, sa vi at det viktigste elementet i et ansiktsgjenkjenningssystem var den taggede databasen med kjente personer. Vi sa, hvis jeg ikke er i databasen, vil systemet være blindt.
Og det var vanskelig å bygge databasen. På det meste kunne vi bygge tusen 10 000, 15 000, 20 000 fordi hvert bilde måtte skannes og måtte legges inn for hånd - verden som vi lever i i dag, vi er nå i et regime der vi har latt udyret komme ut av posen ved å mate den med milliarder av ansikter og hjelpe den ved å merke oss selv. Um, vi er nå i en verden der ethvert håp om å kontrollere og kreve at alle er ansvarlige i bruken av ansiktsgjenkjenning er vanskelig. Og samtidig er det ingen mangel på kjente ansikter på internett fordi man bare kan skrape, slik det har skjedd nylig av enkelte selskaper. Og så jeg begynte å få panikk i 2011, og jeg skrev en artikkel som sa at det er på tide å trykke på panikkknappen fordi verden er på vei i en retning der ansiktsgjenkjenning kommer til å være allestedsnærværende og ansikter kommer til å være tilgjengelig overalt. i databaser.
Og på den tiden sa folk at jeg var en alarmist, men i dag innser de at det er akkurat det som skjer i dag. Og så hvor går vi herfra? Jeg har drevet lobbyvirksomhet for lovgivning. Jeg har drevet lobbyvirksomhet for juridiske rammer som gjør det til et ansvar for deg å bruke noens ansikt uten deres samtykke. Så det er ikke lenger et teknologisk problem. Vi kan ikke inneholde denne kraftige teknologien med teknologiske midler. Det må være noen form for juridiske rammer. Vi kan ikke la teknologien gå for mye foran oss. Foran våre verdier, foran det vi mener er akseptabelt.
Spørsmålet om samtykke fortsetter å være en av de vanskeligste og mest utfordrende sakene når det omhandler teknologi, bare å gi noen beskjed betyr ikke at det er nok. For meg må samtykke informeres. De må forstå konsekvensene av hva det betyr. Og ikke bare for å si, vel, vi registrerte oss og dette var nok. Vi fortalte det til folk, og hvis de ikke ville, kunne de ha dratt hvor som helst.
Og jeg finner også at det er, det er så lett å bli forført av prangende teknologiske funksjoner som kan gi oss en kortsiktig fordel i livene våre. Og så nedover linjen erkjenner vi at vi har gitt opp noe som var for verdifullt. Og på det tidspunktet har vi desensibilisert befolkningen og vi kommer til et punkt hvor vi ikke kan trekke oss tilbake. Det er det jeg er bekymret for. Jeg er bekymret for det faktum at ansiktsgjenkjenning gjennom arbeidet til Facebook og Apple og andre. Jeg sier ikke at alt er illegitimt. Mye av det er legitimt.
Vi har kommet til et punkt der allmennheten kan ha blitt blasert og kan bli desensibilisert fordi de ser det overalt. Og kanskje om 20 år går du ut av huset ditt. Du vil ikke lenger ha forventningene om at du ikke ville være det. Den vil ikke bli gjenkjent av dusinvis av mennesker du krysser underveis. Jeg tror på det tidspunktet at publikum vil bli veldig skremt fordi media vil begynne å rapportere om saker der folk ble forfulgt. Folk ble målrettet, folk ble til og med valgt ut basert på deres nettoformue på gaten og kidnappet. Jeg tror det er mye ansvar på våre hender.
Og derfor tror jeg spørsmålet om samtykke vil fortsette å hjemsøke bransjen. Og før det spørsmålet kommer til å bli et resultat, vil det kanskje ikke bli løst. Jeg tror vi må etablere begrensninger for hva som kan gjøres med denne teknologien.
Karrieren min har også lært meg at å ligge for mye foran ikke er bra fordi ansiktsgjenkjenning, slik vi kjenner den i dag, faktisk ble oppfunnet i 1994. Men de fleste tror at den ble oppfunnet av Facebook og maskinlæringsalgoritmene, som er sprer seg nå over hele verden. I utgangspunktet måtte jeg på et tidspunkt trekke meg som offentlig administrerende direktør fordi jeg begrenset bruken av teknologi som selskapet mitt skulle fremme på grunn av frykten for negative konsekvenser for menneskeheten. Så jeg føler at forskere må ha mot til å projisere inn i fremtiden og se konsekvensene av arbeidet deres. Jeg sier ikke at de skal slutte å gjøre gjennombrudd. Nei, du bør gå for fullt, gjøre flere gjennombrudd, men vi bør også være ærlige mot oss selv og i bunn og grunn varsle verden og politikerne om at dette gjennombruddet har plusser og minuser. Og derfor, når vi bruker denne teknologien, trenger vi en slags veiledning og rammer for å sikre at den kanaliseres for en positiv applikasjon og ikke negativ.
Jennifer: Jeg var der da... er et muntlig historieprosjekt som viser historiene til mennesker som har vært vitne til eller skapt gjennombrudd innen kunstig intelligens og databehandling.
Har du en historie å fortelle? Kjenner du noen som gjør det? Send oss en e-post på [email protected].
[MIDROLL]
[KREDITTER]
Jennifer: Denne episoden ble tatt opp i New York City i desember 2020 og produsert av meg med hjelp fra Anthony Green og Emma Cillekens. Vi er redigert av Michael Reilly og Mat Honan. Vår miksingeniør er Garret Lang... med lyddesign og musikk av Jacob Gorski.
Takk for at du lyttet, jeg heter Jennifer Strong.
[TR ID]