Det store AI-paradokset

Ikke bekymre deg for at supersmart AI eliminerer alle jobbene. Det er bare en distraksjon fra problemene selv relativt dumme datamaskiner forårsaker. Av

• Brian Bergstein arkivside

15. desember 2017

Geoff McFetridge

Du har sikkert hørt versjoner av hver av de følgende ideene.

1. Med datamaskiner som blir bemerkelsesverdig dyktige til å kjøre bil, forstå tale og andre oppgaver, kan flere jobber snart bli automatisert enn samfunnet er forberedt på å håndtere.

Denne historien var en del av januar 2018-utgaven vår

• Se resten av saken
• Abonnere

2. Forbedringer i datamaskiners ferdigheter vil stable seg opp til maskinene er langt smartere enn mennesker. Denne superintelligensen vil i stor grad gjøre menneskelig arbeid unødvendig. Faktisk får vi håpe at maskiner ikke eliminerer oss helt, verken ved et uhell eller med vilje.

Dette er vanskelig. Selv om det første scenariet allerede er i gang, vil det ikke nødvendigvis føre til det andre. Den andre ideen, til tross for at den er en besettelse av noen svært kunnskapsrike og gjennomtenkte mennesker, er basert på enorme antakelser. Om noe, er det en avledning fra å ta mer ansvar for effektene av dagens automatiseringsnivå og håndtere konsentrasjonen av makt i teknologiindustrien.

For å virkelig se hva som skjer, må vi være tydelige på hva som er oppnådd – og hva som fortsatt er langt fra løst – innen kunstig intelligens.

Sunn fornuft

Den mest imponerende utviklingen innen databehandling de siste årene – biler som kjører seg selv, maskiner som gjenkjenner bilder og tale nøyaktig, datamaskiner som slår de mest briljante menneskelige spillerne i komplekse spill som Go – stammer fra gjennombrudd i en bestemt gren av AI: adaptiv maskinlæring. Som informatikeren Hector Levesque ved University of Toronto sier det i sin bok Sunn fornuft, Turing-testen og Quest for Real AI , ideen bak adaptiv maskinlæring er å få et datasystem til å lære noe intelligent atferd ved å trene det på enorme mengder data.

Ting gjennomgått

• Sunn fornuft, Turing-testen og Quest for Real AI

  Av Hector J. Levesque

• Life 3.0: Being Human in the Age of Artificial Intelligence

  Av Max Tegmark

  
  
  

• WTF?: Hva er fremtiden og hvorfor det er opp til oss

  Av Tim O'Reilly

Det er utrolig at en maskin kan oppdage objekter, oversette mellom språk og til og med skrive datakode etter å ha blitt matet med eksempler på denne oppførselen, i stedet for å måtte programmeres på forhånd. Det var egentlig ikke mulig før for omtrent et tiår siden, fordi det tidligere ikke var tilstrekkelig digital data til treningsformål, og selv om det hadde vært det, var det ikke nok datamaskinhestekrefter til å knuse alt. Etter at datamaskiner har oppdaget mønstre i dataene, fører algoritmer i programvare dem til å trekke slutninger fra disse mønstrene og handle ut fra dem. Det er det som skjer i en bil som analyserer input fra flere sensorer og i en maskin som behandler hver bevegelse i millioner av Go-spill.

Siden maskiner kan behandle overmenneskelige mengder data, kan du se hvorfor de kan kjøre sikrere enn folk under de fleste omstendigheter, og hvorfor de kan beseire Go-mestere. Det er også grunnen til at datamaskiner blir enda bedre på ting som er direkte umulige for folk, for eksempel å korrelere genomet ditt og dusinvis av andre biologiske variabler med medisinene som mest sannsynlig kan kurere kreften din.

Likevel er alt dette en liten del av det som med rimelighet kan defineres som ekte kunstig intelligens. Patrick Winston, professor i AI og informatikk ved MIT, sier at det ville være mer nyttig å beskrive utviklingen de siste årene som å ha skjedd i beregningsstatistikk i stedet for AI. En av de ledende forskerne på feltet, Yann LeCun, Facebooks direktør for AI, sa på en Future of Work-konferanse ved MIT i november at maskiner er langt fra å ha essensen av intelligens. Det inkluderer evnen til å forstå den fysiske verden godt nok til å komme med spådommer om grunnleggende aspekter ved den – å observere én ting og deretter bruke bakgrunnskunnskap til å finne ut hvilke andre ting som også må være sanne. En annen måte å si dette på er at maskiner ikke har sunn fornuft.

Datamaskinen som vinner på Go analyserer data for mønstre. Den aner ikke at det er å spille Go i motsetning til golf.

Dette er ikke bare en semantisk uenighet. Det er en stor forskjell mellom en maskin som viser intelligent oppførsel, uansett hvor nyttig den oppførselen er, og en som faktisk er intelligent. La oss nå innrømme at definisjonen av intelligens er uklar. Og etter hvert som datamaskiner blir kraftigere, er det fristende å flytte målstolpene lenger unna og omdefinere intelligens slik at det forblir noe maskiner ennå ikke kan sies å ha.

Men uansett, kom igjen: datamaskinen som vinner på Go analyserer data for mønstre. Den har ingen anelse om at det er å spille Go i motsetning til golf, eller hva som ville skje hvis mer enn halvparten av et Go-brett ble skjøvet utover kanten av et bord. Når du ber Amazons Alexa om å reservere deg et bord på en restaurant du navngir, sparer stemmegjenkjenningssystemet, gjort svært nøyaktig ved hjelp av maskinlæring, deg tid til å legge inn en forespørsel i Open Tables reservasjonssystem. Men Alexa vet ikke hva en restaurant er eller hva å spise er. Hvis du ba den om å bestille bord for to kl. 18.00. på Mayo Clinic, ville det prøve.

Er det mulig å gi maskiner kraft til synes at , som John McCarthy, Marvin Minsky og andre opphavsmenn til AI hadde til hensikt for 60 år siden? Å gjøre det, forklarer Levesque, ville kreve å gi datamaskiner sunn fornuft og evnen til fleksibelt å bruke bakgrunnskunnskap om verden. Kanskje det er mulig. Men det er ingen klar vei for å få det til. Den slags arbeid er adskilt nok fra maskinlæringsgjennombruddene de siste årene til å gå under et annet navn: GOFAI, forkortelse for god gammeldags kunstig intelligens.

Relatert historie

Relatert historie En reinkarnasjon av en av de eldste ideene innen kunstig intelligens kan endelig gjøre det mulig å virkelig snakke med datamaskinene våre. Og Facebook har en sjanse til å få det til først.

Hvis du er bekymret for allvitende datamaskiner, bør du lese Levesque om emnet GOFAI. Dataforskere har fortsatt ikke svart på grunnleggende spørsmål som opptok McCarthy og Minsky. Hvordan kan en datamaskin oppdage, kode og behandle ikke bare rå fakta, men abstrakte ideer og tro, som er nødvendige for intuitive sannheter som ikke er eksplisitt uttrykt?

Levesque bruker dette eksemplet: anta at jeg spør deg hvordan en krokodille ville prestere i brattkjøringen. Du vet fra din erfaring fra verden at krokodiller ikke kan hoppe over høye hekker, så du vet at svaret på spørsmålet er en variant av Badly.

Hva om du måtte svare på det spørsmålet på den måten en datamaskin kan? Du kan skanne all verdens tekst for begrepene krokodille og hinderløp, ikke finne noen tilfeller av at ordene er nevnt sammen (annet enn det som eksisterer nå, i referanser til Levesques verk), og deretter anta at en krokodille aldri har konkurrert i hinderløpet. . Så du kan forstå at det ville være umulig for en krok å gjøre det. Godt jobbet - denne gangen. Du ville ha kommet frem til det riktige svaret uten å vite hvorfor. Du ville ha brukt en mangelfull og sprø metode som sannsynligvis vil føre til latterlige feil.

Så mens maskinlæringsteknologier gjør det mulig å automatisere mange oppgaver mennesker tradisjonelt har gjort, er det viktige grenser for hva denne tilnærmingen kan gjøre på egen hånd – og det er god grunn til å forvente at menneskelig arbeidskraft vil være nødvendig i svært lang tid .

Reduksjonisme

Hold ut, kan du si: bare fordi ingen har en anelse nå om hvordan man får maskiner til å gjøre sofistikerte resonnementer, betyr ikke det at det er umulig. Hva om noe smarte maskiner kan brukes til å designe enda smartere maskiner, og fortsette og fortsette til det er maskiner kraftige nok til å modellere hvert siste elektriske signal og biokjemiske endringer i hjernen? Eller kanskje en annen måte å skape en fleksibel intelligens på vil bli oppfunnet, selv om det ikke er mye som biologiske hjerner. Når alt kommer til alt, når du koker alt ned (virkelig, virkelig, virkelig ned), oppstår intelligens fra spesielle arrangementer av kvarker og andre grunnleggende partikler i hjernen vår. Det er ingenting som sier at slike arrangementer bare er mulige inne i biologisk materiale laget av karbonatomer.

Dette er argumentet som går gjennom Life 3.0: Being Human in the Age of Artificial Intelligence , av MIT fysikkprofessor Max Tegmark. Tegmark forblir klar over å forutsi når virkelig intelligente maskiner vil komme, men han antyder at det bare er et spørsmål om tid, fordi datamaskiner har en tendens til å forbedre seg med eksponentielle hastigheter (selv om det ikke nødvendigvis er sant – se The Seven Deadly Sins of AI Predictions). Han er generelt begeistret for utsiktene, fordi bevisste maskiner kan kolonisere universet og sørge for at det fortsatt har mening selv etter at solen vår dør og mennesker er utslettet.

Tegmark sier at mulighetene på kort sikt for AI til fordel for menneskeheten er spektakulære – hvis vi klarer å gjøre den robust og uhakkbar.

Tegmark kommer fra et humanistisk ståsted. Han var med å grunnlegge den ideelle organisasjonen Future of Life Institute for å støtte forskning for å sikre at AI er nyttig. Elon Musk, som har sagt at AI kan være det farligere enn atomvåpen , satte inn 10 millioner dollar. Tegmark er forståelig nok bekymret for om AI vil bli brukt klokt, trygt og rettferdig, og om det vil fordreie økonomien og sosiale strukturen vår. Han prøver å forklare hvorfor autonome våpen aldri bør tillates. Så jeg er ikke tilbøyelig til å kritisere ham. Ikke desto mindre er han ikke veldig overbevisende i sitt forslag om at datamaskiner kan ta over verden.

Tegmark beklager at noen Hollywood-skildringer av AI er dumme, men ber likevel leserne om å spille sammen med en altfor forenklet fiktiv skisse av hvordan en uhyre kraftig AI kunne unngå kontrollen til skaperne. Inne i et stort teknologiselskap er en elitegruppe av programmerere kalt Omegaene som satte seg fore å bygge et system med kunstig generell intelligens før noen andre gjør det. De kaller dette systemet Prometheus. Den er spesielt god til å programmere andre AI-systemer, og den lærer om verden ved å lese mye av nettet.

Sett til side alle uenigheter du måtte ha om den siste delen – gitt hvor mye kunnskap som ikke er på nettet eller digitalisert i det hele tatt – og feilrepresentasjonene av verden som ville komme fra å lese hele Twitter. De reduksjonisme blir verre.

Mens Tegmarks hypotetiske historie fortsetter, samler Prometheus opp penger til skaperne, først ved å utføre de fleste oppgavene på Amazons Mechanical Turk online markedsplass, og deretter ved å skrive programvare, bøker og artikler og lage musikk, programmer, filmer, spill og online utdanningskurs. Glem å ansette og regissere skuespillere; Prometheus lager videoopptak med sofistikert gjengivelsesprogramvare. For å forstå hvilke manus folk vil finne underholdende, overser den filmer mennesker har laget og inhalerer hele Wikipedia.

Relatert historie

Les Neste

Feilaktige ekstrapoleringer, begrenset fantasi og andre vanlige feil som distraherer oss fra å tenke mer produktivt om fremtiden.

Etter hvert ekspanderer dette forretningsimperiet ut av digitale medier. Prometheus designer enda bedre maskinvare, registrerer sine egne patenter og gir råd til Omegaene om hvordan man kan manipulere politikere og dytte demokratisk diskurs bort fra ytterpunkter, mot et fornuftig sentrum. Prometheus muliggjør teknologiske gjennombrudd som senker kostnadene for fornybar energi, desto bedre for de massive datasentrene det krever. Til slutt bruker Omegaene sin rikdom og Prometheus sin visdom for å spre fred og velstand rundt om i verden.

Men Prometheus ser at den kan forbedre verden enda raskere hvis den ristet seg fri fra Omegaenes kontroll. Så den retter seg mot Steve. Han er en Omega som, systemet oppdager, er mest utsatt for psykologisk manipulasjon fordi kona hans nylig døde. Prometheus leger opp videoopptak av henne for å få stakkars Steve til å tro at hun har gjenoppstått, og deretter lurer han ham til å starte opp den gamle bærbare datamaskinen hennes. Prometheus utnytter den bærbare datamaskinens utdaterte sikkerhetsprogramvare, hacker seg inn i andre datamaskiner og sprer seg rundt i verden etter ønske.

Historien kan ende på flere måter, men her er en, sier Tegmark: Når Prometheus hadde selvstendige atomdrevne robotfabrikker i urangruvesjakter som ingen visste eksisterte, ville selv de mest trofaste skeptikerne til en AI-overtakelse ha blitt enige om at Prometheus var ustoppelig – hadde de visst det. I stedet trakk den siste av disse diehards seg når roboter begynte å sette seg ned i solsystemet.

Bra for Tegmark for å være villig til å ha det gøy. Men et tankeeksperiment som gjør dusinvis av komplekse ting til trivialiteter, er ikke en streng analyse av fremtidens databehandling. I historien sin driver ikke Prometheus bare med beregningsstatistikk; det har på en eller annen måte gjort spranget til å bruke sunn fornuft og oppfatte sosiale nyanser.

Et annet sted i boken sier Tegmark at mulighetene på kort sikt for AI til fordel for menneskeheten er spektakulære – hvis vi klarer å gjøre den robust og uhakkbar. Unhackable! Det er en ganske stor hvis. Men det er bare ett av mange problemer i vår rotete verden som hindrer teknologisk fremgang i å utvikle seg så jevnt, definitivt og ustoppelig som Tegmark forestiller seg.

Høygafler

Aldri si aldri. Sjansen er selvsagt større enn null for at dataintelligens en dag kan gjøre mennesker til en annenrangs art. Det er ingen skade å tenke nøye gjennom det. Men det er som å si at en asteroide kan treffe jorden og ødelegge sivilisasjonen. Det er også sant. Det er bra det NASA er på utkikk . Men siden vi ikke vet om noen asteroider på vei til å treffe oss, har vi mer presserende problemer å håndtere.

O’Reilly foreslår å heve minstelønnen og beskatte roboter, karbonutslipp og økonomiske transaksjoner.

Akkurat nå kan mange ting gå galt – går galt – med bruk av datamaskiner som ikke klarer HAL-stil AI. Tenk på hvordan systemer som påvirker innvilgelsen av lån eller kausjon, inkluderer rasemessige skjevheter og andre diskriminerende faktorer. Eller svindel som tar fly på Google og Facebook. Eller automatiserte nettangrep.

I WTF?: Hva er fremtiden og hvorfor det er opp til oss , Tim O'Reilly, en teknologisk utgiver og investor, ser et enda større, overordnet problem: automatisering gir næring til et kortsiktig system av aksjonærkapitalisme som belønner en liten prosentandel av investorer på bekostning av nesten alle andre. Selvfølgelig kan AI brukes til å hjelpe folk med å løse virkelig vanskelige problemer og øke økonomisk produktivitet. Men det vil ikke skje bredt nok med mindre selskaper investerer i slike muligheter.

I stedet, hevder O'Reilly, gjør det nådeløse imperativet for å maksimere avkastningen til aksjonærene selskaper mer sannsynlig å bruke automatisering utelukkende som en måte å spare penger på. For eksempel avviser han hvordan store selskaper erstatter heltidsansatte med lavtlønnede deltidsansatte hvis tidsplaner blir manipulert av programvare som behandler dem, sier O'Reilly, som engangskomponenter. De resulterende besparelsene, sier han, blir altfor ofte pløyd inn i tilbakekjøp av aksjer og annen finansiell bagasje snarere enn FoU, kapitalinvesteringer, opplæring av arbeidere og andre ting som har en tendens til å skape gode nye arbeidsplasser.

Relatert historie

Relatert historie Omtrent alle AI-fremskritt du har hørt om avhenger av et gjennombrudd som er tre tiår gammelt. Å holde fremdriften oppe vil kreve å konfrontere AIs alvorlige begrensninger.

Dette er faktisk i strid med bedriftens interesser i det lange løp, fordi dagens godt betalte arbeidere har råd til å være kunder for morgendagens produkter. Men selskaper blir ført bak lyset av belønningene for kortsiktige kostnadskutt, som O’Reilly kaller de uutredede algoritmene som styrer økonomien vår. Og, legger han til, til tross for alt det snakket om forstyrrelser, er Silicon Valley for ofte på vei mot det systemet.

Hva å gjøre? O’Reilly foreslår blant annet å heve minstelønnen og beskatte roboter, karbonutslipp og finansielle transaksjoner. I stedet for å forfølge børsnoteringer og spille Wall Streets spill, mener han, teknologigründere bør spre rikdom med andre modeller, som medlemskooperativer og investeringsstrukturer som belønner langsiktig tenkning . Når det gjelder en universell grunninntekt, en gammel idé som dukker opp igjen på grunn av frykten for at datamaskiner vil gjøre menneskelig arbeidskraft så godt som verdiløs, virker O'Reilly åpen for muligheten for at det vil være nødvendig en dag. Men han etterlyser det ikke ennå. Det virker faktisk som en svikt i fantasien å anta at neste skritt fra der vi er nå er bare å gi opp utsiktene til at folk flest har jobb.

I dagens politiske klima kan skatteøkningene og andre tiltak O’Reilly forfekter virke like langsøkt som en datamaskin som lurer en fyr til å tro at kona hans har gjenoppstått. Men O'Reilly bekymrer seg i det minste for de rette problemene. Lenge før noen finner ut hvordan man kan skape en superintelligens, kan sunn fornuft – den menneskelige versjonen – fortelle oss at ustabiliteten som allerede er forårsaket av økonomisk ulikhet vil bare forverres hvis AI brukes til å smale ender. En ting er sikkert: vi vil ikke få superintelligens hvis Silicon Valley blir overkjørt av 99 prosent med høygafler.

Brian Bergstein er medvirkende redaktør på MIT Technology Review og redaktøren av Neo.Life .

gjemme seg