211service.com
The Seven Deadly Sins of AI Predictions
Joost Swarte
Vi er omgitt av hysteri om fremtiden for kunstig intelligens og robotikk – hysteri om hvor kraftige de vil bli, hvor raskt og hva de vil gjøre med jobbene.
Jeg så nylig en historie i MarketWatch med det sagt Roboter vil ta halvparten av dagens jobber om 10 til 20 år . Den hadde til og med en grafikk for å bevise tallene.
Denne historien var en del av november 2017-utgaven vår
- Se resten av saken
- Abonnere
Påstandene er latterlige. (Jeg prøver å opprettholde et profesjonelt språk, men noen ganger ...) For eksempel ser historien ut til å si at vi vil gå fra én million grunn- og vedlikeholdsarbeidere i USA til bare 50 000 om 10 til 20 år, fordi roboter vil ta over disse jobbene . Hvor mange roboter er for tiden operative i disse jobbene? Null . Hvor mange realistiske demonstrasjoner har det vært av roboter som jobber på denne arenaen? Null . Lignende historier gjelder for alle de andre kategoriene der det antydes at vi vil se slutten på mer enn 90 prosent av jobbene som for øyeblikket krever fysisk tilstedeværelse på et bestemt sted.
Feilaktige spådommer fører til frykt for ting som ikke kommer til å skje, enten det er omfattende ødeleggelse av jobber, singulariteten eller fremkomsten av AI som har andre verdier enn våre og kan prøve å ødelegge oss. Vi må presse tilbake på disse feilene. Men hvorfor lager folk dem? Jeg ser syv vanlige årsaker.
Joost Swarte
1. Overvurderer og undervurderer
Roy Amara var en av grunnleggerne av Institute for the Future, i Palo Alto, det intellektuelle hjertet av Silicon Valley. Han er mest kjent for sitt ordtak som nå kalles Amaras lov:
Vi har en tendens til å overvurdere effekten av en teknologi på kort sikt og undervurdere effekten på lang sikt.
Det er mye pakket inn i disse 21 ordene. En optimist kan lese det på en måte, og en pessimist kan lese det på en annen måte.
Et godt eksempel på de to sidene av Amaras lov er U.S. Global Positioning System. Fra 1978 ble en konstellasjon av 24 satellitter (nå 31 inkludert reservedeler) plassert i bane. Målet med GPS var å tillate presis levering av ammunisjon av det amerikanske militæret. Men programmet ble nesten kansellert igjen og igjen på 1980-tallet. Den første operasjonelle bruken for det tiltenkte formålet var i 1991 under Desert Storm; det tok flere suksesser før militæret aksepterte nytten.
Feilaktige spådommer fører til frykt for ting som ikke kommer til å skje.
I dag er GPS i det Amara vil kalle langsiktig, og måtene den ble brukt på var uante i begynnelsen. Series 2 Apple Watch bruker GPS mens jeg er ute og løper, og registrerer posisjonen min nøyaktig nok til å se hvilken side av gaten jeg løper langs. Den lille størrelsen og prisen på mottakeren ville vært uforståelig for de tidlige GPS-ingeniørene. Teknologien synkroniserer fysikkeksperimenter over hele kloden og spiller en intim rolle i å synkronisere det amerikanske elektriske nettet og holde det i gang. Det lar til og med høyfrekvente handelsmenn som virkelig kontrollerer aksjemarkedet stort sett unngå katastrofale tidsfeil. Den brukes av alle flyene våre, store og små, til å navigere, og den brukes til å spore folk ut av fengsel på prøveløslatelse. Den bestemmer hvilken frøvariant som skal plantes i hvilken del av mange felt over hele kloden. Den sporer lastebilflåter og rapporterer om sjåførenes ytelse.
GPS startet med ett mål, men det var vanskelig å få den til å fungere så bra som opprinnelig forventet. Nå har det sivet inn i så mange aspekter av livene våre at vi ikke bare ville gått tapt hvis det forsvant; vi ville være kalde, sultne og muligens døde.
Vi ser et lignende mønster med andre teknologier de siste 30 årene. Et stort løfte på forhånd, skuffelse, og deretter sakte voksende tillit til resultater som overgår de opprinnelige forventningene. Dette gjelder beregninger, genomsekvensering, solenergi, vindkraft og til og med hjemlevering av dagligvarer.
AI har blitt overvurdert igjen og igjen, på 1960-tallet, på 1980-tallet, og jeg tror det igjen nå, men langsiktige utsikter blir sannsynligvis også undervurdert. Spørsmålet er: Hvor lang er langsiktig ? De neste seks feilene hjelper til med å forklare hvorfor tidsskalaen blir grovt undervurdert for fremtiden til AI.
Joost Swarte
2. Å forestille seg magi
Da jeg var tenåring, var Arthur C. Clarke en av de tre store science fiction-forfatterne, sammen med Robert Heinlein og Isaac Asimov. Men Clarke var også en oppfinner, en vitenskapsforfatter og en fremtidsforsker. Mellom 1962 og 1973 formulerte han tre ordtak som har blitt kjent som Clarkes tre lover:
Når en fremtredende, men eldre vitenskapsmann sier at noe er mulig, har han nesten helt sikkert rett. Når han sier at noe er umulig, tar han sannsynligvis feil.
Den eneste måten å oppdage grensene for det mulige er å våge seg et stykke forbi dem inn i det umulige.
Enhver tilstrekkelig avansert teknologi kan ikke skilles fra magi.
Personlig burde jeg nok være på vakt mot den andre setningen i hans første lov, siden jeg er mye mer konservativ enn noen andre når det gjelder hvor raskt AI vil bli ascenderende. Men foreløpig vil jeg forklare Clarkes tredje lov.
Tenk deg at vi hadde en tidsmaskin og at vi kunne transportere Isaac Newton fra slutten av 1600-tallet til i dag, og sette ham ned på et sted som ville være kjent for ham: Trinity College Chapel ved University of Cambridge.
Vis nå Newton et eple. Trekk ut en iPhone fra lommen, og slå den på slik at skjermen er glødende og full av ikoner, og gi den til ham. Newton, som avslørte hvordan hvitt lys er laget av komponenter av forskjellig farget lys ved å trekke fra hverandre sollys med et prisme og deretter sette det sammen igjen, ville uten tvil bli overrasket over en så liten gjenstand som produserer så livlige farger i mørket i kapellet . Spill nå en film av en engelsk countryscene, og så litt kirkemusikk som han ville ha hørt. Og så vis ham en nettside med de over 500 sidene hans personlig kommentert kopi av hans mesterverk Prinsipper , og lærer ham hvordan han bruker klypebevegelsen til å zoome inn på detaljer.
Se opp for argumenter om fremtidig teknologi som er magisk.
Kunne Newton begynne å forklare hvordan denne lille enheten gjorde alt dette? Selv om han fant opp kalkulus og forklarte både optikk og gravitasjon, klarte han aldri å sortere ut kjemi fra alkymi. Så jeg tror han ville bli urolig og ute av stand til å komme opp med selv den minste sammenhengende oversikt over hva denne enheten var. Det ville ikke være annerledes for ham fra en legemliggjøring av det okkulte – noe som var av stor interesse for ham. Det ville være umulig å skille fra magi. Og husk, Newton var en veldig smart fyr.
Hvis noe er magisk, er det vanskelig å vite dets begrensninger. Anta at vi videre viser Newton hvordan enheten kan lyse opp mørket, hvordan den kan ta bilder og filmer og ta opp lyd, hvordan den kan brukes som forstørrelsesglass og som speil. Så viser vi ham hvordan det kan brukes til å utføre aritmetiske beregninger med utrolig hastighet og med mange desimaler. Vi viser den ved å telle skrittene han har tatt mens han bærer den, og viser ham at han kan bruke den til å snakke med mennesker hvor som helst i verden, umiddelbart, derfra i kapellet.
Hva annet kan Newton anta at enheten kan gjøre? Prismer fungerer for alltid. Ville han anta at iPhone ville fungere for alltid akkurat som den er, og unnlatt å forstå at den må lades opp? Husk at vi fanget ham fra en tid 100 år før Michael Faradays fødsel, så han manglet en vitenskapelig forståelse av elektrisitet. Hvis iPhone kan være en lyskilde uten ild, kan den kanskje også forvandle bly til gull?
Dette er et problem vi alle har med forestilt fremtidig teknologi. Hvis det er langt nok unna teknologien vi har og forstår i dag, så kjenner vi ikke dens begrensninger. Og hvis det ikke kan skilles fra magi, er ikke noe man sier om det lenger falsifiserbart.
Dette er et problem jeg ofte møter når jeg prøver å diskutere med folk om vi skal frykte kunstig generell intelligens, eller AGI – ideen om at vi skal bygge autonome agenter som fungerer omtrent som vesener i verden. Jeg blir fortalt at jeg ikke forstår hvor kraftig AGI vil være. Det er ikke et argument. Vi aner ikke om det i det hele tatt kan eksistere. Jeg skulle ønske det skulle eksistere – dette har alltid vært min egen motivasjon for å jobbe med robotikk og AI. Men dagens AGI-forskning gjør det ikke bra i det hele tatt når det gjelder enten å være generell eller støtte en uavhengig enhet med en pågående eksistens. Det virker stort sett fast på de samme spørsmålene i resonnement og sunn fornuft som AI har hatt problemer med i minst 50 år. Alle bevisene jeg ser sier at vi ennå ikke har noen reell anelse om hvordan vi skal bygge en. Egenskapene er helt ukjente, så retorisk blir den raskt magisk, kraftfull uten grenser.
Ingenting i universet er uten grenser.
Se opp for argumenter om fremtidig teknologi som er magisk. Et slikt argument kan aldri tilbakevises. Det er et trosbasert argument, ikke et vitenskapelig argument.
Joost Swarte
3. Ytelse versus kompetanse
Vi bruker alle signaler om hvordan folk utfører en bestemt oppgave for å anslå hvor godt de kan utføre en annen oppgave. I en fremmed by spør vi en fremmed på gaten om veibeskrivelse, og hun svarer med selvtillit og med veibeskrivelser som ser ut til å være fornuftige, så vi regner med at vi også kan spørre henne om det lokale systemet for å betale når du vil ta buss.
Anta nå at en person forteller oss at et bestemt bilde viser folk som spiller frisbee i parken. Vi antar naturligvis at denne personen kan svare på spørsmål som Hva er formen på en frisbee? Omtrent hvor langt kan en person kaste en frisbee? Kan en person spise en frisbee? Omtrent hvor mange spiller frisbee samtidig? Kan en tre måneder gammel person spille frisbee? Er dagens vær egnet for å spille frisbee?
Datamaskiner som kan merke bilder som folk som spiller frisbee i en park, har ingen sjanse til å svare på disse spørsmålene. Foruten det faktum at de bare kan merke flere bilder og ikke kan svare på spørsmål i det hele tatt, har de ingen anelse om hva en person er, at parker vanligvis er utenfor, at folk har alder, at været er noe mer enn hvordan det får et bilde til å se ut, etc.
Dette betyr ikke at disse systemene er ubrukelige; de er av stor verdi for søkemotorer. Men her er hva som går galt. Folk hører at en robot eller et AI-system har utført en oppgave. De generaliserer deretter fra den ytelsen til en kompetanse som en person som utfører samme oppgave kan forventes å ha. Og de bruker den generaliseringen på roboten eller AI-systemet.
Dagens roboter og AI-systemer er utrolig smale i hva de kan gjøre. Generaliseringer av menneskelig stil gjelder ikke.
Joost Swarte
4. Koffertord
Marvin Minsky kalte ord som har en rekke betydninger for koffertord. Læring er et kraftig koffertord; det kan referere til så mange forskjellige typer opplevelser. Å lære å bruke spisepinner er en helt annen opplevelse enn å lære melodien til en ny sang. Og å lære å skrive kode er en helt annen opplevelse enn å lære seg rundt i en by.
Når folk hører at maskinlæring tar store fremskritt i et nytt domene, har de en tendens til å bruke som en mental modell måten en person vil lære det nye domenet på. Maskinlæring er imidlertid veldig sprø, og det krever mye forberedelse av menneskelige forskere eller ingeniører, spesialkoding, spesialsett med opplæringsdata og en tilpasset læringsstruktur for hvert nye problemdomene. Dagens maskinlæring er slett ikke den svamplignende læringen som mennesker engasjerer seg i, og gjør raske fremskritt i et nytt domene uten å måtte endres kirurgisk eller spesialbygge.
På samme måte, når folk hører at en datamaskin kan slå verdensmesteren i sjakk (i 1997) eller en av verdens beste Go-spillere (i 2016), har de en tendens til å tro at den spiller spillet akkurat som et menneske ville gjort. Selvfølgelig, i virkeligheten hadde disse programmene ingen anelse om hva et spill faktisk var, eller til og med at de spilte. De var også mye mindre tilpasningsdyktige. Når mennesker spiller et spill, vil ikke en liten endring i reglene forkaste dem. Ikke så for AlphaGo eller Deep Blue.
Koffertord villeder folk om hvor godt maskiner gjør det på oppgaver som folk kan gjøre. Det er delvis fordi AI-forskere - og enda verre, deres institusjonelle pressekontorer - er ivrige etter å kreve fremgang i et tilfelle av et koffertkonsept. Den viktige setningen her er et eksempel. Den detaljen forsvinner snart. Overskrifter utbasunerer koffertordet, og fordreier den generelle forståelsen av hvor AI er og hvor nærme det er å oppnå mer.
Joost Swarte
5. Eksponentialer
Mange mennesker lider av et alvorlig tilfelle av eksponentialisme.
Alle har en ide om Moores lov, som antyder at datamaskiner blir bedre og bedre på en klokkelignende tidsplan. Det Gordon Moore faktisk sa var at antallet komponenter som kunne passe på en mikrobrikke ville dobles hvert år. Det holdt sant i 50 år, selv om tidskonstanten for dobling gradvis ble forlenget fra ett år til over to år, og mønsteret nærmer seg slutten.
Dobling av komponentene på en brikke har gjort at datamaskiner kontinuerlig dobles i hastighet. Og det har ført til minnebrikker som firedobles i kapasitet hvert annet år. Det har også ført til digitale kameraer som har bedre og bedre oppløsning, og LCD-skjermer med eksponentielt flere piksler.
Grunnen til at Moores lov fungerte er at den gjaldt en digital abstraksjon av et sant eller usant spørsmål. I en gitt krets, er det en elektrisk ladning eller spenning der eller ikke? Svaret forblir klart ettersom brikkekomponentene blir mindre og mindre – helt til en fysisk grense griper inn, og vi kommer ned til komponenter med så få elektroner at kvanteeffekter begynner å dominere. Det er der vi er nå med vår silisiumbaserte brikketeknologi.
Når folk lider av eksponentialisme, tror de kanskje at eksponentialene de bruker for å rettferdiggjøre et argument, kommer til å fortsette raskt. Men Moores lov og andre tilsynelatende eksponentielle lover kan mislykkes fordi de ikke var virkelig eksponentielle i utgangspunktet.
Tilbake i første del av dette århundret, da jeg drev MITs Computer Science and Artificial Intelligence Laboratory (CSAIL) og trengte å hjelpe til med å samle inn penger til over 90 forskjellige forskningsgrupper, prøvde jeg å bruke minneøkningen på iPoder for å vise sponsorer hvordan ting fortsatte å endre seg veldig raskt. Her er dataene om hvor mye musikklagring man fikk i en iPod for $400 eller mindre:
år | gigabyte |
| 2002 | 10 |
| 2003 | tjue |
| 2004 | 40 |
| 2006 | 80 |
| 2007 | 160 |
Så ville jeg ekstrapolert noen år ut og spurt hva vi ville gjøre med alt det minnet i lomma.
Ekstrapolert til i dag, forventer vi at en $400 iPod vil ha 160 000 gigabyte minne. Men dagens topp iPhone (som koster mye mer enn $400) har bare 256 gigabyte minne, mindre enn dobbelt så mye kapasitet som 2007 iPod. Denne spesielle eksponentialen kollapset veldig plutselig når minnemengden kom til et punkt hvor den var stor nok til å holde enhver fornuftig persons musikkbibliotek og apper, bilder og videoer. Eksponentialer kan kollapse når en fysisk grense blir truffet, eller når det ikke er mer økonomisk begrunnelse for å fortsette dem.
På samme måte har vi sett en plutselig økning i ytelsen til AI-systemer takket være suksessen med dyp læring. Mange mennesker ser ut til å tro at det betyr at vi vil fortsette å se AI-ytelsen øke med like multipler med jevne mellomrom. Men dyplæringssuksessen var 30 år på vei, og det var en isolert begivenhet.
Det betyr ikke at det ikke vil være flere isolerte hendelser, der arbeid fra bakvannet til AI-forskning plutselig gir en rask økning i ytelsen til mange AI-applikasjoner. Men det er ingen lov som sier hvor ofte de vil skje.
Joost Swarte
6. Hollywood-scenarier
Plottet for mange Hollywood science fiction-filmer er at verden er akkurat som den er i dag, bortsett fra en ny vri.
I 200-års mann , Richard Martin, spilt av Sam Neill, setter seg til frokost og blir oppvartet av en gående, snakkende menneskelig robot, spilt av Robin Williams. Richard henter en avis for å lese over frokosten. En avis! Trykt på papir. Ikke en nettbrett, ikke en podcast som kommer fra en Amazon Echo-lignende enhet, ikke en direkte nevral tilkobling til Internett.
Det viser seg at mange AI-forskere og AI-eksperter, spesielt de pessimistene som hengir seg til spådommer om at AI kommer ut av kontroll og dreper mennesker, er like utfordrende med fantasien. De ignorerer det faktum at hvis vi til slutt er i stand til å bygge slike smarte enheter, vil verden ha endret seg betydelig til da. Vi vil ikke plutselig bli overrasket over eksistensen av slike superintelligenser. De vil utvikle seg teknologisk over tid, og vår verden vil komme til å bli befolket av mange andre intelligenser, og vi vil allerede ha mye erfaring. Lenge før det er onde superintelligenser som vil bli kvitt oss, vil det være noe mindre intelligente, mindre krigerske maskiner. Før det blir det skikkelig grettene maskiner. Før det, ganske irriterende maskiner. Og foran dem, arrogante, ubehagelige maskiner. Vi vil forandre verden underveis, og justere både miljøet for nye teknologier og de nye teknologiene i seg selv. Jeg sier ikke at det ikke kan være utfordringer. Jeg sier at de ikke vil være plutselige og uventede, som mange tror.
Joost Swarte
7. Utplasseringshastighet
Nye versjoner av programvare distribueres svært ofte i enkelte bransjer. Nye funksjoner for plattformer som Facebook distribueres nesten hver time. For mange nye funksjoner, så lenge de har bestått integrasjonstesting, er det svært liten økonomisk ulempe hvis et problem dukker opp i felten og versjonen må trekkes tilbake. Dette er et tempo som Silicon Valley og webprogramvareutviklere har blitt vant til. Det fungerer fordi marginalkostnaden ved nydistribusjon av kode er veldig, veldig nær null.
Utplassering av ny maskinvare har på den annen side betydelige marginale kostnader. Det vet vi fra våre egne liv. Mange av bilene vi kjøper i dag, som ikke er selvkjørende, og for det meste ikke er programvareaktiverte, vil trolig fortsatt være på veien i år 2040. Dette setter en iboende grense for hvor snart alle bilene våre vil være selvkjørende. -kjøring. Hvis vi bygger et nytt hjem i dag, kan vi forvente at det kan eksistere i over 100 år. Bygningen jeg bor i ble bygget i 1904, og den er ikke på langt nær den eldste i nabolaget mitt.
Kapitalkostnader holder fysisk maskinvare rundt i lang tid, selv når det er høyteknologiske aspekter ved det, og selv når det har et eksistensielt oppdrag.
Det amerikanske luftvåpenet flyr fortsatt B-52H-varianten av B-52-bombeflyet. Denne versjonen ble introdusert i 1961, noe som gjør den 56 år gammel. Den siste ble bygget i 1962, for bare 55 år siden. For øyeblikket forventes disse flyene å fortsette å fly til minst 2040, og kanskje lenger - det er snakk om å forlenge deres levetid til 100 år.
Jeg ser jevnlig flere tiår gammelt utstyr på fabrikker rundt om i verden. Jeg ser til og med PC-er som kjører Windows 3.0 – en programvareversjon utgitt i 1990. Tanken er at If it ain't blak, don't fix it. Disse PC-ene og programvaren deres har kjørt den samme applikasjonen og gjort den samme oppgaven pålitelig i over to tiår.
Nesten alle innovasjoner innen robotikk og AI tar langt, langt, lengre tid å bli virkelig bredt distribuert enn folk i felten og utenfor feltet forestiller seg.
Den viktigste kontrollmekanismen i fabrikker, inkludert helt nye i USA, Europa, Japan, Korea og Kina, er basert på programmerbare logiske kontrollere, eller PLS-er. Disse ble introdusert i 1968 for å erstatte elektromekaniske reléer. Spolen er fortsatt den viktigste abstraksjonsenheten som brukes i dag, og PLS-er er programmert som om de var et nettverk av 24-volts elektromekaniske reléer. Fortsatt. Noen av de direkte ledningene er erstattet av Ethernet-kabler. Men de er ikke en del av et åpent nettverk. I stedet er de individuelle kabler, som går punkt til punkt, og fysisk legemliggjør kontrollflyten – rekkefølgen trinnene utføres i – i disse splitter nye eldgamle automatiseringskontrollerne. Når du ønsker å endre informasjonsflyt, eller kontrollere flyt, i de fleste fabrikker rundt om i verden, tar det uker med konsulenter som finner ut hva som er der, designer nye rekonfigurasjoner, og deretter team av håndverkere for å omkoble og rekonfigurere maskinvare. En av de store produsentene av dette utstyret fortalte meg nylig at de tar sikte på tre programvareoppgraderinger hvert 20. år.
I prinsippet kan det gjøres annerledes. I praksis er det ikke det. Jeg har nettopp sett på en jobbliste, og selv i dag, akkurat denne dagen, prøver Tesla Motors å ansette PLS-teknikere ved fabrikken i Fremont, California. De vil bruke elektromagnetisk reléemulering i produksjonen av den mest AI-forbedrede bilen som finnes.
Mange AI-forskere og forståsegpåere forestiller seg at verden allerede er digital, og at det å bare introdusere nye AI-systemer umiddelbart vil sildre ned til operasjonelle endringer i feltet, i forsyningskjeden, på fabrikkgulvet, i design av produkter.
Ingenting kunne vært lenger fra sannheten. Nesten alle innovasjoner innen robotikk og AI tar langt, langt, lengre tid å bli virkelig bredt distribuert enn folk i felten og utenfor feltet forestiller seg.
Rodney Brooks er tidligere direktør for informatikk- og kunstig intelligenslaboratoriet ved MIT og grunnlegger av Rethink Robotics og iRobot. Dette essayet er bearbeidet med tillatelse fra a post som opprinnelig dukket opp på rodneybrooks.com.