211service.com
Hvordan vite om kunstig intelligens er i ferd med å ødelegge sivilisasjonen
mekaniske kanarifugler illustrasjon Ms Tech
Kunne vi våkne opp en morgen fortvilet over at en superkraftig AI har dukket opp, med katastrofale konsekvenser? Bøker som Superintelligens av Nick Bostrom og Liv 3.0 av Max Tegmark, samt nyere artikler , hevder at ondsinnet superintelligens er en eksistensiell risiko for menneskeheten.
Men man kan spekulere i det uendelige. Det er bedre å stille et mer konkret, empirisk spørsmål: Hva vil varsle oss om at superintelligens virkelig er rundt hjørnet?
Vi kan kalle slike forbud kanarifugler i kullgruvene til AI. Hvis et kunstig intelligens-program utvikler en grunnleggende ny evne, tilsvarer det en kanarifugl som kollapser: et tidlig varsel om AI-gjennombrudd i horisonten.
Kan den berømte Turing-testen fungere som en kanarifugl? Testen, oppfunnet av Alan Turing i 1950, antyder at AI på menneskelig nivå vil bli oppnådd når en person ikke kan skille å snakke med et menneske fra å snakke med en datamaskin. Det er en viktig test, men det er ikke en kanarifugl; det er snarere tegnet på at AI på menneskelig nivå allerede har kommet. Mange informatikere tror at hvis det øyeblikket inntreffer, vil superintelligens raskt følge etter. Vi trenger flere mellomliggende milepæler.
Er AI sin ytelse i spill som f.eks Gå , poker eller Quake 3 , en kanarifugl? Det er ikke. Hovedtyngden av såkalt kunstig intelligens i disse spillene er faktisk menneskelig jobbe med å ramme problemet og designe løsningen. AlphaGos seier over menneskelige Go-mestere var en ære til det talentfulle menneskelige teamet på DeepMind, ikke til maskinen, som bare kjørte algoritmen folket hadde laget. Dette forklarer hvorfor det tar år med hardt arbeid å oversette AI-suksess fra en smal utfordring til den neste. Selv AlphaZero, som lærte å spille Go i verdensklasse på noen få timer, har ikke utvidet omfanget betydelig siden 2017. Metoder som dyp læring er generelle, men deres vellykkede anvendelse på en bestemt oppgave krever omfattende menneskelig intervensjon.
Mer generelt er maskinlæring kjernen i AIs suksesser det siste tiåret eller så. Likevel er begrepet maskinlæring en feilbetegnelse. Maskiner har bare en smal del av menneskers rike og allsidige læringsevner. Å si at maskiner lærer er som å si at babypingviner vet hvordan de skal fiske. Realiteten er at voksne pingviner svømmer, fanger fisk , fordøye det, spyle opp i nebbet deres, og legg biter i barnas munn. AI blir likeledes skje-matet av menneskelige forskere og ingeniører.
I motsetning til maskinlæring, kartlegger menneskelig læring en personlig motivasjon (jeg vil kjøre bil for å være uavhengig av foreldrene mine) til en strategisk læringsplan (Ta sjåførens ed og øv i helgene). Et menneske formulerer spesifikke læringsmål (Bli bedre på parallellparkering), samler inn og merker data (vinkelen var feil denne gangen), og inkorporerer ekstern tilbakemelding og bakgrunnskunnskap (instruktøren forklarte hvordan sidespeilene brukes). Mennesker identifiserer, rammer inn og former læringsproblemer. Ingen av disse menneskelige evnene er engang eksternt replikert av maskiner. Maskiner kan utføre overmenneskelige statistiske beregninger, men det er bare den siste milen med læring.
Maskiner kan utføre overmenneskelige statistiske beregninger, men det er bare den siste milen med læring.
Den automatiske formuleringen av læringsproblemer er altså vår første kanarifugl. Det ser ikke ut til å være i nærheten av å dø.
Selvkjørende biler er en annen kanarifugl. De er lenger i fremtiden enn forventet av boostere som Elon Musk . AI kan svikte katastrofalt i atypiske situasjoner, som når en person i rullestol krysser gaten. Kjøring er langt mer utfordrende enn tidligere AI-oppgaver fordi det krever å ta livskritiske beslutninger i sanntid basert på både den uforutsigbare fysiske verdenen og samhandling med menneskelige sjåfører, fotgjengere og andre. Selvfølgelig bør vi sette inn begrensede selvkjørende biler når de reduserer ulykkestallene, men først når kjøring på menneskelig nivå er oppnådd kan denne kanarifuglen sies å ha kjølt over.
AI-leger er en tredje kanarifugl. AI kan allerede analysere medisinske bilder med overmenneskelig nøyaktighet, men det er bare en smal del av en menneskelig leges jobb. En AI-lege må intervjue pasienter, vurdere komplikasjoner, konsultere andre leger og mer. Dette er utfordrende oppgaver som krever forståelse av mennesker, språk og medisin. En slik lege trenger ikke å lure en pasient til å tro at den er menneskelig – det er derfor dette er forskjellig fra Turing-testen. Men det ville måtte tilnærme menneskelige legers evner på tvers av et bredt spekter av oppgaver og uventede omstendigheter.
Og selv om Turing-testen i seg selv ikke er en god kanarifugl, kan begrensede versjoner av testen fungere som kanarifugler. Eksisterende AI-er er ikke i stand til å forstå mennesker og deres motivasjoner, eller til og med grunnleggende fysiske spørsmål som Vil en jumbojet passe gjennom et vindu? Vi kan administrere en delvis Turing-test ved å snakke med en AI som Alexa eller Google Home i noen minutter, noe som raskt avslører deres begrensede forståelse av språk og verden. Tenk på et veldig enkelt eksempel basert på Winograd-skjemaene foreslått av informatikeren Hector Levesque. Jeg sa til Alexa: Trofeet mitt passer ikke i håndbagasjen fordi det er for stort. Hva burde jeg gjøre? Alexas svar var at jeg ikke kjenner den. Siden Alexa ikke kan resonnere om størrelser på gjenstander, kan den ikke bestemme om det refererer til trofeet eller til håndbagasjen. Når AI ikke kan forstå betydningen av det, er det vanskelig å tro at det er klar til å ta over verden. Hvis Alexa var i stand til å ha en innholdsrik dialog om et innholdsrikt emne, ville det vært en fjerde kanarifugl.
Nåværende AI-er er idioter som er flinke til å bruke smale oppgaver, som å spille Go eller kategorisere MR-bilder, men mangler genereltheten og allsidigheten til mennesker. Hver idiot-savant er konstruert manuelt og separat, og vi er flere tiår unna de allsidige evnene til et fem år gammelt barn. Kanarifuglene jeg foreslår, derimot, indikerer bøyningspunkter for AI-feltet.
Oren Etzioni med tillatelse Foto
Noen teoretikere, som Bostrom, hevder at vi likevel må planlegge for hendelser med svært lav sannsynlighet, men med høy konsekvens som om de var uunngåelige. Konsekvensene, sier de, er så dype at våre estimater av sannsynligheten deres ikke er viktige. Dette er et dumt argument: det kan brukes til å rettferdiggjøre omtrent hva som helst. Det er en moderne versjon av argumentet til 1600-tallsfilosofen Blaise Pascal om at det er verdt å oppføre seg som om en kristen Gud eksisterer, for ellers risikerer du et evig helvete. Han brukte den uendelige kostnaden ved en feil for å argumentere for at en bestemt handlingsmåte er rasjonell selv om den er basert på en høyst usannsynlig premiss. Men argumenter basert på uendelige kostnader kan støtte motstridende tro. Tenk for eksempel på en antikristen Gud som lover evig helvete for hver kristen handling. Det er høyst usannsynlig også; fra et logisk synspunkt er det imidlertid like rimelig å satse som å tro på Bibelens gud. Denne motsetningen viser en feil i argumenter basert på uendelige kostnader.
Katalogen min over tidlige advarselssignaler, eller kanarifugler, er illustrerende snarere enn omfattende, men den viser hvor langt vi er fra AI på menneskelig nivå. Hvis og når en kanarifugl kollapser, vil vi ha god tid før fremveksten av AI på menneskelig nivå til å designe robuste avbrytere og identifisere røde linjer vi ikke vil at AI skal krysse. AI-eskatologi uten empiriske kanarifugler er en distraksjon fra å ta opp eksisterende problemer som hvordan man regulerer AIs innvirkning på sysselsettingen eller sikrer at bruken av den i straffeutmåling eller kredittvurdering ikke diskriminerer visse grupper.
Som Andrew Ng, en av verdens mest fremtredende AI-eksperter, har sagt: Å bekymre seg for at AI blir ond er litt som å bekymre seg for overbefolkning på Mars. Inntil kanarifuglene begynner å dø, har han helt rett.
Oren Etzioni er administrerende direktør for det ideelle organisasjonen Allen Institute for AI, og professor i informatikk ved University of Washington.