211service.com
Hva som skal til for at datamaskiner skal være bevisste
Er en orm bevisst? Hva med en humle? Føler en datamaskin som kan spille sjakk noe?
Christopher Koch
For Christof Koch, vitenskapelig sjef ved Allen Institute for Brain Science i Seattle, kan svaret på disse spørsmålene ligge i selve universets struktur. Bevissthet, mener han, er en iboende egenskap ved materie, akkurat som masse eller energi. Organisere materie på akkurat den riktige måten, som i pattedyrhjernen, og her , kan du føle.
Koch, nå 57, har brukt nesten et kvart århundre på å forklare hvorfor for eksempel solen føles varm i ansiktet ditt. Men etter å ha skrevet tre bøker om bevissthet , sier Koch at forskere fortsatt er langt fra å vite hvorfor det oppstår, eller til og med enige om hva det er. Det er et vanskelig problem (se Å knekke hjernens koder). Det er en grunn til at Koch forlot sin stilling i Caltech i 2011 for å bli en del av et prosjekt på 500 millioner dollar lansert av milliardæren Paul Allen, Microsofts medgründer.
Allen Institutes mål er å bygge et detaljert atlas over alle nevroner og synapser i pattedyrhjernen. Det ville gi nevrovitenskap en brannslange av data som ligner på det Human Genome Project oppnådde.
Men Koch har ikke gitt opp søket etter en storslått teori som kan forklare det hele. Faktisk tror han bevissthet kan forklares med noe som heter integrert informasjonsteori , som hevder at bevissthet er et produkt av strukturer, som hjernen, som både kan lagre en stor mengde informasjon og ha en kritisk tetthet av sammenkoblinger mellom delene deres.
For Koch gir teorien et middel til å vurdere graden av bevissthet hos mennesker med hjerneskade, hos arter over hele dyreriket, og til og med, sier han, blant maskiner. Vi spurte Koch om databevissthet forrige uke under MIT Technology Review sin EmTech-konferanse.
Vil oppdagelsen av det biologiske grunnlaget for bevissthet være dehumaniserende på en eller annen måte? Hva om det hele bare er en illusjon?
Jeg synes dette synet til noen mennesker om at bevissthet er en illusjon er latterlig. Hvis det er en illusjon, så er det den kraftigste illusjonen vi har. Jeg mener, hva er den mest kjente deduksjonen i vestlig filosofi? Jeg tror. Derfor er jeg det. Det faktum at du har bevisst erfaring er den ene ubestridelige sikkerheten du har.
Hvis forskere oppdager grunnlaget for bevissthet, hva slags teknologier kan resultere av det?
Vi kan ha en test for å si hvem som har bevissthet og hvem som ikke har det. Vi har veldig emosjonelle debatter her i landet om abort. Jeg vil gjerne ha en objektiv måte å teste på hvilket tidspunkt et foster faktisk begynner å få bevisst følelse. Eller om en pasient [i koma] er ved bevissthet eller ikke. Ofte vet du bare ikke. Dette er spørsmål som folk har stilt siden historisk tid, men når vi først har en teori, og en allment akseptert teori, kan vi svare på dem. Dessuten, hvis jeg ønsket å bygge en maskin som ville være bevisst, ville det gi meg en blåkopi.
Så du tror en datamaskin kan være bevisst?
Jeg holdt en forelesning [siste uke] ved MIT om Integrated Information Theory, utviklet av Giulio Tononi ved University of Wisconsin. Dette er en teori som gir en veldig klar prediksjon: den sier at bevissthet er en egenskap ved komplekse systemer som har et spesielt årsak-virkning-repertoar. De har en spesiell måte å samhandle med verden på, slik hjernen gjør, eller i prinsippet, slik en datamaskin kunne. Hvis du skulle bygge en datamaskin som har samme kretsløp som hjernen, ville denne datamaskinen også ha bevissthet knyttet til seg. Det ville føles som noe å være denne datamaskinen. Det samme gjelder imidlertid ikke for digitale simuleringer.
Hvis jeg bygger en perfekt programvaremodell av hjernen, ville den aldri vært bevisst, men en spesialdesignet maskin som etterligner hjernen kan være det?
Riktig. Denne teorien sier tydelig at en digital simulering ikke ville være bevisst, noe som er slående forskjellig fra den dominerende funksjonalistiske troen til 99 prosent av folk ved MIT eller filosofer som Daniel Dennett. De sier alle, når du simulerer alt, kreves ingenting annet, og det kommer til å være bevisst.
Jeg tror bevissthet, i likhet med masse, er en grunnleggende egenskap ved universet. Analogien, og den er veldig god, er at du kan lage ganske gode værspådommer i disse dager. Du kan forutsi innsiden av en storm. Men det er aldri vått inne i datamaskinen. Du kan simulere et sort hull i en datamaskin, men rom-tid vil ikke bli bøyd. Å simulere noe er ikke den virkelige tingen.
Det er det samme med bevissthet. Om 100 år kan du kanskje simulere bevissthet på en datamaskin. Men det vil ikke oppleve noe. Nada. Det vil være svart inni. Det vil ikke ha noen erfaring overhodet, selv om det kan ha vår intelligens og vår evne til å snakke.
Jeg sier ikke at bevissthet er en magisk sjel. Det er noe fysisk. Bevissthet overvåker alltid det fysiske. Men det krever en bestemt type maskinvare for å instansiere den. En datamaskin som består av transistorer, som flytter ladning av og på en port, med hver port koblet til et lite antall andre porter, er bare en helt annen årsak-og-virkning struktur enn hva vi har i hjernen, der du har ett nevron koblet til 10 000 inngangsnevroner og projiserer til 10 000 andre nevroner. Men hvis du skulle bygge datamaskinen på riktig måte, som en nevromorf datamaskin [se Thinking in Silicon ], kan den være bevisst.
Hvis jeg skulle sette deg i et rom med en datamaskin fra fremtiden, ville du være i stand til å finne ut om den er bevisst?
Jeg kunne ikke fra utsiden. Jeg må se på maskinvaren.
Hva med Turing-testen?
Spørsmålet Turing stilte er Kan maskiner tenke ? Men til syvende og sist er det en operativ test for intelligens, ikke for bevissthet. Hvis du har en smart samtale med en fyr i et annet rom og etter en halvtime kan du ikke bestemme om det er en datamaskin eller et menneske, vel, da sier du at den er like intelligent som et menneske. Men Turing-testen ville ikke fortelle meg om maskinen opplever noe. Jeg kan spørre Er du ved bevissthet? og maskinen kunne si Ja, jeg er ved full bevissthet. Og hvorfor påstår du at jeg ikke er det? Jeg er fornærmet. Men jeg kunne egentlig ikke vite. Jeg må si, beklager, jeg må skille deg fra hverandre og forstå hvordan du er skapt og hvordan du faktisk genererer disse forskjellige fysiske tilstandene.
Er det ikke et lurespørsmål du kan stille, som bare et bevisst vesen kan svare på?
Et veldig godt spørsmål. Hos mennesker har vi praktiske tester for bevissthet. Hvis du har en alvorlig ulykke og går til legevakten, vil de spørre deg: Kan du bevege øynene? Kan du bevege lemmene? Kan du snakke? Hvis du kan snakke, vet du hvilket år det er? Vet du hvem presidenten er?
Men hvordan vet jeg egentlig at du er bevisst? Dette er problemet med solipsisme. I siste instans vet jeg ikke. Men jeg vet at hjernen din er veldig lik min. Jeg har satt mange mennesker inn i skannere, og jeg vet at de alle har en hjerne, og hjernen deres oppfører seg lik min. Så det er en helt rimelig slutning at du også er bevisst.
Men jo mer disse systemene skiller seg fra meg, jo vanskeligere er det å gjøre det trinn for slutning. Ta for eksempel en bie. Føles det som noe å være en bie og fly i de gylne solstrålene og ha nektar? Jeg synes det er veldig vanskelig å vite om en bie er ved bevissthet eller ikke. Og en datamaskin er enda mer radikalt annerledes. Det er ingen oppførsel jeg kan bedømme det etter. Jeg må se på den underliggende maskinvaren.
Tror du vi noen gang kommer til å bygge bevisste maskiner?
Jeg er ikke sikker på hvorfor vi skulle gjøre det. Men det er ingen tvil i mitt sinn om at vi vil bygge smarte maskiner som kan bestå Turing-testen i god tid før vi forstår det sanne biologiske grunnlaget for menneskelig intelligens. Og jeg tror det er farer forbundet med det som de fleste, som er blide optimister, ignorerer fullstendig.
Hvilke farer?
Ser du ikke science fiction-filmer? Runaway AI selvfølgelig. Tenk på finansmarkedet, alle de handelsmaskinene, flashkrasj. Folk kommer til å misbruke dataintelligens, blindt maksimere for et eller annet mål. Det kommer til å føre til mer og mer maktkonsentrasjon blant færre og færre mennesker. Vi ser dette allerede, det kommer til å føre til massiv arbeidsledighet. Og kanskje 30 eller 40 år senere tror jeg det virkelig er en eksistensialistisk fare for arten, på nivå med atomvåpen eller et meteorittangrep.
Alt uten at maskinen er ved bevissthet? I filmene er øyeblikket AI blir gal, det samme øyeblikket som den får bevisst selvbevissthet.
Det er fordi folk ønsker å lage en engasjerende historie. Hvis fienden ikke føler noe, hvis det ikke er noe der, er det ikke en god motstander.