Podcast: Kan du lære en maskin å tenke?

Ariel Davis





Kunstig intelligens har blitt en så stor del av livene våre at du vil bli tilgitt for å miste tellingen på algoritmene du samhandler med. Men AI-en som driver værmeldingen din, Instagram-filteret eller favorittspillelisten på Spotify er langt unna hyperintelligente tenkemaskiner bransjepionerer har fundert på i flere tiår.

dyp læring, teknologien som driver den nåværende AI-boomen , kan trene maskiner til å bli mestere til alle slags oppgaver. Men den kan bare lære én om gangen. Og fordi de fleste AI-modeller trener ferdighetene sine på tusenvis eller millioner av eksisterende eksempler, ender de opp med å replikere mønstre innenfor historiske data – inkludert de mange dårlige avgjørelsene folk har tatt, som å marginalisere fargede og kvinner.

Likevel har systemer som brettspillmesteren AlphaZero og den stadig mer overbevisende falske tekstgeneratoren GPT-3 skapt debatten om når mennesker vil skape en kunstig generell intelligens -maskiner som kan multitaske, tenke og resonnere for seg selv.



Tanken er splittende. Utover svaret på hvordan vi kan utvikle teknologier som er i stand til sunn fornuft eller selvforbedring ligger enda et spørsmål: hvem drar egentlig nytte av replikering av menneskelig intelligens i et kunstig sinn?

Mesteparten av verdien som genereres av AI i dag går tilbake til milliardbedriftene som allerede har en fantastisk mengde ressurser til rådighet, sier Karen Hao, MIT Technology Reviews senior AI-reporter og skribent av Algoritmen . Og vi har egentlig ikke funnet ut hvordan vi skal konvertere den verdien eller distribuere den verdien til andre mennesker.

I denne episoden av Deep Tech blir Hao og Will Douglas Heaven, seniorredaktøren vår for AI, sammen med vår sjefredaktør Gideon Lichfield for å diskutere de forskjellige tankeretningene rundt hvorvidt en kunstig generell intelligens er mulig, og hva den ville ta for å komme dit.



Sjekk ut flere episoder av Deep Tech her.

Vis notater og lenker:

Utskrift av hele episoden:

Gideon Lichfield: Kunstig intelligens er nå så allestedsnærværende at du sannsynligvis ikke engang tenker på det faktum at du bruker den. Dine nettsøk. Google Oversetter. Stemmeassistenter som Alexa og Siri. De søte små filtrene på Snapchat og Instagram. Hva du ser – og ikke ser – på sosiale medier. Svindelvarsler fra kredittkortselskapet ditt. Amazon anbefalinger. Spotify-spillelister. Trafikkveibeskrivelse. Værmeldingen. Alt er AI, hele tiden.

Og det er alt vi kan kalle dum AI. Ikke ekte intelligens. Egentlig bare kopimaskiner: Algoritmer som har lært seg å gjøre virkelig spesifikke ting ved å bli trent på tusenvis eller millioner av korrekte eksempler. På noen av disse tingene, som ansikts- og talegjenkjenning, er de allerede enda mer nøyaktige enn mennesker.



All denne fremgangen har gjenopplivet en gammel debatt på feltet: kan vi skape strøm intelligens, maskiner som selvstendig kan tenke selv? Vel, med meg i dag er MIT Technology Reviews AI-team: Will Heaven, vår seniorredaktør for AI, og Karen Hao, vår senior AI-reporter og skribent av Algoritmen , vårt AI-nyhetsbrev. De har begge fulgt fremgangen innen AI og de forskjellige tankegangene rundt om en kunstig generell intelligens i det hele tatt er mulig og hva som skal til for å komme dit.

Jeg er Gideon Lichfield, sjefredaktør for MIT Technology Review, og dette er Deep Tech.

Will, du skrev nettopp en historie på 4000 ord på spørsmålet om vi kan lage en kunstig generell intelligens. Så du må ha hatt en grunn til å gjøre det mot deg selv. Hvorfor er dette spørsmålet interessant akkurat nå?



Will Douglas Heaven: Så på en måte har det alltid vært interessant. Å bygge en maskin som kan tenke og gjøre ting som folk kan gjøre har vært målet for AI helt siden starten, men det har vært en lang, lang kamp. Og tidligere hype har ført til fiasko. Så denne ideen om kunstig generell intelligens har blitt, du vet, veldig kontroversiell og veldig splittende – men den har et comeback. Det er i stor grad takket være suksessen med dyp læring det siste tiåret. Og spesielt systemer som Alpha Zero som ble laget av DeepMind og kan spille Go og Shogi, en slags japansk sjakk, og sjakk. Den samme algoritmen kan spille alle tre spillene. Og GPT-3, den store språkmodellen fra OpenAI, som uhyggelig kan etterligne måten mennesker skriver på. Det har fått folk, spesielt det siste året, til å hoppe inn og stille disse spørsmålene igjen. Er vi i ferd med å bygge kunstig generell intelligens? Maskiner som kan tenke og gjøre ting som mennesker kan.

Gideon Lichfield: Karen, la oss snakke litt mer om GPT-3, som Will nettopp nevnte. Det er denne algoritmen som, du vet, du gir den noen få ord, og den vil spytte ut avsnitt og avsnitt av det som ser overbevisende ut som Shakespeare eller hva annet du ber den om å gjøre. Men hva er så bemerkelsesverdig med det fra et AI-perspektiv? Hva gjør den som ikke kunne gjøres før?

Karen Hao: Det som er interessant er at jeg tror gjennombruddene som førte til GPT-3 faktisk skjedde ganske mange år tidligere. I 2017 skjedde det viktigste gjennombruddet som utløste en bølge av fremskritt innen naturlig språkbehandling med publiseringen av papiret som introduserte ideen om transformatorer. Og måten en transformatoralgoritme håndterer språk på, er at den ser på millioner eller til og med milliarder av eksempler, av setninger med avsnittsstruktur, kanskje til og med kodestruktur. Og den kan trekke ut mønstrene og begynne å forutsi i svært imponerende grad, hvilke ord som gir mest mening sammen, hvilke setninger som gir mest mening sammen. Og konstruer derfor disse virkelig lange avsnittene og essayene. Det jeg tror GPT-3 har gjort annerledes er det faktum at det bare er størrelsesordener mer data som nå brukes til å trene denne transformatorteknikken. Så det OpenAI gjorde med GPT-3 er at de ikke bare trener det på flere eksempler på ord fra korpus som Wikipedia eller fra artikler som New York Times eller Reddit-fora eller alle disse tingene, de trener det også på, setningsmønstre, trener den på avsnittsmønstre, og ser på hva som gir mening som et intro avsnitt versus et konklusjonsavsnitt. Så det er bare å få mye mer informasjon og virkelig begynne å etterligne veldig tett hvordan mennesker skriver, eller hvordan musikk er komponert, eller hvordan koding er kodet.

Så det er bare å få mye mer informasjon og virkelig begynne å etterligne veldig tett hvordan mennesker skriver, eller hvordan musikk er komponert, eller hvordan koding er kodet.

Gideon Lichfield: Og før transformatorer, som kan trekke ut mønstre fra alle disse forskjellige typene strukturer, hva gjorde AI?

Karen Hao: Før var naturlig språkbehandling faktisk... det var mye mer grunnleggende. Så transformatorer er en slags selvovervåket teknikk der algoritmen ikke blir fortalt nøyaktig hva den skal se etter blant språket. Den leter bare etter mønstre i seg selv og hva den tror er de gjentatte egenskapene til språkkomposisjon. Men før det var det faktisk mye mer overvåket tilnærming til språk og mye mer hardkodede tilnærminger til språk der folk lærte maskiner som 'dette er substantiv, dette er adjektiver. Slik konstruerer du disse tingene sammen.' Og dessverre er det en veldig møysommelig prosess å prøve å kuratere språk på den måten der hvert ord på en måte må ha en etikett. Og maskinen må læres manuelt hvordan man konstruerer disse tingene. Og så det begrenset mengden data som disse teknikkene kunne mates av. Og det er derfor språksystemene egentlig ikke var særlig gode.

Gideon Lichfield: Så la oss komme tilbake til det skillet mellom veiledet og selvstyrt læring, fordi jeg tror vi kommer til å se det er en ganske viktig del av fremskrittene mot noe som kan bli en generell intelligens. Will, som du skrev i innlegget ditt, er det mye uklarhet om hva vi mener når vi sier kunstig generell intelligens. Kan du snakke litt om hva som er alternativene der?

Will Douglas Heaven: Det er et slags spekter. Jeg mener på den ene siden, du har systemer som, du vet, kan gjøre mange av de tingene som begrenser AI eller dum AI, hvis du vil, kan gjøre i dag, men på en gang. Og Alpha Zero er kanskje det første glimtet av det. Denne ene algoritmen som kan trene seg selv til å gjøre tre forskjellige ting, men viktig advarsel der, den kan ikke få seg selv til å gjøre de tre tingene samtidig. Så det er ikke som en enkelt hjerne som kan bytte mellom oppgaver. Som Shane Legg, på medgrunnleggerne av Deepmind, sa at det er som om du eller jeg må, du vet, da vi begynte å spille sjakk, måtte vi bytte ut hjernen vår og legge den inn i sjakkhjernen vår.

Det er tydeligvis ikke særlig generelt, men vi er på vei til den slags ting – din type multiverktøy AI der én AI kan gjøre flere forskjellige ting som smal AI allerede kan gjøre. Og så beveger seg oppover i spekteret, det som sannsynligvis flere mener når de snakker om AGI er, du vet, tenkemaskiner, maskiner som er menneskelignende i skremmesitater som kan multitaske på den måten en person kan. Du vet at vi er ekstremt tilpasningsdyktige. Vi kan bytte mellom å steke et egg for å skrive et blogginnlegg til å synge, hva som helst. Likevel er det også folk som går rett til den andre enden av spekteret, som også vil prøve seg på en maskinbevissthet for å snakke om AGI. Du vet, at vi ikke kommer til å ha ekte generell intelligens eller menneskelignende intelligens før vi har en maskin som ikke bare kan gjøre ting vi kan gjøre, men vet at den kan gjøre ting vi kan gjøre som har en eller annen form av selvrefleksjon der inne. Jeg tror alle disse definisjonene har eksistert siden begynnelsen, men det er en av tingene som gjør AGI vanskelig å snakke om og ganske kontroversiell fordi det ikke er noen klar definisjon.

Gideon Lichfield: Når vi snakker om kunstig generell intelligens, er det denne typen implisitte antakelser om at menneskelig intelligens i seg selv også er absolutt generell. Det er universelt. Vi kan steke et egg eller vi kan skrive et blogginnlegg eller vi kan danse eller synge. Og at alt dette er ferdigheter som enhver generell intelligens bør ha. Men er det virkelig tilfelle, eller kommer det til å være forskjellige typer generell intelligens?

Will Douglas Heaven: Jeg tror, ​​og jeg tror mange i AI-miljøet også vil være enige i at det er mange forskjellige intelligenser. Vi sitter litt fast på denne ideen om menneskelignende intelligens, i stor grad tror jeg fordi mennesker i lang tid har vært det beste eksemplet på generell intelligens vi har hatt, så det er åpenbart hvorfor de er et forbilde, vet du , vi ønsker å bygge maskiner i vårt eget bilde, men du bare ser deg rundt i dyreriket og det er mange, mange forskjellige måter å være intelligent på. Fra den typen sosiale intelligens som maur har, der de sammen kunne gjøre virkelig bemerkelsesverdige ting til blekkspruter, som vi bare så vidt begynner å forstå måtene de er intelligente på, men så er de intelligente på en veldig fremmed måte sammenlignet med oss ​​selv. Og til og med våre nærmeste kusiner som sjimpanser har intelligenser som er annerledes enn, og du jeg, de har andre ferdigheter enn mennesker.

Så jeg tror ideen om at maskiner, hvis de blir generelt intelligente, må være som oss er, som du vet, er tull, går ut av vinduet. Selve oppdraget med å bygge en AGI som er menneskelig er kanskje meningsløs fordi vi har menneskelige intelligenser, ikke sant? Vi har oss selv. Så hvorfor trenger vi å lage maskiner som gjør disse tingene? Det ville vært mye, mye bedre å bygge intelligenser som kan gjøre ting vi ikke kan. De er intelligente på forskjellige måter for å komplimentere våre evner.

Gideon Lichfield: Karen, folk elsker åpenbart å snakke om trusselen om en superintelligent AI som tar over verden, men hva er det vi egentlig bør bekymre oss for?

Karen Hao: En av de virkelig store de siste årene har vært algoritmisk diskriminering. Dette fenomenet begynte vi å legge merke til hvor, når vi trener algoritmer, små eller store, til å ta beslutninger basert på historiske data, ender det opp med å replikere mønstrene som vi kanskje ikke nødvendigvis vil at de skal gjenskape i historiske data, for eksempel marginalisering av mennesker av farge eller marginalisering av kvinner.

Ting i vår historie som vi helst vil unnvære, når vi beveger oss fremover og utvikler oss som samfunn. Men på grunn av måten algoritmer ikke er særlig smarte på og de trekker ut disse mønstrene og replikerer disse mønstrene tankeløst, ender de opp med å ta avgjørelser som diskriminerer fargede personer som diskriminerer kvinner, diskriminerer bestemte kulturer som ikke er vestlig-sentriske kulturer.

Og hvis du observerer samtalene som foregår blant folk som snakker om noen av måtene vi trenger å tenke på å redusere trusler rundt superintelligens eller rundt AGI, hvordan du vil kalle det, vil de snakke om denne utfordringen med verdijustering. Verditilpasning defineres som hvordan vi får denne superintelligente AI-en til å forstå verdiene våre og tilpasse oss verdiene våre. Hvis de ikke stemmer overens med våre verdier, kan de gjøre noe sprøtt. Og det er slik det begynner å skade folk.

Gideon Lichfield: Hvordan lager vi en AI, en super intelligent AI, som ikke er ond?

Karen Hao: Nøyaktig. Nøyaktig. Så i stedet for å snakke i fremtiden om å prøve å finne ut verdijustering hundre år fra nå, burde vi snakke akkurat nå om hvordan vi ikke klarte å justere verdiene med helt grunnleggende AI-er i dag og faktisk løse problemet med algoritmisk diskriminering.

En annen stor utfordring er konsentrasjonen av makt som, um, AI naturlig skaper. Du trenger utrolig mye datakraft i dag for å lage avanserte AI-systemer og bryte toppmoderne. Og de eneste aktørene som virkelig har så mye datakraft nå, er de store teknologiselskapene og kanskje de øverste forskningsuniversitetene. Og selv de øverste forskningsuniversitetene kan knapt konkurrere med de store teknologiselskapene lenger.

Så Googles Facebooks epler i verden. Um, en annen bekymring som folk har, i hundre år fra nå er en gang superintelligent AI blir sluppet løs, kommer det faktisk til å være til fordel for folk jevnt? Vel, vi har ikke funnet ut av det i dag heller. Som mesteparten av verdien som genereres av AI i dag, går tilbake til milliardbedriftene som allerede har en fantastisk mengde ressurser til rådighet. Og vi har egentlig ikke funnet ut hvordan vi skal konvertere den verdien eller distribuere den verdien til andre mennesker.

Gideon Lichfield: Ok, la oss komme tilbake til ideen om en generell intelligens og hvordan vi ville bygge den hvis vi kunne. Will nevnte dyp læring tidligere. Som er den grunnleggende teknikken for det meste av AI som vi bruker i dag. Og den er bare åtte år gammel. Karen, du snakket med i hovedsak faren til dyp læring Geoffrey Hinton på EmTech-konferansen vår nylig. Og han tror at dyp læring, teknikken vi bruker til ting som oversettelsestjenester eller ansiktsgjenkjenning, også kommer til å være grunnlaget for en generell intelligens når vi til slutt kommer dit.

Geoffrey Hinton [Fra EmTech 2020]: Jeg tror dyp læring vil kunne gjøre alt. Men jeg tror det må være ganske mange konseptuelle gjennombrudd som vi ikke har hatt ennå. // Spesielt gjennombrudd å gjøre med hvordan du får store vektorer av nevral aktivitet for å implementere ting som resonnement, men vi trenger også en massiv skalaøkning. // Den menneskelige hjernen har omtrent hundre billioner parametere, det vil si synapsis. Hundre billioner. Det som nå kalles virkelig store modeller som GPT-3 har 175 milliarder. Den er tusenvis av ganger mindre enn hjernen.

Gideon Lichfield: Kan du kanskje begynne med å forklare hva dyp læring er?

Karen Hao: Dyplæring er en kategori av teknikker som er basert på denne ideen om at måten å skape kunstig intelligens på er å lage kunstige nevrale nettverk som er basert på nevrale nettverk i hjernen vår. Menneskelige hjerner er den smarteste formen for intelligens vi har i dag.

Tydeligvis har Will allerede snakket om noen utfordringer til denne teorien, men forutsatt at menneskelig intelligens er på en måte som symbolet på intelligens som vi har i dag, ønsker vi å prøve å gjenskape kunstige hjerner i form av et bilde av en menneskelig hjerne. Og dyp læring er det. Er en teknikk som prøver å bruke kunstige nevrale nettverk som en måte å oppnå kunstig intelligens på.

Det du siktet til er at det stort sett er to forskjellige leire innenfor feltet rundt hvordan vi kan gå frem for å nærme oss å bygge kunstig generell intelligens. Den første leiren er at vi allerede har alle teknikkene vi trenger, vi trenger bare å skalere dem massivt med mer data og større nevrale nettverk.

Den andre leiren er dyp læring er ikke nok. Vi trenger noe annet som vi ennå ikke har funnet ut for å supplere dyp læring for å oppnå noen av tingene som sunn fornuft eller resonnement som på en måte har vært unnvikende for AI-feltet i dag.

Gideon Lichfield: Så Will, som Karen hentydet til akkurat nå, tror folk som tror vi kan bygge en generell intelligens av dyp læring at vi må legge til noen ting til det. Hva er noen av disse tingene?

Will Douglas Heaven: Blant dem som tror dyp læring er, er veien å gå. Jeg mener, i tillegg til å laste mer data, som Karen sa, er det en haug med teknikker som folk bruker for å presse dyp læring fremover.

Du har uovervåket læring, som er... tradisjonelt mange suksesser med dyp læring, som bildegjenkjenning, bare for å bruke det klisjefylte eksemplet med å gjenkjenne katter. Det er fordi AI har blitt trent på millioner av bilder som har blitt merket av mennesker med katt. Du vet, dette er hvordan en katt ser ut, lær det. Den uovervåkede læringen er når maskinen går inn og ser på data som ikke er merket på den måten og selv prøver å oppdage mønstre.

Gideon Lichfield : Så med andre ord, du vil gi den som en haug med katter, en haug med hunder, en haug med pecan-pai, og den vil sortere dem i grupper?

Will Douglas Heaven: Ja. Det må i hovedsak først lære hva slags kjennetegn mellom disse kategoriene er i stedet for å bli spurt. Og den evnen til å identifisere seg selv, vet du, hva de kjennetegnene er, er et skritt mot en bedre måte å lære på. Og det er praktisk talt nyttig fordi oppgaven med å merke alle disse dataene er enorm.

Og vi kan ikke fortsette på denne veien, spesielt hvis vi vil at systemet skal trene på mer og mer data. Vi kan ikke fortsette på veien med å ha den manuelt merket. Og enda mer interessant tror jeg et uovervåket læringssystem har et potensial til å oppdage kategoriene dine som mennesker ikke har. Så vi kan faktisk lære noe av maskinen.

Og så har du ting som overføringslæring, og dette er avgjørende for generell intelligens. Det er her du har fått en modell som har blitt trent på et sett med data på en eller annen måte. Og det du har lært i den opplæringen, vil du kunne overføre det til en ny oppgave, slik at du ikke trenger å starte fra bunnen av hver gang.

Så det er forskjellige måter du kan nærme deg overføringslæring på, men du kan for eksempel ta noen av, noen av verdiene fra en trening, fra ett tognettverk og på en måte forhåndslaste et annet på en måte som når du ba den gjenkjenne , et bilde av et annet dyr, det har allerede en viss følelse av, du vet, hva dyr har, du vet, ben og hoder og haler.

Hva har du. Så du vil bare kunne overføre noen av tingene som er lært fra en oppgave til en annen. Og så er det ting som få skuddlæring, som er der systemet lærer av eller som navnet tilsier fra svært få treningseksempler. Og det kommer også til å være avgjørende fordi vi ikke alltid har massevis av data å kaste på disse systemene for å lære dem.

Jeg mener de er ekstremt ineffektive når du tenker på det sammenlignet med mennesker. Du vet, vi kan lære en lekse av, du vet, ett eksempel, to eksempler. Du viser et barn, et bilde av en sjiraff, og den vet hva en sjiraff er. Vi kan til og med lære hva noe er uten å si noe eksempel.

Karen Hao: ja. Ja. Hvis dere tenker på det, barn … hvis dere viser dem et bilde av en hest og så viser dere dem et bilde av et neshorn og dere sier, dere vet, en enhjørning er en mellomting mellom en hest og neshorn, kanskje de faktisk vil, når de først ser en enhjørning i en bildebok, være i stand til å vite at det er en enhjørning. Og slik begynner du på en måte å lære flere kategorier enn eksempler du ser, og dette er inspirasjon for enda en grense for dyp læring kalt low shot learning eller mindre enn ett skudd læring. Og igjen, det er det samme prinsippet som få skuddlæring der hvis vi er i stand til å få disse systemene til å lære fra veldig, veldig, veldig små dataprøver, på samme måte som mennesker gjør, så kan det virkelig overlade læringsprosessen.

Gideon Lichfield: For meg reiser dette et enda mer generelt spørsmål; som er det som gjør folk innen AGI så sikre på at man kan produsere intelligens i en maskin som representerer informasjon digitalt, i form av enere og nuller, når vi fortsatt vet så lite om hvordan menneskehjernen representerer informasjon. Er det ikke en veldig stor antagelse at vi bare kan gjenskape menneskelig intelligens i en digital maskin?

Will Douglas Heaven: ja, jeg er enig. Til tross for den enorme kompleksiteten til noen av de nevrale nettverkene vi ser i dag når det gjelder deres størrelse og deres forbindelser, er vi størrelsesordener unna alt som matcher skalaen til en hjerne, til og med en ganske grunnleggende dyrehjerne. . Så ja, det er en enorm kløft mellom ideen om at vi skal klare det, spesielt med dagens teknologi, den nåværende dyplæringsteknologien.

Og selvfølgelig, selv om, som Karen beskrev tidligere, nevrale nettverk er inspirert av hjernen, nevronene nevronene i hjernen vår. Det er bare én måte å se hjernen på. Jeg mener, hjerner er ikke bare klumper av nevroner. De har diskrete seksjoner som er dedikert til forskjellige oppgaver.

Så igjen, denne ideen om at bare ett veldig stort nevralt nettverk skal oppnå generell intelligens er igjen et lite trossprang fordi kanskje generell intelligens vil kreve noe gjennombrudd i hvordan dedikerte strukturer kommuniserer. Så det er et annet skille i du kjenner de som jager dette målet.

Du vet, noen tror at du bare kan skalere opp nevrale nettverk. Andre mennesker tror vi må gå tilbake fra den type spesifikke for enhver individuell dyplæringsalgoritme og se på det større bildet. Faktisk, du vet, kanskje nevrale nettverk ikke er den beste modellen av hjernen, og vi kan bygge bedre, som ser på hvordan forskjellige deler av hjernen kommuniserer til, du vet, summen er større enn hele .

Gideon Lichfield: Jeg vil avslutte med et filosofisk spørsmål. Vi sa tidligere at selv tilhengerne av AGI ikke tror det vil være bevisst. Kan vi til og med si om den vil ha tanker? Vil den forstå sin egen eksistens i den forstand som vi gjør?

Will Douglas Heaven: I Alan Turings artikkel fra 1950 Can Machines Think, som til og med, du vet, det var da AI fortsatt bare var denne teoretiske ideen, har vi ikke engang behandlet det som en slags ingeniørmulighet. Han reiste dette spørsmålet: hvordan vet vi om en maskin kan tenke? Og i den avisen tar han opp, vet du, denne ideen om bevissthet. Kanskje noen mennesker vil komme og si at maskiner aldri kan tenke fordi vi aldri vil kunne fortelle at maskiner kan tenke fordi vi ikke vil kunne fortelle at de er ved bevissthet. Og han avviser liksom det ved å si, vel, hvis du driver det argumentet så langt, så må du si det samme om. Vel, medmenneskene du møter hver dag, det er ingen ultimate måte jeg kan si at noen av dere ikke er ved bevissthet. Du vet den eneste måten jeg ville vite det på er hvis jeg opplevde å være deg. Og du kommer til det punktet at der kommunikasjon bryter sammen og det er liksom et sted vi ikke kan gå. Så det er en måte å avvise det spørsmålet på. Jeg mener, jeg tror bevissthetsspørsmålet vil være rundt for alltid. En dag tror jeg vi vil ha maskiner, som fungerer som om de var... de kunne tenke og du vet, kunne etterligne mennesker så godt at vi like godt kan behandle dem som om de er bevisste, men om de faktisk er, tror jeg aldri vi får vite det.

Gideon Lichfield: Karen, hva synes du om bevisste maskiner?

Karen Hao: Jeg mener, å bygge på det Will sa er, for eksempel, vet vi i det hele tatt hvilken bevissthet. Og jeg antar jeg ville trekke på arbeidet til en professor ved Tufts faktisk. Han nærmer seg kunstig intelligens fra perspektivet til kunstig liv. Som hvordan replikerer du alle de forskjellige tingene?

Ikke bare hjernen, men også som de elektriske pulsene eller de elektriske signalene som vi bruker i kroppen for å kommunisere, og som også har intelligens. Hvis vi grunnleggende er i stand til å gjenskape hver minste ting, hver eneste lille prosess i kroppen vår eller i et dyrs kropp til slutt, hvorfor skulle ikke disse vesenene ha samme bevissthet som vi gjør?

Will Douglas Heaven: Du vet at det foregår en fantastisk debatt akkurat nå om hjerneorganoider, som er små klumper av stamceller som er laget for å vokse til nevroner og de kan til og med utvikle forbindelser, og du ser i noen av dem denne elektriske aktiviteten. Og det er forskjellige laboratorier rundt om i verden som studerer disse små hjerneklattene for å forstå menneskelige hjernesykdommer bedre. Men det foregår en veldig interessant etisk debatt om, du vet, på hvilket tidspunkt øker denne elektriske aktiviteten? Muligheten for at disse små ploppene i petriskåler er bevisste. Og det viser at vi ikke har noen god definisjon av bevissthet, selv for våre egne hjerner, enn si maskinelle.

Karen Hao: Og vil legge til at vi heller ikke har noen god definisjon på kunstig. Så det legger bare til, mener jeg, hvis vi snakker om kunstig, generell intelligens.

Vi har ikke en god definisjon av noen av de tre ordene som utgjør det begrepet. Så å gå til det punktet som Will gjorde om disse organoidene som vokste i petriskåler, anses det som kunstig? Hvis ikke, hvorfor? Definerer vi kunstig som ting som bare ikke er laget av organisk materiale? Det er bare mye tvetydighet og definisjoner rundt alle tingene vi snakker om, noe som gjør bevissthetsspørsmålet veldig komplisert.

Will Douglas Heaven: Det gjør dem også morsomme ting å snakke om.

Gideon Lichfield: Det var det for denne episoden av Deep Tech. Og det er også den siste episoden vi gjør foreløpig. Vi jobber med noen andre lydprosjekter som vi håper å lansere i løpet av de kommende månedene. Så vær så snill å holde øye med dem. Og hvis du ikke allerede har gjort det, bør du sjekke ut vår AI-podcast kalt In Machines We Trust, som kommer ut annenhver uke. Du finner den uansett hvor du vanligvis hører på podcaster.

Deep Tech er skrevet og produsert av Anthony Green og redigert av Jennifer Strong og Michael Reilly. Jeg er Gideon Lichfield. Takk for at du lyttet.

gjemme seg