En filosof hevder at en kunstig intelligens ikke kan være en kunstner

TILLATS TIL ARTISTENE

Den 31. mars 1913 brøt det ut et opprør i den store salen i konserthuset Musikverein i Wien midt under fremføringen av en orkestersang av Alban Berg. Kaos senket seg. Møbler ble ødelagt. Politiet arresterte konsertens arrangør for å ha slått Oscar Straus, en lite husket komponist av operetter. Senere, under rettssaken, spøkte Straus om publikums frustrasjon. Punchen, insisterte han, var den mest harmoniske lyden hele kvelden. Historien har gitt en annen dom: Konsertens dirigent, Arnold Schoenberg, har gått ned som kanskje den mest kreative og innflytelsesrike komponisten på 1900-tallet.

Du kan kanskje ikke nyte Schoenbergs dissonante musikk, som avviser konvensjonell tonalitet for å arrangere de 12 tonene på skalaen i henhold til regler som ikke lar noen dominere. Men han endret hva mennesker forstår musikk som. Det er dette som gjør ham til en genuint kreativ og innovativ kunstner. Schoenbergs teknikker er nå sømløst integrert i alt fra filmmusikk og Broadway-musikaler til jazzsoloene til Miles Davis og Ornette Coleman.

Denne historien var en del av mars 2019-utgaven vår

• Se resten av saken
• Abonnere

Kreativitet er blant de mest mystiske og imponerende prestasjonene til menneskelig eksistens. Men hva er det?

Kreativitet er ikke bare nyhet. En pjokk ved pianoet kan treffe en ny sekvens av toner, men de er ikke, i noen meningsfull forstand, kreative. Dessuten er kreativitet avgrenset av historien: det som teller som kreativ inspirasjon i en periode eller et sted kan bli sett bort fra som latterlig, dumt eller gal i en annen. Et fellesskap må godta ideer som er like gode for at de skal regnes som kreative.

Som i Schoenbergs tilfelle, eller for en rekke andre moderne kunstnere, trenger ikke denne aksepten være universell. Det kan faktisk ikke komme på flere år - noen ganger blir kreativitet feilaktig avvist i generasjoner. Men med mindre en innovasjon til slutt blir akseptert av et eller annet praksisfellesskap, gir det liten mening å snakke om det som kreativt.

Fremskritt innen kunstig intelligens har ført til at mange spekulerer i at mennesker snart vil bli erstattet av maskiner på alle domener, inkludert kreativitet. Ray Kurzweil, en fremtidsforsker, spår at innen 2029 vil vi ha produsert en AI som kan passere for et gjennomsnittlig utdannet menneske. Nick Bostrom, en Oxford-filosof, er mer forsiktig. Han gir ingen dato, men foreslår at filosofer og matematikere utsetter arbeidet med grunnleggende spørsmål til superintelligente etterfølgere, som han definerer som å ha intellekt som i stor grad overgår menneskers kognitive ytelse på praktisk talt alle interessedomener.

Begge tror at når intelligens på menneskelig nivå først er produsert i maskiner, vil det være et utbrudd av fremskritt – det Kurzweil kaller singulariteten og Bostrom en intelligenseksplosjon – der maskiner veldig raskt vil erstatte oss med massive tiltak på alle domene. Dette vil skje, hevder de, fordi overmenneskelig prestasjon er det samme som vanlig menneskelig prestasjon bortsett fra at alle relevante beregninger utføres mye raskere, i det Bostrom kaller speed superintelligens.

Så hva med det høyeste nivået av menneskelig prestasjon – kreativ innovasjon? Er våre mest kreative kunstnere og tenkere i ferd med å bli massivt overgått av maskiner?

Nei.

Menneskets kreative prestasjoner, på grunn av måten de er sosialt innebygd på, vil ikke gi etter for fremskritt innen kunstig intelligens. Å si noe annet er å misforstå både hva mennesker er og hva vår kreativitet går ut på.

Denne påstanden er ikke absolutt: den avhenger av normene vi tillater å styre vår kultur og våre forventninger til teknologi. Mennesker har tidligere tilskrevet stor makt og genialitet selv til livløse totems. Det er fullt mulig at vi kommer til å behandle kunstig intelligente maskiner som så langt overlegne oss at vi naturlig vil tillegge dem kreativitet. Skulle det skje, er det ikke fordi maskiner har overgått oss. Det vil være fordi vi vil ha nedverdiget oss selv.

Menneskets kreative prestasjoner, på grunn av måten de er sosialt innebygd på, vil ikke gi etter for fremskritt innen kunstig intelligens.

Dessuten snakker jeg først og fremst om maskinfremskritt av den typen man nylig har sett med det nåværende dyplæringsparadigmet, så vel som dets beregningsmessige etterfølgere. Andre paradigmer har styrt AI-forskning tidligere. Disse har allerede ikke innfridd løftet sitt. Enda andre paradigmer kan komme i fremtiden, men hvis vi spekulerer i at en eller annen imaginær fremtidig AI hvis funksjoner vi ikke kan beskrive på en meningsfull måte, vil oppnå fantastiske ting, er det myteskaping, ikke begrunnet argument om teknologiens muligheter.

Kreativ prestasjon fungerer forskjellig på forskjellige domener. Jeg kan ikke gi en fullstendig taksonomi av de forskjellige kreativitetene her, så for å gjøre poenget vil jeg skissere et argument som involverer tre ganske forskjellige eksempler: musikk, spill og matematikk.

Som musikk i mine ører

I imaginært landskap (2018)
Nao Tokui bruker en maskinlæringsalgoritme for å lage panoramaer fra bilder funnet i Google Street View og utfyller dem med lydlandskap laget med kunstige nevrale nettverk. GJENNOMFØRT AV ARITST

Kan vi forestille oss en maskin med en så overmenneskelig kreativ evne at den fører til endringer i det vi forstår musikk som, slik Schoenberg gjorde?

Det er det jeg påstår at en maskin ikke kan gjøre. La oss se hvorfor.

Datamusikkkomposisjonssystemer har eksistert ganske lenge. I 1965, i en alder av 17, programmerte Kurzweil selv, ved å bruke en forløper for mønstergjenkjenningssystemene som karakteriserer dyplæringsalgoritmer i dag, en datamaskin til å komponere gjenkjennelig musikk. Varianter av denne teknikken brukes i dag. Dyplæringsalgoritmer har for eksempel vært i stand til å ta en haug med Bach-koraler som input, og komponere musikk som er så karakteristisk for Bachs stil at den lurer selv eksperter til å tro at den er original. Dette er mimikk. Det er det en kunstner gjør som lærling: kopiere og perfeksjonere andres stil i stedet for å jobbe med en autentisk, original stemme. Det er ikke den typen musikalsk kreativitet vi forbinder med Bach, bry deg ikke med Schoenbergs radikale innovasjon.

Så hva sier vi? Kan det finnes en maskin som, som Schoenberg, finner opp en helt ny måte å lage musikk på? Selvfølgelig kan vi tenke oss, og til og med lage, en slik maskin. Gitt en algoritme som modifiserer sine egne komposisjonsregler, kan vi enkelt produsere en maskin som lager musikk like forskjellig fra det vi nå anser som god musikk som Schoenberg gjorde da.

Men det er her det blir komplisert.

Vi regner Schoenberg som en kreativ innovatør, ikke bare fordi han klarte å skape en ny måte å komponere musikk på, men fordi folk kunne se i den en visjon om hvordan verden burde være. Schoenbergs visjon involverte modernitetens spare, rene, effektive minimalisme. Hans innovasjon var ikke bare å finne en ny algoritme for å komponere musikk; det var å finne en måte å tenke på hvilken musikk er som lar den snakke med hva som trengs nå .

Noen vil kanskje hevde at jeg har hevet listen for høyt. Argumenterer jeg, vil de spørre, at en maskin trenger en mystisk, umålelig følelse av hva som er sosialt nødvendig for å kunne regne som kreativ? Det er jeg ikke – av to grunner.

Husk først at ved å foreslå en ny, matematisk teknikk for musikalsk komposisjon, endret Schoenberg vår forståelse av hva musikk er. Det er bare kreativitet av denne tradisjon-trossende typen som krever en slags sosial sensitivitet. Hadde lytterne ikke opplevd teknikken hans som å fange antitradisjonalismen i hjertet av den radikale moderniteten som dukket opp i Wien tidlig på 1900-tallet, hadde de kanskje ikke hørt den som noe av estetisk verdi. Poenget her er at radikal kreativitet ikke er en akselerert versjon av quotidian kreativitet. Schoenbergs prestasjon er ikke en raskere eller bedre versjon av typen kreativitet demonstrert av Oscar Straus eller en annen gjennomsnittlig komponist: den er fundamentalt forskjellig.

For det andre, mitt argument er ikke at skaperens lydhørhet overfor sosial nødvendighet må være bevisst for at arbeidet skal oppfylle standardene for genialitet. Jeg argumenterer i stedet for det vi må kunne tolke arbeidet som å svare på den måten . Det ville være en feil å tolke en maskins komposisjon som en del av en slik visjon av verden. Argumentasjonen for dette er enkel.

Påstander som Kurzweil om at maskiner kan nå intelligens på menneskelig nivå, antar at å ha et menneskesinn er bare å ha en menneskelig hjerne som følger et sett med beregningsalgoritmer – et syn som kalles computationalism. Men selv om algoritmer kan ha moralske implikasjoner, er de ikke i seg selv moralske agenter. Vi kan ikke telle apen ved en skrivemaskin som ved et uhell skriver ut Othello som en stor kreativ dramatiker. Hvis det er storhet i produktet, er det bare et uhell. Vi kan kanskje se en maskins produkt som flott, men hvis vi vet at produksjonen bare er et resultat av en eller annen vilkårlig handling eller algoritmisk formalisme, kan vi ikke akseptere det som uttrykk for en visjon for menneskelig beste.

Av denne grunn, ser det ut til, kan ingenting annet enn et annet menneske med rette forstås som en genuint kreativ kunstner. Kanskje AI en dag vil fortsette utover sin beregningsmessige formalisme, men det vil kreve et sprang som er utenkelig for øyeblikket. Vi ville ikke bare se etter nye algoritmer eller prosedyrer som simulerer menneskelig aktivitet; vi ville se etter nye materialer som er grunnlaget for å være menneske.

Et molekyl-for-molekyl duplikat av et menneske ville være menneske på den relevante måten. Men vi har allerede en måte å produsere et slikt vesen på: det tar omtrent ni måneder. For øyeblikket kan en maskin bare gjøre noe mye mindre interessant enn hva en person kan gjøre. Det kan lage musikk i stil med Bach, for eksempel – kanskje til og med musikk som noen eksperter mener er bedre enn Bachs egen. Men det er bare fordi musikken kan bedømmes mot en eksisterende standard. Det en maskin ikke kan gjøre er å få til endringer i våre standarder for å bedømme kvaliteten på musikk eller for å forstå hva musikk er eller ikke er.

Dette er ikke å nekte for at kreative kunstnere bruker de verktøyene de har til rådighet, og at disse verktøyene former den typen kunst de lager. Trompeten hjalp Davis og Coleman med å realisere kreativiteten deres. Men trompeten er ikke i seg selv kreativ. Algoritmer med kunstig intelligens er mer som musikkinstrumenter enn de er som mennesker. Taryn Southern, en tidligere amerikansk Idol deltaker, ga nylig ut et album der perkusjon, melodier og akkorder ble generert algoritmisk, selv om hun skrev tekstene og gjentatte ganger finjusterte instrumenteringsalgoritmen til den ga resultatene hun ønsket. På begynnelsen av 1990-tallet gjorde David Bowie det omvendt: han skrev musikken og brukte en Mac-app kalt Verbalizer for å pseudotilfeldig rekombinere setninger til tekster. Akkurat som tidligere verktøy i musikkindustrien – fra innspillingsenheter til synthesizere til samplere og loopere – fungerer nye AI-verktøy ved å stimulere og kanalisere de kreative evnene til den menneskelige artisten (og reflektere begrensningene til disse evnene).

Spill uten grenser

Mye har blitt skrevet om prestasjonene til dyplæringssystemer som nå er de beste Go-spillerne i verden. AlphaGo og dens varianter har sterke krav på å ha skapt en helt ny måte å spille spillet på. De har lært menneskelige eksperter at åpningstrekk som lenge antas å være dårlig gjennomtenkt kan føre til seier. Programmet spiller i en stil som eksperter beskriver som rar og fremmed. De er slik jeg forestiller meg spill fra langt i fremtiden, sa Shi Yue, en topp Go-spiller, om AlphaGos spill. Algoritmen ser ut til å være genuint kreativ.

På en eller annen viktig måte er det det. Spilling er imidlertid forskjellig fra å komponere musikk eller skrive en roman: i spill er det et objektivt mål på suksess. Vi vet at vi har noe å lære av AlphaGo fordi vi ser det vinne.

Men det er også det som gjør Go til et leketøysdomene, en forenklet sak som bare sier begrensede ting om verden.

Anna Ridlers The Fall of the House of Usher (2017)
En 12-minutters animasjon basert på Watson og Webbers stumfilm fra 1928. Ridler laget stillbildene ved å bruke tre separate nevrale nett: ett trent på tegningene hennes, et andre trent på tegninger laget av resultatene fra det første nettet, og et tredje trent på tegninger laget av resultatene fra det andre. GJENNOMFØRT AV ARITST

Den mest grunnleggende typen menneskelig kreativitet endrer vår forståelse av oss selv fordi den endrer vår forståelse av hva vi regner som bra. For spillet Go, derimot, er godhetens natur rett og slett ikke tilgjengelig: en Go-strategi er god hvis og bare hvis den vinner. Menneskeliv har vanligvis ikke denne egenskapen: det er ingen objektiv mål på suksess i de høyeste prestasjonene. Absolutt ikke innen kunst, litteratur, musikk, filosofi eller politikk. Heller ikke i utviklingen av nye teknologier.

I ulike leketøysdomener kan maskiner være i stand til å lære oss om en viss svært begrenset form for kreativitet. Men domenets regler er forhåndsutformet; systemet kan lykkes bare fordi det lærer å spille godt innenfor disse begrensningene. Menneskelig kultur og menneskelig eksistens er mye mer interessant enn dette. Det finnes normer for hvordan mennesker handler, selvfølgelig. Men kreativitet i genuin forstand er evnen til å endre disse normene i et viktig menneskelig domene. Suksess i leketøysdomener er ingen indikasjon på at kreativitet av denne mer grunnleggende typen er oppnåelig.

Det er en knockout

En skeptiker kan hevde at argumentet fungerer bare fordi jeg kontrasterer spill med kunstnerisk geni. Det er andre paradigmer for kreativitet i det vitenskapelige og matematiske området. I disse rikene handler ikke spørsmålet om en visjon av verden. Det handler om hvordan ting faktisk er.

Kan en maskin komme opp med matematiske bevis så langt utenfor oss at vi rett og slett må utsette oss for dens kreative genialitet?

Nei.

Datamaskiner har allerede hjulpet med bemerkelsesverdige matematiske prestasjoner. Men deres bidrag har ikke vært spesielt kreative. Ta det første store teoremet som er bevist ved bruk av en datamaskin: firefargesteoremet, som sier at ethvert flatt kart kan fargelegges med maksimalt fire farger på en slik måte at ikke to tilstøtende land ender opp med den samme (det gjelder også for land på overflaten av en klode).

For nesten et halvt århundre siden, i 1976, publiserte Kenneth Appel og Wolfgang Haken ved University of Illinois et dataassistert bevis på denne teoremet. Datamaskinen utførte milliarder av beregninger og sjekket tusenvis av forskjellige typer kart – så mange at det var (og forblir) logistisk umulig for mennesker å verifisere at hver mulighet stemte overens med datamaskinens syn. Siden den gang har datamaskiner hjulpet med en lang rekke nye bevis.

Elektrisk vifte (2018)
Tom White bruker persepsjonsmotorer, algoritmer som destillerer data som samles inn fra tusenvis av fotografier av vanlige objekter, for å syntetisere abstrakte former. Deretter tester og avgrenser han resultatene til de er gjenkjennelige av systemet. Electric Fan, med tillatelse av Tom White, mas '98, drib.net

Men superdatamaskinen gjør ikke noe kreativt ved å sjekke et stort antall saker. I stedet gjør den noe kjedelig et stort antall ganger. Dette virker nesten som det motsatte av kreativitet. Dessuten er det så langt fra den typen forståelse Vi tror normalt at et matematisk bevis bør tilby at noen eksperter ikke anser disse dataassisterte strategiene som matematiske bevis i det hele tatt. Som Thomas Tymoczko, en matematikkfilosof, har hevdet, hvis vi ikke en gang kan bekrefte om beviset er riktig, så er alt vi egentlig gjør å stole på en potensielt feilutsatt beregningsprosess.

Selv om vi antar at vi stoler på resultatene, er dataassisterte bevis noe som ligner på analogen til dataassistert komposisjon. Hvis de gir oss et verdifullt produkt, er det mest på grunn av bidraget fra mennesket. Men noen eksperter har hevdet at kunstig intelligens vil kunne oppnå mer enn dette. La oss da anta at vi har det ultimate: en selvhjulpen maskin som beviser nye teoremer helt på egen hånd.

Kunne en maskin som denne massivt overgå oss i matematisk kreativitet, som Kurzweil og Bostrom hevder? Anta for eksempel at en kunstig intelligens kommer opp med en løsning på et ekstremt viktig og vanskelig åpent problem i matematikk.

Kapasiteten til genuin kreativitet, den typen kreativitet som oppdaterer vår forståelse av værens natur, ligger til grunn for hva det er å være menneske.

Det er to muligheter. Den første er at beviset er ekstremt smart, og når eksperter på området går over det, oppdager de at det er riktig. I dette tilfellet ville AI-en som oppdaget beviset bli applaudert. Selve maskinen kan til og med betraktes som en kreativ matematiker. Men en slik maskin ville ikke være bevis på singulariteten; det ville ikke overgå oss så kreativt at vi ikke engang kunne forstå hva det gjorde. Selv om den hadde denne typen kreativitet på menneskelig nivå, ville den ikke uunngåelig ført til det overmenneskelige rike.

Noen matematikere er som musikalske virtuoser: de utmerker seg ved sin flyt i et eksisterende formspråk. Men genier som Srinivasa Ramanujan, Emmy Noether og Alexander Grothendieck har uten tvil omformet matematikken på samme måte som Schoenberg omformet musikk. Deres prestasjoner var ikke bare bevis på langvarige hypoteser, men nye og uventede former for resonnement, som tok tak ikke bare på styrken av deres logikk, men også på deres evne til å overbevise andre matematikere om betydningen av deres innovasjoner. En ideell kunstig intelligens som kommer med et smart bevis på et problem som lenge har forvirret menneskelige matematikere, er beslektet med AlphaGo og dens varianter: imponerende, men ingenting som Schoenberg.

Det bringer oss til det andre alternativet. Anta at den beste og smarteste dyplæringsalgoritmen er løsnet, og etter en tid sier jeg at jeg har funnet et bevis på et fundamentalt nytt teorem, men det er for komplisert for selv dine beste matematikere å forstå.

Dette er faktisk ikke mulig. Et bevis som ikke engang de beste matematikerne kan forstå, teller egentlig ikke som et bevis. Å bevise noe innebærer at du beviser det noen . Akkurat som en musiker må overtale sitt publikum til å akseptere hennes estetiske konsept om hva som er god musikk, må en matematiker overtale andre matematikere om at det er gode grunner til å tro hennes visjon om sannheten. For å telle som et gyldig bevis i matematikk, må en påstand være forståelig og støttes av noen uavhengige eksperter som er i en god posisjon til å forstå den. Hvis ekspertene som burde være i stand til å forstå beviset ikke kan, så nekter samfunnet å godkjenne det som et bevis.

Av denne grunn er matematikk mer som musikk enn man kanskje hadde trodd. En maskin kunne ikke overgå oss massivt i kreativitet fordi enten dens prestasjon ville være forståelig, i så fall ville den ikke overgå oss massivt, eller den ville ikke være forståelig, i så fall kunne vi ikke regne den som noe kreativt fremskritt i det hele tatt.

Betrakterens øye

Ingeniørvitenskap og anvendt vitenskap er på en måte et sted mellom disse eksemplene. Det er noe som et objektivt, eksternt mål på suksess. Du kan ikke vinne ved brobygging eller medisin slik du kan i sjakk, men man kan se om broen faller ned eller viruset er eliminert. Disse objektive kriteriene kommer først inn når domenet er ganske godt spesifisert: å komme opp med sterke, lette materialer, for eksempel, eller medisiner som bekjemper spesielle sykdommer. En kunstig intelligens kan hjelpe til med å oppdage medisiner ved å faktisk gjøre det samme som kunstig intelligensen som komponerte det som hørtes ut som en godt utført Bach-kantate eller kom opp med en strålende Go-strategi. Som et mikroskop, teleskop eller kalkulator, er en slik kunstig intelligens riktig forstått som et verktøy som muliggjør menneskelig oppdagelse – ikke som en autonom kreativ agent.

Det er verdt å tenke på teorien om spesiell relativitet her. Albert Einstein huskes som oppdageren av relativitet – men ikke fordi han var den første som kom opp med ligninger som bedre beskriver strukturen til rom og tid. George Fitzgerald, Hendrik Lorentz og Henri Poincaré, blant andre, hadde skrevet ned disse ligningene før Einstein. Han er hyllet som teoriens oppdager fordi han hadde en original, bemerkelsesverdig og sann forståelse av likningene betydde og kunne formidle den forståelsen til andre.

For at en maskin skal gjøre fysikk som på noen måte kan sammenlignes med Einsteins kreativitet, må den være i stand til å overtale andre fysikere om verdien av ideene sine minst like godt som han gjorde. Det vil si at vi må kunne akseptere forslagene som tar sikte på kommunisere sin egen gyldighet til oss . Skulle en slik maskin noen gang bli til, som i lignelsen om Pinocchio, ville vi måtte behandle den som et menneske. Det betyr blant annet at vi ikke bare må tilskrive den intelligens, men uansett verdighet og moralsk verdi som er passende for mennesker også. Vi er langt unna dette scenariet, virker det for meg, og det er ingen grunn til å tro at det nåværende computationalistiske paradigmet for kunstig intelligens – i sin dyplæringsform eller noen annen – noen gang vil flytte oss nærmere det.

Kreativitet er et av menneskets kjennetegn. Kapasiteten til ekte kreativitet, den typen kreativitet som oppdaterer vår forståelse av vesenets natur, som endrer måten vi forstår hva det er å være vakker eller god eller sann – den kapasiteten ligger til grunn for hva det er å være menneske . Men denne typen kreativitet avhenger av at vi verdsetter den, og bryr oss om den, som sådan. Som forfatteren Brian Christian har påpekt, begynner mennesker å oppføre seg mindre som vesener som verdsetter kreativitet som en av våre høyeste muligheter, og mer som maskiner selv.

Hvor mange mennesker har i dag jobber som krever at de følger et forhåndsbestemt manus for samtalene sine? Hvor lite av det vi kjenner som ekte, autentisk, kreativ og åpen menneskelig samtale er igjen i denne utryddede charaden? Hvor mye er det i stedet for den typen regelfølge som en maskin kan gjøre? Og hvor mange av oss, i den grad vi lar oss bli dratt inn i denne typen manusforestillinger, blir også ryddet ut? Hvor mye av dagen vår lar vi bli fylt med effektivt maskinlignende aktiviteter – fylle ut databaserte skjemaer og spørreskjemaer, svare på klikkagn som fungerer på våre basale, mest dyrelignende impulser, spille spill som er designet for å optimere våre vanedannende respons?

Vi står i fare for denne forvirringen også i noen av de dypeste domenene for menneskelig prestasjon. Hvis vi tillater oss å si at maskinbevis vi ikke kan forstå er ekte bevis, for eksempel å avstå sosial autoritet til maskiner, vil vi behandle prestasjonene til matematikk som om de ikke krever noen menneskelig forståelse i det hele tatt. Vi vil ta en av våre høyeste former for kreativitet og intelligens og redusere den til en enkelt bit informasjon: ja eller nei.

Slakterens sønn (2018)
Mario Klingemann brukte to GAN-er, en trent på et datasett med menneskelige positurer og en trent på pornografi, for å gjengi tusenvis av sammensatte bilder. Etter å ha evaluert hver for positur og detaljer, valgte han en for å foredle til det ferdige arbeidet. GJENNOMFØRING AV KUNSTNEREN

Selv om vi hadde den informasjonen, ville den vært av liten verdi for oss uten en viss forståelse av årsakene til den. Vi må ikke miste synet av resonnementets vesentlige karakter, som er grunnlaget for hva matematikk er.

Slik også med kunst og musikk og filosofi og litteratur. Hvis vi tillater oss å skli på denne måten, å behandle maskinkreativitet som en erstatning for vår egen, så vil maskinene virkelig komme til å virke ubegripelig overlegne oss. Men det er fordi vi vil ha mistet oversikten over den grunnleggende rollen som kreativitet spiller for å være menneske.

Sean Dorrance Kelly er filosofiprofessor ved Harvard og medforfatter av New York Times bestselgende bok Alle ting skinner .

gjemme seg