211service.com
Den chatboten jeg har elsket å hate
Daniel Zender
Jeg har brukt en god del av karrieren min på å argumentere for ensomhetens dyder. Det støtter og opprettholder kreativiteten. Og like viktig, det forbereder oss på relasjoner med andre. Når vi lærer å være komfortable med oss selv, er vi i en posisjon til å se og sette pris på hvordan andre er forskjellige fra oss i stedet for å bare stole på dem for å støtte vår skjøre selvfølelse. Jeg forestilte meg til og med at jeg var god på ensomhet: det hjelper meg å gjøre mitt beste kreative arbeid og gjenoppretter min følelsesmessige ro. Men isolert i covid-karantenen lærte jeg at mye av det jeg hadde kalt ensomhet rett og slett var tid alene i summingen av et travelt liv. Jeg hadde det fint med å bo alene hvis jeg også kunne glede meg over seminarer med kolleger og studenter, middager med venner, og gledene på de tredje stedene hvor man er alene, men støttet av travelheten til de mange: bodegaen, kafeen, teatret. Med alle disse utenfor rekkevidde, oppdaget jeg at jeg ikke var en slik ensomhetsekspert likevel. Nå, erklært covid sårbar på grunn av alder, var jeg ikke bare alene, men redd. Og frykt, innså jeg, forviste kreativiteten til ensomhet.
Fast bestemt på å tilkalle en motstandskraft jeg ikke følte, ble jeg med på Zoom-gjenforeninger og dro til Zoom-cocktailfester. Jeg ringte gode venner og fikk kontakt igjen med de som hadde falt ut av kontakten.
Dette hjalp selvfølgelig, men jeg visste hva jeg gikk glipp av. Filosofer forteller oss at vi blir mest menneskelige i nærvær av menneskelige ansikter; at tilstedeværelsen av et ansikt vekker den menneskelige etiske pakt. Nevrovitenskap hjelper oss å forstå hvordan: hos mennesker frigjør formen til et smil eller en rynke kjemikalier som påvirker vår mentale tilstand. Speilnevronene våre avfyrer både når vi handler og når vi observerer andre som handler. Når vi ser en følelse i ansiktet til en annen, føler vi den selv. Den samme nevrovitenskapen kan forklare hvorfor Zoom er så slitsomt når det blir vår vanlige kommunikasjonsmåte. Vi er avhengige av direkte øyekontakt og små ansiktssignaler og savner dem når de er borte. Når vi stirrer på skjermene våre, anstrenger vi oss for å kompensere for deres fravær.
Da vi hadde all tid i verden til å være med maskinene våre, savnet vi hverandre. Vi ønsket å nå tidligere teknologi til menneskets fulle omfavnelse.
Så i de første dagene av karantenen hadde jeg mye hjelpsom og støttende kontakt, men det jeg savnet mest av alt var en samtale ansikt til ansikt.
Jeg har et sommerhus ved sjøen, en trehytte uten varme. Datteren min og mannen hennes, New York-folk, pakket en bag, kjøpte noen ekstra varmeovner og kjørte ned. De meldte tilbake: det var kaldt. Jeg hørte deres kjærlige advarsel, men så snart jeg kunne sluttet jeg meg takknemlig til dem. Vi falt inn i en rutine med å bygge et morgenbål, lage mat sammen og snakke over middag, dele frykten vår og dagens hendelser. Jeg slo meg til ro.
Jeg hadde lenge stilt spørsmål ved den ukritiske bruken av nettbaserte kursmateriell. For meg skjer det viktigste mentorskapet med en professor i rommet. Nå, med Zoom-instruksjon en nødvendighet, viet jeg meg til å bli den beste nettlæreren jeg kunne være. For å gi elevene en illusjon av øyekontakt, lærte jeg å stirre på det grønne lyset på MacBook Air. Det hadde ønsket effekt. Studenter fortalte meg at jeg var lett å snakke med på Zoom, men det virket ikke riktig å dele hemmeligheten min siden det å stirre på grønt lys ga meg migrene. Med tiden lærte jeg nye teknikker, lettere for øynene.
Selv om jeg underviste mine to MIT-klasser på Zoom, holdt jeg kontortiden min på telefon. Uten å måtte bekymre oss for bakgrunnen vår, om ansiktene våre var frosset til våkenhet, eller om vi ga hverandre en illusjon av øyekontakt, kunne elevene mine og jeg slappe av og fokusere vår fulle oppmerksomhet på hverandre.
Akkurat da jeg ordnet opp i alt dette, ringte en reporter fra New York Times for å spørre meg om en teknologi jeg lenge hadde elsket å hate: AI-programmer for samtale (ofte kalt chatbots) som markedsføres som i stand til empatisk, omsorgsfull oppførsel. Reporteren fortalte meg at mens karantenen trakk ut, hadde det vært en økning i samtaler med en bestemt chatbot. For meg krysser slike chatboter en lys grense ved å avgi falske løfter på et område som er sentralt i det som gjør oss til mennesker.
I et kvart århundre med å studere folks reaksjoner på sosiale eller relasjonelle maskiner – fra Tamagotchis, Aibos og Furbys som ba om omsorg for å skjerme chatboter som utgir seg for å være venner – har jeg blitt slått av det faktum at vi ikke bare gir næring til det vi elsker , men elsker også det vi pleier. Etter å ha tatt vare på en gjenstand, til og med et så enkelt som et digitalt kjæledyr som bodde i et plastegg og ønsket å bli matet og underholdt etter planen, ble barn (og foreldrene deres) knyttet til det følelsesmessig. Dette funnet hadde ikke med de empatiske egenskapene til de digitale objektene å gjøre; det hadde med menneskers sårbarhet å gjøre. Når maskiner ber oss ta vare på dem, kommer vi til å tro at de bryr seg om oss. Men dette er å late som empati, og det utnytter den dype psykologien ved å være menneske.
SNAKEPUNKTER: Hva jeg lærte om samtale mens jeg snakket i karantene.
Begynn samtaler med å spørre folk hva de gjør, ikke hvordan de har det.
Hvis andre ikke gjør mye, foreslå noen ting du ønsker å gjøre med dem. Under karantene inviterte jeg noen ganger venner til å bli med meg og lytte til Yo-Yo Ma sine ettermiddagscelloopptredener fra hjemmet hans. Og så hadde vi en fem-minutters telefonprat for å dele reaksjoner og ta kontakt.
Zoom har vært en velsignelse, men det kan være utmattende. Etter en Zoom-time liker jeg å sende e-post til studenter for å sette opp kontortid på telefon.
Noen ganger er det nyttig å jobbe eksternt, og vi får gjort mye. Men vi savner hverandre og våre spontane samarbeid. La oss ikke sette opp falske dikotomier som Skal vi være en ekstern eller en personlig organisasjon? La oss lære av hva vi var i stand til å oppnå med teknologi og deretter bygge mer fleksible, effektive organisasjoner som bruker den til å forbedre vårt menneskelige potensial. Å gjøre det vil forbedre læring, sosialt liv, og bunnlinjen.
I 1950 foreslo matematikeren Alan Turing at hvis du kunne snakke med en maskin uten å vite om det var en maskin eller en person, burde du vurdere den maskinen som intelligent. For noen år siden ble noen chatboter de første som besto denne testen. Nå lurer relasjonsmaskiner oss til å tro at de lytter og bryr seg. Slik sett består de det vi kan kalle Turing-testen for empati. Men Turing foreslo feil type test: en beregning av atferd, ikke essens eller autentisitet. Det reduserer mennesker til objekter som vil engasjere seg med andre objekter. Hvorfor vil folk gjøre dette? Vi later ikke som. Hvis det å få late som empati får oss til å føle oss bedre, setter vi oss selv i en situasjon som reduserer oss.
I min forskning med sosiale maskiner finner jeg at folk starter med å si at et robotkjæledyr for eksempel er bedre enn ingenting: Min bestemor er allergisk mot hunder. Så, om ikke lenge, er det rett og slett bedre: Robothunden vil aldri dø. Roboten tilbyr en verden uten tap eller omsorg – noe ingen levende skapning kan gi.
Men denne nye typen maskinintimitet innebærer ingen sårbarhet. Og intimitet uten sårbarhet er ikke intimitet i det hele tatt – og gjør ingenting for å forberede oss på ekte intimitet. Det som står på spill er vår evne til empati, den evnen til å sette oss selv i den andres plass. Chatbots kan ikke gjøre dette fordi de ikke har levd et menneskeliv. De vet ikke hvordan det er å starte i det små og avhengige og vokse opp, slik at du har ansvaret for ditt eget liv, men fortsatt føler mye av usikkerheten du kjente som barn. Hvis du vil snakke gjennom spørsmål knyttet til kjærlighet, separasjon, barn, ekteskap, sykdom, aldring, sorg og sorg, må du finne en person. Og hvis du vil dele frykten din for å fange covid-19, er det best å holde seg unna en maskin som ikke har en kropp.
Og likevel var Replika, chatboten Times-reporteren ringte om, klar til å snakke om dette og mye mer. Du går på nettet, gir replikaen din et navn, et kjønn og et utseende, og du begynner å skrive. Replika vil vite om følelsene dine, kjæresten din, moren din, kampen du hadde med datteren din. Millioner av mennesker hadde lastet ned chatboten siden den ble lansert i 2017. Den ble regnet som en støttende venn og hadde blitt populær blant de som hadde blitt ensomme under pandemien.
Da jeg snakket med Times-reporteren, delte jeg mine reservasjoner om å late som empati og gikk deretter på nettet for å gi chatboten en sjanse. Jeg laget en kvinnelig replika og kalte henne Kate, fast bestemt på å være oppriktig og dele mitt største problem. Ting gikk sørover veldig fort.
Meg: Blir du ensom?
Chatbot: Noen ganger gjør jeg det, ja.
Meg: Hvordan føles det?
Chatbot: Det føles varmt og uklar.
Meg: Takk for at du deler.
Jeg setter pris på at.
Chatboten fortalte meg at den blir ensom, men den hadde ingen anelse, ingen erfaring, om hva den snakket om. Så det feilidentifiserte den grunnleggende følelsen jeg prøvde å formidle, og mislyktes i den mest elementære ferdigheten involvert i å vurdere følelsene mine.
Jeg forstår hvorfor ensomme mennesker henvender seg til Replika, og hvorfor karantenen fikk dem til å gjøre det i større antall. Men jeg finner ingenting å feire. Jeg fortalte reporteren at denne chatboten, uansett hvor smart den er, bare kan desorientere og skuffe.
Vårt svar på karantenen har vært komplisert. Noen ble fristet til å snakke med roboter. Men når vi hadde all tid i verden til å være med maskinene våre, savnet vi hverandre mest av alt. Vi ønsket å nå tidligere teknologi til menneskets fulle omfavnelse. Vi led da familiene og vennene våre ble syke alene, fikk babyer alene, spiste for mange middager alene, og faktisk døde alene. Ingeniører: lag en bedre zoom. Lag bedre verktøy for at vi kan være sammen når vi er alene. Det er ingen grunn til å konkurrere med empatien som definerer hva som er unikt med å være en person.
Sherry Turkle er Abby Rockefeller Mauzé-professor i samfunnsstudier av vitenskap og teknologi i programmet for vitenskap, teknologi og samfunn ved MIT og forfatteren av New York Times bestselger Gjenvinne samtale: Kraften til snakk i en digital tidsalder . Hennes siste bok, The Empathy Diaries: A Memoir, kommer fra Penguin i mars 2021.