Hvordan vi føler om roboter som føles

Ettersom roboter blir smarte nok til å oppdage følelsene våre og reagere på riktig måte, kan de ha noe sånt som egne følelser. Men det vil ikke nødvendigvis gjøre dem mer som mennesker. Av

• Louisa Hall arkivside

24. oktober 2017

Delcan & Company + Jenue

Octavia, en menneskelig robot designet for å bekjempe branner på marinens skip, har mestret et imponerende utvalg av ansiktsuttrykk.

Når hun er slått av, ser hun ut som en dukke i menneskestørrelse. Hun har et glatt hvitt ansikt med en snudd nese. Plastøyenbrynene hennes sitter jevnt på pannen hennes som to små kantrede kanoer.

Denne historien var en del av november 2017-utgaven vår

• Se resten av saken
• Abonnere

Når hun er på, åpner øyelokkene seg og hun begynner å vise følelser. Hun kan nikke med hodet i en gest av forståelse; hun kan utvide øynene og løfte begge øyenbrynene i et overbevisende skinn av alarm; eller hun kan bøye hodet til den ene siden og skru opp munnen, og gjenskape menneskelig forvirring. For en komisk effekt kan hun til og med bue det ene øyenbrynet og begrense det motsatte øyet mens hun banker metallfingrene sammen, som om hun planlegger robotiske hevnaksjoner.

Men Octavias utvalg av ansiktsuttrykk er ikke hennes mest imponerende egenskap. Det som er utrolig er at hennes emosjonelle påvirkning er en nøyaktig respons på hennes interaksjoner med mennesker. Hun ser fornøyd ut, for eksempel når hun gjenkjenner en av lagkameratene. Hun ser overrasket ut når en lagkamerat gir henne en kommando hun ikke hadde forventet. Hun ser forvirret ut hvis noen sier noe hun ikke forstår.

Hun kan vise passende emosjonell påvirkning fordi hun behandler enorme mengder informasjon om miljøet hennes. Hun kan se, høre og ta på. Hun tar visuell oversikt over omgivelsene sine ved å bruke de to kameraene som er innebygd i øynene hennes og analyserer egenskaper som ansiktstrekk, hudfarge og klær. Hun kan oppdage folks stemmer ved å bruke fire mikrofoner og et stemmegjenkjenningsprogram kalt Sphinx. Hun kan identifisere 25 forskjellige gjenstander ved berøring, etter å ha lært dem ved å bruke fingrene til å fysisk manipulere dem til forskjellige mulige posisjoner og former. Til sammen utgjør disse perseptuelle ferdighetene en del av hennes legemliggjorte kognitive arkitektur, som lar henne – ifølge hennes skapere ved Navy Center for Applied Research in Artificial Intelligence – tenke og handle på måter som ligner på mennesker.

Det er en spennende påstand, men den er ikke nødvendigvis sjokkerende. Vi er vant til ideen om maskiner som fungerer som mennesker. Automater laget i Frankrike på 1700-tallet kunne danse, holde tid og spille trommer, dulcimer eller piano. Som barn som vokste opp på 1980-tallet, begjærte jeg av en eller annen grunn en dukke som ble annonsert for evnen til å tisse i buksene hennes.

Octavia er i stand til å formidle uttrykk, men det viser seg at ansiktsuttrykk ikke er nødvendig for at folk skal føle seg følelsesmessig knyttet til robotene sine. U.S. Naval Research Laboratory

Vi er til og med vant til ideen om maskiner som tenker på måter som minner oss om mennesker. Mange av våre lenge kjære høyvannsmerker for menneskelig erkjennelse – evnen til å slå en stormester i sjakk, for eksempel, eller å komponere en metrisk nøyaktig sonett – har blitt møtt og overgått av datamaskiner.

Octavias handlinger – den fryktelige utvidelsen av øynene, den forvirrede furen på plastøyenbrynene hennes – ser ut til å gå et skritt videre. De antyder at i tillegg til å tenke slik vi tenker, føler hun også menneskelige følelser.

Det er egentlig ikke tilfelle: Octavias emosjonelle påvirkning, ifølge Gregory Trafton, som leder Intelligent Systems Section ved Navy AI-senteret, er bare ment å demonstrere hva slags tenkning hun gjør og gjøre det lettere for folk å samhandle med henne. Men det er ikke alltid mulig å trekke en grense mellom tenkning og følelse. Som Trafton erkjenner, er det tydelig at folks tanker og følelser er forskjellige, men påvirker hverandre. Og hvis, som han sier, følelser påvirker kognisjon og kognisjon påvirker følelser, peker Octavias evne til å tenke, resonnere og oppfatte på noen av de større spørsmålene som vil følge fremveksten av intelligente maskiner. På hvilket tidspunkt vil maskiner være smarte nok til å føle noe? Og hvordan skulle vi egentlig vite det?

Personlige følelser

Octavia er programmert med teori om sinn, noe som betyr at hun kan forutse de mentale tilstandene til sine menneskelige lagkamerater. Hun forstår at folk har potensielt motstridende tro eller intensjoner. Når Octavia får en kommando som avviker fra forventningene hennes, kjører hun simuleringer for å finne ut hva lagkameraten som ga kommandoen kan tenke, og hvorfor den personen tror dette uventede målet er gyldig. Hun gjør dette ved å gå gjennom sine egne modeller av verden, men endre dem litt, i håp om å finne en som fører til det uttalte målet. Når hun vipper hodet til den ene siden og rynker øyenbrynene, er det for å signalisere at hun kjører disse simuleringene, og prøver å bedre forstå lagkameratens tro.

Vi vet fortsatt ikke alt som er involvert i å føle følelser.

Octavia er ikke programmert med emosjonelle modeller. Hennes teori om sinnet er et kognitivt mønster. Men det fungerer mye som empati, den mest verdsatte av alle menneskelige følelser.

Andre robotprodusenter skjørter spørsmålet om maskinenes emosjonelle intelligens. SoftBank Robotics, for eksempel, som selger Pepper – en hyggelig og sympatisk humanoid robot bygget for å tjene som en menneskelig følgesvenn – hevder at Pepper kan oppfatte menneskelige følelser, og legger til at Pepper elsker å samhandle med deg, Pepper ønsker å lære mer om smaken din, dine vaner, og rett og slett hvem du er. Men selv om Pepper kan ha evnen til å gjenkjenne menneskelige følelser, og selv om Pepper kan være i stand til å svare med glade smil eller uttrykk for tristhet, er det ingen som påstår at Pepper føles faktisk slike følelser.

Hva skal til for en robotskaper å hevde det? For det første vet vi fortsatt ikke alt som er involvert i å føle følelser.

Ting gjennomgått

• Kultur og menneske-robotinteraksjon i militariserte rom: En krigshistorie

  Av Julie Carpenter
  Routledge, 2016

• Hvordan følelser blir til: Hjernens hemmelige liv

  Av Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• U.S. Army Robotic and Autonomous Systems Strategy

  mars 2017

De siste årene har revolusjoner innen psykologi og nevrovitenskap radikalt omdefinert selve begrepet følelser, noe som gjør det enda vanskeligere å sette fingeren på og beskrive. Ifølge forskere som psykologen Lisa Feldman Barrett, professor ved Northeastern University, blir det stadig tydeligere at følelsene våre varierer mye avhengig av kulturen vi er oppvokst i. De varierer til og med mye innen et individ i forskjellige situasjoner. Faktisk, selv om vi deler de generelle følelsene som utgjør det som er kjent som affekt (glede, misnøye, opphisselse og ro) med de fleste andre mennesker og mange andre dyr, varierer våre mer akutte og spesifikke følelser mer enn de følger bestemte normer. Frykt, for eksempel, er et kulturelt vedtatt konsept, men det utspiller seg i kroppene våre på utallige måter. Den er inspirert av ulike stimuli, den manifesterer seg annerledes i hjernen vår, og den kommer til uttrykk på forskjellige måter i ansiktene våre. Det er ikke noe enkelt fryktsenter eller fryktkrets i hjernen, akkurat som det ikke er noe pålitelig, fryktelig ansiktsuttrykk: vi bearbeider og viser alle frykten vår på radikalt forskjellige måter, avhengig av situasjonen – måter som vi gjennom interaksjoner med andre mennesker lærer å identifisere eller merke som frykt.

Når vi snakker om frykt, så snakker vi om et generalisert paraplykonsept i stedet for noe som kommer ut av en bestemt del av hjernen. Som Barrett uttrykker det, konstruerer vi følelser på stedet gjennom et samspill av kroppslige systemer. Så hvordan kan vi forvente at programmerere nøyaktig modellerer menneskelige følelser i roboter?

Gode ​​soldater

Det er også moralske spørsmål rundt programmering av roboter for å ha følelser. Disse problemene er spesielt godt demonstrert av militærroboter som, i likhet med Octavia, er designet for å bli sendt inn i skremmende, smertefulle eller potensielt dødelige situasjoner i stedet for mindre uunnværlige menneskelige lagkamerater.

På en konferanse i 2017 sponset av Hærens noe alarmerende tittel Mad Scientist Initiative, spesifiserte generalløytnant Kevin Mangum, nestkommanderende for Army Training and Doctrine Command, at slike roboter bør og vil være autonome. Når vi ser på vår stadig mer komplekse verden, er det ingen tvil om at robotikk, autonome systemer og kunstig intelligens vil spille en rolle, sa Mangum. 2017 Army Robotic and Autonomous Systems Strategy forutsier full integrering av autonome systemer innen 2040, og erstatter dagens bombeavhendingsroboter og andre maskiner som fjernstyres av mennesker.

En sivil trener viser fallskjermjegere hvordan de setter opp skjermen for en PackBot slagmarksrobot. Så lite uttrykkelige som disse robotene kan virke, utvikler soldater i felten bånd med dem, og ser på dem som en del av teamet. Michael J. McLeod

Når disse robotene kan handle og tenke på egenhånd, bør de, i likhet med Octavia, programmeres med skinnet av menneskelige følelser? Skal de programmeres til faktisk ha menneskelige følelser? Hvis vi sender dem ut i kamp, ​​bør de ikke bare tenke, men føle sammen med sine menneskelige følgesvenner?

På den ene siden, selvfølgelig ikke: Hvis vi designer roboter med det uttrykkelige målet om å utsette dem for fare, ville det være sadistisk å gi dem kapasitet til å lide av terror, traumer eller smerte.

På den annen side, men hvis følelser påvirker intelligens og omvendt, kan vi være sikre på at en robot uten følelser vil være en god soldat? Hva om mangelen på følelser fører til dumme avgjørelser, unødvendige risikoer eller overdrevent grusom gjengjeldelse? Kan en robot uten følelser bestemme at den intelligente avgjørelsen ville være å begå det en menneskelig soldat ville følt var en krigsforbrytelse? Eller ville en robot uten tilgang til frykt eller sinne ta bedre avgjørelser enn et menneske ville gjort i den samme skremmende og sinte situasjonen?

Og så er det muligheten for at hvis følelser og intelligens er uløselig knyttet sammen, er det ikke noe slikt som en intelligent robot uten følelser, i så fall er spørsmålet om hvor mye følelser en autonom robot skal ha, på noen måter ute av kontroll av programmereren som arbeider med intelligens.

Følelsesmessige tilknytninger

Det er også spørsmålet om hvordan disse robotene kan påvirke sine menneskelige lagkamerater.

I 2010 hadde den amerikanske hæren begynt å distribuere en flåte på rundt 3000 små taktiske roboter, hovedsakelig som svar på den økende bruken av improviserte eksplosive innretninger i krigføring. I stedet for menneskelige soldater triller disse robotene ned utsatte veier, inn i mørke huler og gjennom trange døråpninger for å oppdage og deaktivere uforutsigbare IED-er.

Soldater har rapportert at de føler seg fortvilet når slike kampfeller som Talon, vist her, blir ødelagt i tjenesten. Qinetiq

Denne flåten består hovedsakelig av iRobots PackBot og QinetiQ North Americas Talon, roboter som ikke er spesielt avanserte. De ser litt ut som WALL-E, deres boksede metallkropper balansert på gummitrinn som lar dem gjøre en ganske god jobb med å krysse steinete terreng, gå i trapper og komme seg nedover mørke ganger. De har leddarmer utstyrt med videokameraer for å kartlegge omgivelsene, og klør for å fikle med eksplosive enheter.

De er nyttige verktøy, men de er ikke akkurat autonome. De fjernstyres, som lekebiler, av soldater som holder enheter som noen ganger er utstyrt med joystick. Som et eksempel på kunstig intelligens er ikke PackBot så mye mer avansert enn iRobots mer kjente produkt, Roombaen som støvsuger under lenestolen din.

Og selv nå, til tross for den uuttrykkelige naturen til disse robotene, utvikler menneskelige soldater bånd med dem. Julie Carpenter demonstrerer inn Kultur og menneske-robotinteraksjon i militariserte rom at disse forholdene er kompliserte, både givende og smertefulle.

Da Carpenter spurte en tjenestemann om å beskrive følelsene sine for en robot som hadde blitt ødelagt, svarte han:

Jeg mener, det var tydeligvis ikke … i nærheten av å være på samme nivå som, du vet, en kompis av deg som ble såret eller så et medlem bli tatt ut eller noe sånt. Men det var fortsatt et visst tap, en følelse av tap fra noe som skjedde med en av robotene dine.

En annen tjenestemann sammenlignet roboten sin med en hund:

Jeg mener, du tok deg av den tingen like godt som du gjorde teammedlemmene dine. Og du sørget for at det ble ryddet opp, og sørget for at batteriene alltid var ladet. Og hvis du ikke brukte den, var den gjemt så godt som mulig fordi du visste at om noe skjedde med roboten, ja da var det din tur, og det er ingen som liker å tenke på det.

Enda en mann forklarte hvorfor lagkameraten hans ga roboten deres et menneskelig navn:

Mot slutten av turen tilbrakte vi mer tid utenfor kabelen og sov i lastebilene våre enn vi var inne. Vi sov inne i lastebilene våre utenfor kabelen i godt fem til seks dager i uken, og det var tre menn i lastebilen, du vet, en som lå på tvers av forsetene; den andre legger seg på tvers av tårnet. Og vi kan ikke laste ned sensitive gjenstander og la dem stå utenfor lastebilen. Alt må låses, så TALON vår var i midtgangen på lastebilen vår og juniorgutten vår kalte den Danielle, så han skulle ha en kvinne å kose med om natten.

'Min vakre robot ble drept ...' var faktisk uttalelsen jeg ga til teamlederen min.

Disse mennene understreker alle at robotene er verktøy, ikke levende skapninger med følelser. Likevel gir de robotene sine menneskelige navn og legger dem trygt inn om natten. De tuller med den impulsen, men det er en litt urovekkende dissonans i vitsene. Tjenestemennene Carpenter intervjuet ser ut til å føle seg litt fastlåst mellom to følelser: de forstår det absurde i å ta vare på en følelsesløs robot som er designet for å være brukbar, men de opplever likevel fristelsen til å bry seg, i det minste litt.

Da Carpenter hadde publisert de første intervjuene sine, mottok hun mer kommunikasjon fra menn og kvinner i militæret som hadde utviklet ekte bånd med robotene sine. En tidligere eksplosiv ammunisjonstekniker skrev:

Siden jeg er en EOD-tekniker på åtte år og tre distribusjoner, kan jeg fortelle deg at jeg fant forskningen din ekstremt interessant. Jeg kan være helt enig med de andre teknologiene du intervjuet i å si at robotene er verktøy og som sådan vil jeg sende dem inn i enhver situasjon uavhengig av mulig fare.

Men under et oppdrag i Irak i 2006 mistet jeg en robot som jeg hadde kalt Stacy 4 (etter min kone som også er EOD-tekniker). Hun var en utmerket robot som aldri ga meg noen problemer, og alltid presterte feilfritt. Stacy 4 ble fullstendig ødelagt og jeg klarte bare å gjenopprette svært små deler av chassiset. Umiddelbart etter eksplosjonen som ødela Stacy 4, kan jeg fortsatt huske følelsen av sinne, og mye av det. Min vakre robot ble drept … var faktisk uttalelsen jeg ga til teamlederen min. Etter at oppdraget var fullført og jeg hadde fått tilbake så mye av roboten jeg kunne, gråt jeg over tapet av henne. Jeg følte det som om jeg hadde mistet et kjært familiemedlem. Jeg ringte kona mi den kvelden og fortalte henne om det også. Jeg vet det høres dumt ut, men jeg hater fortsatt å tenke på det. Jeg vet at robotene vi bruker bare er maskiner, og jeg ville tatt de samme avgjørelsene igjen, selv om jeg visste resultatet.

Jeg verdsetter menneskeliv. Jeg setter pris på forholdet jeg har med ekte mennesker. Men jeg kan fortelle deg at jeg absolutt savner Stacy 4, hun var en god robot.

Hvis dette er den typen vitnesbyrd som kan samles inn fra soldater som samhandler med ansiktsløse maskiner som PackBots og Talons, hva vil du høre fra soldater utplassert med roboter som Octavia, som ser og hører og berører og kan forutse hennes menneskelige lagkameraters sinnstilstander ?

I populære samtaler om etikken i å gi følelser til roboter, har vi en tendens til å fokusere på effektene av slik teknologisk innovasjon på selve robotene. Filmer og TV-serier fra Blade Runner til Westworld ivareta traumer som ville bli påført følelsesroboter av mennesker som bruker dem til underholdning. Men det er også det motsatte å vurdere: traumet påført menneskene som knytter bånd til roboter og deretter sender dem til visse dødsfall.

Relatert historie

Relatert historie En ny trend innen kunstig intelligens er å få datamaskiner til å oppdage hvordan vi har det og reagere deretter. De kan til og med hjelpe oss å utvikle mer medfølelse for hverandre.

Det som kompliserer alt dette ytterligere er at hvis en robot som Octavia ender opp med å føle menneskelige følelser, vil disse følelsene ikke bare være et resultat av den kognitive arkitekturen hun har gitt til å begynne med. Hvis de ligner på følelsene våre, vil de utvikle seg i sammenheng med hennes forhold til lagkameratene, hennes plass i verden hun bor i.

Hvis det unike robotlivet hennes, for eksempel, går til å bli sendt i brann av hennes menneskelige følgesvenner, eller å trille alene nedover ørkenveier med eksplosive enheter, vil følelsene hennes være annerledes enn de som oppleves av en mer skjermet robot, eller en mer skjermet robot. menneskelig. Uavhengig av de gjenkjennelige følelsesmessige uttrykkene hun gir, hvis hun tilbringer livet i umenneskelige situasjoner, er følelsene hennes kanskje ikke gjenkjennelig menneskelige.

Louisa Hall, en forfatter i New York, er forfatteren av Snakke , en roman fra 2015 om kunstig intelligens.

gjemme seg