Nevropolitiske konsulenter som hacker velgernes hjerner

Bruce Peterson

Maria Pocovi skyver den bærbare datamaskinen over til meg med webkameraet slått på. Ansiktet mitt stirrer tilbake på meg, dekket med et rutenett av hvite linjer som kartlegger konturene av uttrykket mitt. Ved siden av er et skyggelagt vindu som sporer seks kjernefølelser: lykke, overraskelse, avsky, frykt, sinne og tristhet. Hver gang uttrykket mitt skifter, svinger en målelinje ved siden av hver følelse, som om følelsene mine var et lydsignal. Etter noen sekunder blinker et fet grønt ord i vinduet: ANGST. Når jeg ser tilbake på Pocovi, får jeg følelsen av at hun vet nøyaktig hva jeg tenker med ett blikk.

Petite med et innbydende smil, Pocovi, grunnleggeren av Emotion Research Lab i Valencia, Spania, er en global gründer par excellence. Når hun kommer til Silicon Valley, leier hun ikke engang et kontor – hun tar bare et bord her på Plug and Play-arbeidsplassen i Sunnyvale, California. Men teknologien hun viser meg er i forkant av en stille politisk revolusjon. Kampanjer over hele verden bruker Emotion Research Lab og andre markedsførere som er bevandret i nevrovitenskap for å trenge gjennom velgernes uuttalte følelser.

Denne historien var en del av utgaven for september 2018

• Se resten av saken
• Abonnere

Denne våren var det et utbredt ramaskrik da amerikanske Facebook-brukere fant ut at informasjon de hadde lagt ut på det sosiale nettverket – inkludert deres likes, interesser og politiske preferanser – var blitt utvunnet av det velgermålrettede firmaet Cambridge Analytica. Selv om det ikke er klart hvor effektive de var, kan selskapets algoritmer ha bidratt til Donald Trumps seier bakfra i 2016.

Men for ambisiøse dataforskere som Pocovi, som har jobbet med store politiske partier i Latin-Amerika i de siste valget, lå Cambridge Analytica, som la ned i mai, bak kurven. Der den målte folks mottakelighet for kampanjemeldinger ved å analysere data de skrev inn på Facebook, sier dagens nevropolitiske konsulenter at de kan feste velgernes følelser ved å observere deres spontane svar: en elektrisk impuls fra en viktig hjerneregion, en grimase på et brøkdelssekund eller et øyeblikks nøling mens de grubler på et spørsmål. Ekspertene tar sikte på å forstå velgernes hensikt fra signaler de ikke er klar over at de produserer. En kandidats rådgivere kan deretter forsøke å bruke de biologiske dataene til å påvirke stemmeavgjørelser.

Biometriske utøvere sier at de kan benytte seg av sannheter som velgerne ikke er i stand til å uttrykke. Elizabeth Svoboda

Politiske innsidere sier at kampanjer kjøper seg inn i dette prospektet i økende antall, selv om de er motvillige til å erkjenne det. Det er sjelden at en kampanje innrømmer å bruke nevromarkedsføringsteknikker – selv om det er ganske sannsynlig at de godt finansierte kampanjene er det, sier Roger Dooley, en konsulent og forfatter av Hjerneinnflytelse: 100 måter å overtale og overbevise forbrukere med nevromarkedsføring . Selv om det ikke er sikkert Trump- eller Clinton-kampanjene brukte nevromarkedsføring i 2016, har SCL – morselskapet til Cambridge Analytica, som jobbet for Trump – angivelig brukt ansiktsanalyse for å vurdere om det velgerne sa de følte om kandidater var ekte.

Men selv om amerikanske kampanjer ikke vil innrømme at de bruker nevromarkedsføring, bør de være interessert i det, fordi politikk er en blodsport, sier Dan Hill, en amerikansk ekspert på koding av ansiktsuttrykk som ga råd til den meksikanske presidenten Enrique Peña Nietos valgkamp i 2012. Fred Davis, en republikansk strateg hvis kunder har inkludert George W. Bush, John McCain og Elizabeth Dole, sier at selv om bruken av disse teknologiene er noe begrenset i USA, vil kampanjer bruke nevromarkedsføring hvis de trodde det ville gi dem en fordel. Det er ikke noe viktigere for en politiker enn å vinne, sier han.

Trenden reiser en strøm av spørsmål i oppkjøringen til 2018-halvåret. Hvor godt kan konsulenter som disse bruke nevrologiske data for å målrette eller vinne velgere? Og hvis de er så gode på det som de hevder, kan vi stole på at våre politiske beslutninger virkelig er våre egne? Vil demokratiet selv begynne å kjenne på klem?

Uuttalte sannheter

Hjerne-, øye- og ansiktsskanninger som plager folks sanne ønsker kan virke dystopiske. Men de er utløpere av en langvarig politisk tradisjon: å treffe velgerne rett i følelsene. I mer enn et tiår har kampanjer skannet databaser over forbrukerpreferanser – hvilken musikk folk lytter til, hvilke blader de leser – og, ved hjelp av dataalgoritmer, brukt denne informasjonen til å målrette appeller til dem. Hvis en algoritme viser at middelaldrende kvinnelige SUV-sjåfører sannsynligvis vil stemme republikansk og bryr seg om utdanning, er sjansen stor for at de vil motta kampanjemeldinger som er laget eksplisitt for å trykke på disse knappene.

Biometriske teknologier øker innsatsen ytterligere. Utøvere sier at de kan bruke sannheter som velgerne ofte ikke vil eller er i stand til å uttrykke. Nevrokonsulenter elsker å sitere psykolog Daniel Kahneman, vinner av Nobelprisen i økonomi, som skiller mellom system 1 og system 2 tenkning. System 1 fungerer automatisk og raskt, med liten eller ingen innsats og ingen følelse av frivillig kontroll, skriver han; System 2 innebærer bevisst overveielse og tar lengre tid.

Før var alle fokusert på System 2, forklarer Rafal Ohme, en polsk psykolog som sier at firmaet hans, Neurohm, har gitt råd til politiske kampanjer i Europa og USA. Det siste tiåret har Ohme viet mesteparten av sin innsats til å undersøke forbrukernes og velgernes System 1-tilbøyeligheter, som han mener er like viktig som å lytte til hva de sier. Det har vært bra for virksomheten hans, sier han, fordi kundene hans er imponert nok over resultatene til å fortsette å komme tilbake for mer.

Mange nevrokonsulentpionerer bygget sin strategi rundt såkalte nevrofokusgrupper. I disse studiene, som involverer alt fra et dusin til hundre personer, tilpasser teknikere folks hodebunn med EEG-elektroder og viser dem deretter videoopptak av en kandidat- eller kampanjeannonse. Mens forsøkspersonene ser på, fanger hodebunnssensorer opp elektriske impulser som avslører, sekund for sekund, hvilke områder av hjernen som er aktivert.

Ekspertene håper å oppdage velgernes følelser via signaler de ikke engang er klar over at de produserer. Neuromarketing S.A. de C.V. og Dr. Jaime Romano Micha

En av tingene vi kan analysere er oppmerksomhetsprosessen, sier nevrofysiolog i Mexico City, Jaime Romano Micha, hvis tidligere firma, Neuropolitka, var en av de beste leverandørene av hjernebaserte tjenester til politiske kampanjer. Romano Micha ville plassere elektroder på en persons hodebunn for å oppdage aktivitet i retikulærformasjonen, en del av hjernestammen som sporer hvor engasjert noen er. Så hvis forsøkspersoner ser på en politisk annonse og aktivitet i deres retikulære formasjon øker, for eksempel 15 sekunder, betyr det at meldingen virkelig har fanget oppmerksomheten deres på det tidspunktet.

Det er ingenting som er viktigere for en politiker enn å vinne.

Andre hjerneområder gir også viktige ledetråder, sier Romano Micha. Elektrisk aktivitet på venstre side av hjernebarken antyder at folk jobber hardt for å forstå et politisk budskap; lignende aktivitet på høyre side kan avsløre det nøyaktige øyeblikket meldingens betydning klikker på plass. Med denne typen innsikt kan kampanjer avgrense et budskap for å maksimere stemningen: plassere det mest gripende øyeblikket i begynnelsen, for eksempel, eller kutte delene som får folks oppmerksomhet til å vandre.

Men mens hjerneavbildning fortsatt er en del av det nevropolitiske universet, sier de fleste nevrokonsulenter at det neppe er tilstrekkelig i seg selv. EEG gir oss veldig generell informasjon om beslutningsprosessen, sier Romano Micha. Noen mennesker sier at gjennom EEG kan vi gå inn i tankene til mennesker, og jeg tror det ikke er mulig ennå. Det finnes billigere og mer pålitelige verktøy, hevder flere konsulenter, for å finne frem til en velgers sanne følelser og ønsker.

Elektroder overalt

EEG-skanninger er nå bare én i et smørbord av biometriske teknikker. Romano Micha bruker også nær-infrarøde øyesporere og elektroder rundt orbitalbenet for å spore saccader, små bevegelser av øyet som indikerer seernes oppmerksomhetsfokus når de ser et kampanjepunkt. Andre elektroder gir en grov måling av opphisselse ved å måle elektrisk aktivitet på overflaten av en persons hud.

Selvfølgelig kan du ikke feste elektroder på alle som ser på TV og surfer på Facebook. Men du trenger ikke. Resultatene fra eksperimenter på små nevrofokusgrupper kan brukes til å påvirke velgere som ikke blir samplet selv. Hvis for eksempel biodata avslører at liberale kvinner over 50 er redde når de ser en annonse om ulovlig immigrasjon, kan kampanjer som ønsker å vekke slik frykt kringkaste det samme budskapet til millioner av mennesker med lignende demografiske og sosiale profiler.

Jeg måler nøling, sier Ohme. Jeg kan bare ombestemme deg hvis du nøler. Hvis du er en fast troende, kan jeg ikke endre noe. dmitry kostyukov

Pocovis tilnærming ved Emotion Research Lab krever bare en videospiller og et frontvendt webkamera. Når frivillige melder seg inn i hennes politiske fokusgrupper på nettet, sender hun dem videoer av en annonseplass eller en kandidat som de kan se på den bærbare datamaskinen eller telefonen. Mens de fordøyer innholdet, sporer hun øyebevegelsene deres og subtile endringer i ansiktsuttrykkene deres.

Vi har utviklet algoritmer for å lese mikrouttrykkene i ansiktet og i sanntid oversette følelsene folk føler, sier Pocovi. Mange ganger sier folk til deg: ‘Jeg er bekymret for økonomien.’ Men hva er det egentlig som beveger deg? Etter min erfaring er det ikke de største tingene. Det er de små tingene som er nær deg. Noe så lite som en kandidats upassende rynkede panne, sier hun, kan farge oppfatningen vår uten at vi er klar over det.

Pocovi sier at hennes ansiktsanalyseprogramvare kan oppdage og måle seks universelle følelser, 101 sekundære følelser og åtte stemninger, som alle interessekampanjer er ivrige etter å lære hvordan folk reagerer på en melding eller en kandidat. Hun tilbyr også en publikumsanalysetjeneste for å spore de emosjonelle reaksjonene til individuelle ansikter i et menneskelig hav, noe som betyr at kampanjer kan ta temperaturen i et rom mens kandidaten deres snakker.

ERLs programvare er bygget rundt ansiktshandlingskodesystemet (FACS) utviklet av Paul Ekman, en kjent amerikansk psykolog. Pocovis algoritme dekonstruerer hvert ansiktsbilde fra webkameraet til mer enn 50 handlingsenheter, bevegelser av spesifikke muskelgrupper. Distinkte klynger av handlingsenheter tilsvarer spesielle følelser: kinn- og ytterleppemuskler som trekker seg sammen samtidig avslører lykke, mens senkede bryn og hevede øvre øyelokk viser sinne. Pocovi trener systemet sitt til å gjenkjenne hver enkelt ved å vise det mange referansebilder fra en stor database med ansikter som uttrykker den følelsen.

Noen kritikere av Ekmans system, som nevroforsker Lisa Feldman Barrett, har hevdet at ansiktsuttrykk ikke nødvendigvis korrelerer med følelsesmessige tilstander. Likevel har en rekke studier vist i det minste noe korrespondanse. I en studie fra 2014 ved Ohio State University definerte kognitive forskere 21 distinkte følelser, basert på de konsistente måtene de fleste av oss beveger ansiktsmusklene våre på.

Pocovi sier at undersøkelsene hennes også fungerer som et bildeforbedrende verktøy for kandidatene selv. Hun analyserer videoer av kandidater for å finne nøyaktige øyeblikk når uttrykket deres får velgerne til å føle seg forvirret, avsky eller sint. Politikere kan deretter bruke denne informasjonen til å øve på en annen emosjonell tilnærming, som i seg selv kan kontrolleres ved hjelp av Pocovis undersøkelsesplattform til den gir ønsket respons hos seerne. I en kampanje som Pocovi fortalte, spilte en kandidat inn et TV-reklamested med et oppløftende, positivt budskap, men den fikk stadig forferdelige anmeldelser i testvisninger. Stedets dårlige ytelse var et mysterium – helt til Pocovis analyse av kandidatens ansikt viste at han uforvarende formidlet sinne og avsky. Når han skjønte hva som foregikk, var han i stand til å finjustere presentasjonen og få bedre respons fra publikum.

Flere tidligere tilhengere av hjerneskanningsanalyse følger også enklere og billigere teknikker i disse dager. Før finanskrisen i 2008, sier Ohme, var internasjonale kunder mer villige til å fly fem gutter fra Polen for å utføre hjernestudier på stedet. Etter resesjonen tørket imidlertid denne virksomheten stort sett ut.

Det fikk Ohme til å utvikle en annen strategi, en ubundet til tid, rom eller EEG-elektroder. Hans oppdaterte tilnærming stammer fra den som ble brukt i studier av ubevisst skjevhet av sosialpsykolog Anthony Greenwald, som ble en mentor da Ohme besøkte USA på et Fulbright-stipend. Ohme sier at hans smarttelefonbaserte test – som han kaller iCode – avslører skjulte politiske tilbøyeligheter som aldri ville dukket opp i tradisjonelle spørreskjemaer eller fokusgrupper.

Når Ohme spurte testpersoner om Hillary Clinton delte verdiene deres, nølte de ofte uvanlig lenge.

Ohmes undersøkelsesdeltakere begynner med å svare på kalibreringsspørsmål for å vurdere deres baseline reaksjonstid. En vanlig tregere person, for eksempel, kan ha en enhetstid som varer 585 millisekunder, mens noen raskere kan ta 387 millisekunder. Deretter vises bilder av politikere på skjermen, hver sammenkoblet med en enkelt egenskap, for eksempel pålitelig, kjent eller deler mine verdier. Brukere trykker på ja eller nei for å indikere om de er enige i hver sammenkobling. Etter hvert som testen fortsetter, sporer appen ikke bare hvordan de svarer, men hvor raskt de berører skjermen og hvilken tapperytme de etablerer.

Det som er interessant, sier Ohme, er ikke hvordan folk svarer på spørsmålene i seg selv, men hvor mye de tviholder først. Når vi måler nølenivået, kan vi se at noen svar er positive, men med nøling, og noen er positive og øyeblikkelige, sier han. Vi måler hvor mye du avvek [fra baseline]. Dette avviket er nøkkelen.

Ohme nekter å diskutere sine nåværende politiske klienter i detalj, med henvisning til konfidensialitetsavtaler. Men han melder frivillig at han i en iCode-undersøkelse av nesten 900 mennesker forutså Hillary Clintons nederlag i 2016 før valget. Gjennom hele året løp Clinton komfortabelt foran Trump i tradisjonelle meningsmålinger. Men når Ohme spurte testpersoner om Clinton delte verdiene deres, nølte de ofte i uvanlig lang tid før de svarte at hun gjorde det. Ohme visste at en følelse av felles verdier var en stor faktor som motiverte folk til å stemme i 2016 (i tidligere valg var mektig og leder nøkkelen), så resultatene av testen ga ham alvorlig tvil om en Clinton-seier. Han hevder at hvis Clintons kampanje hadde kjørt en av studiene hans før valget, ville hun ha forstått dybden av sårbarheten hennes og kunne ha foretatt kurskorrigeringer.

Ohme hevder å ha hjulpet andre kandidater i lignende vanskeligheter. En av testene hans avslørte at mens en viss europeisk klient hadde en god base av støttespillere, var mange ikke motivert til å gå ut og stemme fordi de antok at kandidaten deres ville vinne. Bevæpnet med denne kunnskapen gjorde kampanjen et fornyet fremstøt for å få sin lojale base til valgurnene. Klienten endte opp med å vinne i en squeaker.

De største løgnene i livet

Forteller måling av folks spontane reaksjoner på en TV-reklame eller en stubbetale deg hvordan de til slutt vil stemme? På den anvendte siden er det ganske uklart, hypen fra virkeligheten, sier Darren Schreiber, professor i statsvitenskap ved University of Exeter og forfatter av Hjernen din er bygget for politikk . Det er lett å overtro evnen til disse verktøyene. Så langt har kognitive tester hatt blandede resultater. Kontrasterende studier har vist at implisitte holdninger både gjør og forutsier ikke hvordan folk stemmer.

Likevel innrømmer Schreiber, som har utført hjerneskanningstester av politiske holdninger, at teknologiene er bekymringsfulle. Demokrati forutsetter tilstedeværelsen av rasjonelle aktører, som er i stand til å fordøye informasjon fra alle hold og komme til begrunnede konklusjoner. Hvis nevrokonsulenter til og med er halvparten så flinke som de hevder til å undersøke folks innerste tanker og endre deres stemmeintensjoner, setter det spørsmålstegn ved denne antagelsen.

Vi er mottakelige på flere måter, og ikke klar over vår mottakelighet, sier Schreiber. Det faktum at holdninger kan manipuleres på måter vi ikke er klar over har mange implikasjoner for politisk diskurs. Hvis kampanjer dytter velgerne mot kandidaten sin uten velgernes viten, vil politiske diskusjoner som en gang var utveksling av begrunnede synspunkter bli knestøt som vender stadig lenger bort fra det demokratiske idealet. Jeg tror ikke det er på tide å løpe i panikk, sier Schreiber, men jeg tror ikke vi kan være glade for det.

Ohme insisterer på at velgerne kan inokulere seg mot nevrokonsulenters taktikk hvis de er kunnskapsrike nok. Jeg måler nøling. Jeg kan bare ombestemme deg hvis du nøler. Hvis du er fast troende, kan jeg ikke endre noe, sier han. Hvis du er redd for å bli manipulert, lær. Jo mer du lærer, jo mer faste og stabile er holdningene dine, og jo vanskeligere er det for noen å overbevise deg om noe annet.

Det er et helt fornuftig råd. Men jeg lurer på. Etter å ha møtt Pocovi, logget jeg på Emotion Research Lab for å la programvaren spore ansiktet mitt mens jeg så en demovideo. Videoen var av en leende baby, og jeg kjente at munnvikene pirket seg opp. Etterpå spurte datamaskinen meg hvordan jeg hadde følt meg mens jeg så på. Glad, klikket jeg. Jeg er mamma, ikke sant? Jeg elsker babyer. Men da følelsesanalysen min kom, viste den nesten ingen spor av lykke i ansiktet mitt.

Når jeg tenkte på resultatene, innså jeg at følelsesprogramvaren var riktig. Jeg hadde egentlig ikke vært glad i det hele tatt. Jeg hadde tatt testen sent på kvelden, og jeg hadde vært utslitt. Datamaskinen hadde sett meg på en måte jeg ikke var vant til å se meg selv. Jeg tenkte på noe Dan Hill, den tidligere rådgiveren for den meksikanske presidentens kampanje, hadde fortalt meg. De største løgnene i livet, sa han, er de vi forteller oss selv.

Elizabeth Svoboda er en vitenskapsforfatter i San Jose, California, og forfatteren av Hva gjør en helt?: The Surprising Science of Selflessness.

gjemme seg