Maskiner kan oppdage psykiske problemer - hvis du utleverer dine personlige data

Jake Belcher

Da Neguine Rezaii først flyttet til USA for et tiår siden, nølte hun med å fortelle folk at hun var iransk. I stedet ville hun bruke persisk. Jeg regnet med at folk sannsynligvis ikke ville vite hva det var, sier hun.

Den språklige tvetydigheten var nyttig: hun kunne skjule sin forlegenhet over regimet til Mahmoud Ahmadinejad mens hun fortsatt var tro mot seg selv. De pleide bare å smile og gå bort, sier hun. I disse dager er hun glad for å si iransk igjen.

Vi velger ikke alle å bruke språket så bevisst som Rezaii gjorde – men ordene vi bruker betyr noe. Poeter, detektiver og advokater har lenge silt gjennom folks språk etter ledetråder for å lete etter deres motiver og indre sannheter. Psykiatere også: kanskje spesielt psykiatere. Tross alt, mens medisinen nå har et batteri av tester og tekniske verktøy for å diagnostisere fysiske plager, er psykiatriens hovedverktøy det samme som ble brukt for århundrer siden: spørsmålet Så hvordan føler du deg i dag? Enkelt å spørre, kanskje - men ikke å svare.

I psykiatrien har vi ikke engang et stetoskop, sier Rezaii, som nå er nevropsykiatristipendiat ved Massachusetts General Hospital. Det er 45 minutter å snakke med en pasient og deretter stille en diagnose på grunnlag av den samtalen. Det er ingen objektive tiltak. Ingen tall.

Det er ingen blodprøve for å diagnostisere depresjon, ingen hjerneskanning som kan identifisere angst før det skjer. Selvmordstanker kan ikke diagnostiseres ved en biopsi, og selv om psykiatere er dypt bekymret for at covid-19-pandemien vil ha alvorlige konsekvenser for mental helse, har de ingen enkel måte å spore det på. På medisinspråket er det ikke en eneste pålitelig biomarkør som kan brukes til å diagnostisere noen psykiatrisk tilstand. Jakten på snarveier for å finne korrupsjon i tankene fortsetter å stå tom – beholder mye av psykiatrien i fortiden og blokkerer veien til fremgang. Det gjør diagnose til en langsom, vanskelig, subjektiv prosess og hindrer forskere i å forstå den sanne naturen og årsakene til spekteret av psykiske lidelser eller utvikle bedre behandlinger.

Men hva om det fantes andre måter? Hva om vi ikke bare lyttet til ord, men målte dem? Kan det hjelpe psykiatere å følge de verbale ledetrådene som kan føre tilbake til vår sinnstilstand?

Det er i grunnen det vi er ute etter, sier Rezaii. Finne noen atferdstrekk som vi kan tilordne noen tall til. Å kunne spore dem på en pålitelig måte og bruke dem til potensiell påvisning eller diagnostisering av psykiske lidelser.

I juni 2019 publiserte Rezaii en artikkel om en radikal ny tilnærming som gjorde akkurat det. Forskningen hennes viste at måten vi snakker og skriver på kan avsløre tidlige indikasjoner på psykose, og at datamaskiner kan hjelpe oss med å oppdage disse tegnene med nervepirrende nøyaktighet. Hun fulgte språkets brødsmuler for å se hvor de førte.

Rezaii fant at språkanalyse kunne forutsi med mer enn 90 % nøyaktighet hvilke pasienter som sannsynligvis ville utvikle schizofreni før noen typiske symptomer dukket opp.

Folk som er tilbøyelige til å høre stemmer, viser det seg, har en tendens til å snakke om dem. De nevner ikke disse auditive hallusinasjonene eksplisitt, men de bruker tilknyttede ord – lyd, hør, sang, høyt – oftere i vanlig samtale. Mønsteret er så subtilt at du ikke vil kunne se piggene med det blotte øret. Men en datamaskin kan finne dem. Og i tester med dusinvis av psykiatriske pasienter fant Rezaii at språkanalyse kunne forutsi hvem av dem som sannsynligvis ville utvikle schizofreni med mer enn 90 % nøyaktighet, før noen typiske symptomer dukket opp. Det lovet et stort sprang fremover.

Tidligere var det å fange informasjon om noen eller analysere en persons uttalelser for å stille en diagnose avhengig av dyktigheten, erfaringen og meningene til individuelle psykiatere. Men takket være tilstedeværelsen av smarttelefoner og sosiale medier, har folks språk aldri vært så enkelt å registrere, digitalisere og analysere. Og et økende antall forskere søker gjennom dataene vi produserer – fra språkvalg eller søvnmønster til hvor ofte vi ringer til vennene våre og hva vi skriver på Twitter og Facebook – for å se etter tegn på depresjon, angst, bipolar lidelse. og andre syndromer.

For Rezaii og andre er muligheten til å samle inn disse dataene og analysere dem det neste store fremskritt i psykiatrien. De kaller det digital fenotyping.

Veier ordene dine

I 1908 kunngjorde den sveitsiske psykiateren Eugen Bleuler navnet på en tilstand som han og hans jevnaldrende studerte: schizofreni. Han la merke til hvordan tilstandens symptomer kommer til uttrykk i språket, men la til: Abnormiteten ligger ikke i selve språket, men hva det har å si.

Bleuler var blant de første som fokuserte på det som kalles de negative symptomene på schizofreni, fraværet av noe sett hos friske mennesker. Disse er mindre merkbare enn de såkalte positive symptomene, som indikerer tilstedeværelsen av noe ekstra, for eksempel hallusinasjoner. Et av de vanligste negative symptomene er alogi, eller talefattigdom. Pasienter snakker enten mindre eller sier mindre når de snakker, ved å bruke vage, repeterende, stereotype fraser. Resultatet er det psykiatere kaller lav semantisk tetthet.

Lav semantisk tetthet er et tydelig tegn på at en pasient kan være i fare for psykose. Schizofreni, en vanlig form for psykose, har en tendens til å utvikle seg i slutten av tenårene til begynnelsen av 20-årene for menn og slutten av 20-tallet til begynnelsen av 30-årene for kvinner - men et foreløpig stadium med mildere symptomer går vanligvis foran den fullstendige tilstanden. Det utføres mye forskning på mennesker i denne prodromale fasen, og psykiatere som Rezaii bruker språk og andre tiltak for atferd for å prøve å identifisere hvilke prodromalpasienter som fortsetter å utvikle full schizofreni og hvorfor. Med utgangspunkt i andre forskningsprosjekter som for eksempel antyder at personer med høy risiko for psykose har en tendens til å bruke færre besittende pronomen som mitt, hans eller vårt, ønsket Rezaii og hennes kolleger å se om en datamaskin kunne oppdage lav semantisk tetthet.

JAKE BELCHER

Forskerne brukte opptak av samtaler gjort i løpet av det siste tiåret eller så med to grupper schizofrenipasienter ved Emory University. De delte hver talte setning ned i en rekke kjerneideer slik at en datamaskin kunne måle den semantiske tettheten. Setningen Vel, jeg tror jeg har sterke følelser for politikk får en høy score, takket være ordene sterk, politikk og følelser.

Men en setning som Nå, nå vet jeg hvordan jeg skal være kul med folk fordi det er som å ikke snakke er som, du vet hvordan jeg skal være kul med folk, det er som nå jeg vet hvordan jeg gjør som har en veldig lav semantisk tetthet.

I en andre test fikk de datamaskinen til å telle antall ganger hver pasient brukte ord knyttet til lyd – på jakt etter ledetråder om stemmer som de kanskje hører, men holder hemmelig. I begge tilfeller ga forskerne datamaskinen en grunnlinje for normal tale ved å mate den til nettsamtaler lagt ut av 30 000 brukere av Reddit.

Når psykiatere møter mennesker i prodromalfasen, bruker de et standardsett med intervjuer og kognitive tester for å forutsi hvilke som vil fortsette å utvikle psykose. De får det vanligvis til 80 % av tiden. Ved å kombinere de to analysene av talemønstre, scoret Rezaiis datamaskin minst 90 %.

Hun sier at det er en lang vei å gå før oppdagelsen kan brukes i klinikken for å forutsi hva som vil skje med pasientene. Studien så på talen til bare 40 personer; neste trinn ville være å øke prøvestørrelsen. Men hun jobber allerede med programvare som raskt kan analysere samtalene hun har med pasienter. Så du trykker på knappen og den gir deg tall. Hva er den semantiske tettheten av talen til pasienten? Hva var de subtile trekkene som pasienten snakket om, men som ikke nødvendigvis uttrykte på en eksplisitt måte? hun sier. Hvis det er en måte å komme inn i de dypere, mer underbevisste lagene, ville det vært veldig kult.

Resultatene har også en åpenbar implikasjon: Hvis en datamaskin pålitelig kan oppdage slike subtile endringer, hvorfor ikke kontinuerlig overvåke de som er i fare?

Mer enn bare schizofreni

Rundt én av fire mennesker over hele verden vil lide av et psykiatrisk syndrom i løpet av livet. To av fire eier nå en smarttelefon. Å bruke dingsene til å fange opp og analysere tale- og tekstmønstre kan fungere som et tidlig varslingssystem. Det vil gi leger tid til å gripe inn overfor de som har størst risiko, kanskje for å følge dem nærmere – eller til og med prøve terapier for å redusere sjansen for en psykotisk hendelse.

Pasienter kan også bruke teknologi for å overvåke sine egne symptomer. Psykisk helsepasienter er ofte upålitelige fortellere når det kommer til deres helse – ute av stand til eller villige til å identifisere symptomene deres. Selv digital overvåking av grunnleggende målinger som antall timer søvn noen får kan hjelpe, sier Kit Huckvale, en postdoktor som jobber med digital helse ved Black Dog Institute i Sydney, fordi det kan advare pasienter når de kan være mest sårbare. til en nedgang i deres tilstand.

Det er ikke bare schizofreni som kan oppdages med en maskin. Ved å studere folks telefoner har psykiatere vært i stand til å fange opp de subtile tegnene som går foran en bipolar episode.

Ved å bruke disse datamaskinene som vi alle har med oss, har vi kanskje tilgang til informasjon om endringer i atferd, kognisjon eller erfaring som gir robuste signaler om fremtidig psykisk lidelse, sier han. Eller faktisk bare de tidligste stadiene av nød.

Og det er ikke bare schizofreni som kan oppdages med en maskin. Sannsynligvis den mest avanserte bruken av digital fenotyping er å forutsi atferden til personer med bipolar lidelse. Ved å studere folks telefoner har psykiatere vært i stand til å fange opp de subtile tegnene som går foran en episode. Når en nedtur i humøret kommer, viser GPS-sensorene i bipolare pasienters telefoner at de har en tendens til å være mindre aktive. De svarer mindre på innkommende anrop, foretar færre utgående anrop og bruker generelt mer tid på å se på skjermen. Derimot beveger de seg mer rundt før en manisk fase, sender flere tekstmeldinger og bruker lengre tid på å snakke i telefonen.

Fra og med mars 2017 har hundrevis av pasienter utskrevet fra psykiatriske sykehus rundt om i København fått utlånt tilpassede telefoner slik at leger kan fjernovervåke aktiviteten deres og se etter tegn på nedstemthet eller mani. Hvis forskerne oppdager uvanlige eller bekymringsfulle mønstre, inviteres pasientene til å snakke med en sykepleier. Ved å se etter og reagere på tidlige varseltegn på denne måten, har studien som mål å redusere antall pasienter som opplever et alvorlig tilbakefall.

Slike prosjekter søker samtykke fra deltakerne og lover å holde dataene konfidensielle. Men ettersom detaljer om mental helse blir sugd inn i verden av store data, har eksperter reist bekymringer om personvern.

Bruken av denne teknologien overgår definitivt juridisk regulering. Det overgår til og med offentlig debatt, sier Piers Gooding, som studerer lov og retningslinjer for psykisk helse ved Melbourne Social Equity Institute i Australia. Det må være en seriøs offentlig debatt om bruken av digitale teknologier i psykisk-helsesammenheng.

Relatert historie

Blir jeg gal eller blir jeg forfulgt? Inne i den urovekkende nettverdenen med gangstalking

Fora der folk diskuterer å bli forfulgt er rotete og forvirrende – og de leder noen ned en mørk vei.

Allerede har forskere brukt videoer lagt ut av familier på YouTube – uten å søke uttrykkelig samtykke – til å trene datamaskiner for å finne karakteristiske kroppsbevegelser til barn med autisme . Andre har silt Twitter-innlegg for å hjelpe med å spore atferd knyttet til overføring av HIV , mens forsikringsselskapene i New York er det offisielt tillatt å studere folks Instagram-feeder før de beregner livsforsikringspremiene deres.

Ettersom teknologi sporer og analyserer vår atferd og livsstil med stadig mer presisjon – noen ganger med vår kunnskap og noen ganger uten – vokser mulighetene for andre til å fjernovervåke vår mentale tilstand raskt.

Personvern

I teorien bør personvernlovgivning forhindre at data om mental helse blir videreformidlet. I USA regulerer den 24 år gamle HIPAA-vedtekten deling av medisinske data, og Europas databeskyttelseslov, GDPR, burde teoretisk sett også stoppe det. men a 2019-rapport fra overvåkingsvakthunden Privacy International fant ut at populære nettsteder om depresjon i Frankrike, Tyskland og Storbritannia delte brukerdata med annonsører, datameglere og store teknologiselskaper, mens noen nettsteder som tilbyr depresjonstester lekket svar og testresultater til tredjeparter.

Gooding påpeker at i flere år kanadisk politi ville gi detaljer om personer som forsøkte selvmord til amerikanske grensemyndigheter, som deretter ville nekte dem innreise . I 2017 konkluderte en etterforskning med at praksisen var ulovlig, og den ble stoppet.

Få vil bestride at dette var en krenkelse av personvernet. Medisinsk informasjon er tross alt ment å være hellig. Selv når diagnoser av psykiske lidelser stilles, skal lover rundt om i verden forhindre diskriminering på arbeidsplassen og andre steder.

Men noen etikere bekymrer seg for at digital fenotyping visker ut linjene for hva som kan eller bør klassifiseres, reguleres og beskyttes som medisinske data.

Hvis detaljene i vårt daglige liv er siktet etter ledetråder til vår mentale helse, så vår digitale eksos – data om hvilke ord vi velger, hvor raskt vi svarer på tekstmeldinger og anrop, hvor ofte vi sveiper til venstre, hvilke innlegg vi velger å like – kunne fortelle andre minst like mye om vår sinnstilstand som hva som står i våre konfidensielle journaler. Og det er nesten umulig å skjule.

Teknologien har presset oss utover de tradisjonelle paradigmene som var ment å beskytte visse typer informasjon, sier Nicole Martinez-Martin, en bioetiker ved Stanford. Når alle data er potensielt helsedata, er det mange spørsmål om den slags helseinformasjonseksepsjonalisme gir mening lenger.

Helseinformasjon, legger hun til, pleide å være enkel å klassifisere – og derfor beskytte – fordi den ble produsert av helsepersonell og holdt i helseinstitusjoner, som hver hadde sine egne forskrifter for å ivareta behovene og rettighetene til sine pasienter. Nå utvikles mange måter å spore og overvåke mental helse ved å bruke signaler fra våre daglige handlinger av kommersielle firmaer, som ikke gjør det.

Facebook, for eksempel, hevder å bruke AI-algoritmer for å finne personer i risiko for selvmord , ved å screene språk i innlegg og bekymrede kommentarer fra venner og familie. Selskapet sier at det har varslet myndighetene om å hjelpe mennesker i minst 3500 tilfeller. Men uavhengige forskere klager på at det ikke har avslørt hvordan systemet fungerer eller hva det gjør med dataene det samler inn.

Relatert historie

Facebook ønsker å bekjempe tenåringer selvmord. Eksperter er ikke sikre på at de gjør det riktig Selvmord blant unge er på vei oppover, og mange peker på sosiale medier som årsak.

Selv om selvmordsforebyggende innsats er svært viktig, er ikke dette svaret, sier Gooding. Det er null forskning på nøyaktigheten, omfanget eller effektiviteten til initiativet, og heller ikke informasjon om nøyaktig hva selskapet gjør med informasjonen etter hver tilsynelatende krise. Det er i utgangspunktet skjult bak et teppe av lover om forretningshemmeligheter.

Problemene er ikke bare i privat sektor. Selv om forskere som jobber ved universiteter og forskningsinstitutter er underlagt et nett av tillatelser for å sikre samtykke, personvern og etisk godkjenning, kan enkelte akademiske praksiser faktisk oppmuntre og muliggjøre misbruk av digital fenotyping, påpeker Rezaii.

Da jeg publiserte papiret mitt om å forutsi schizofreni, ønsket forlagene at koden skulle være åpent tilgjengelig, og jeg sa greit fordi jeg var interessert i liberale og gratis ting. Men hva så om noen bruker det til å bygge en app og forutsi ting på rare tenåringer? Det er risikabelt, sier hun. Tidsskrifter har tatt til orde for gratis publisering av algoritmene. Den har blitt lastet ned 1060 ganger så langt. Jeg vet ikke til hvilket formål, og det gjør meg ukomfortabel.

Utover personvernhensyn er noen bekymret for at digital fenotyping rett og slett er overhypet.

Serife Tekin, som studerer psykiatriens filosofi ved University of Texas i San Antonio, sier at psykiatere har en lang historie med å hoppe på den nyeste teknologien som en måte å prøve å få diagnosene og behandlingene deres til å virke mer evidensbaserte. Fra lobotomier til det fargerike løftet om hjerneskanninger, har feltet en tendens til å bevege seg med enorme bølger av ukritisk optimisme som senere viser seg å være ubegrunnet, sier hun - og digital fenotyping kan ganske enkelt være det siste eksemplet.

Samtidens psykiatri er i krise, sier hun. Men om løsningen på krisen innen psykisk helseforskning er digital fenotyping er tvilsomt. Når vi fortsetter å legge alle eggene våre i én kurv, er det egentlig ikke engasjerende med kompleksiteten til problemet.

Gjøre mental helse mer moderne?

Neguine Rezaii vet at hun og andre som jobber med digital fenotyping noen ganger er blendet av det lyse potensialet til teknologien. Det er ting jeg ikke har tenkt på fordi vi er så glade for å få så mye data som mulig om dette skjulte signalet i språket, sier hun.

Men hun vet også at psykiatrien for lenge har vært avhengig av lite mer enn informert gjetting. Vi ønsker ikke å gjøre noen tvilsomme slutninger om hva pasienten kan ha sagt eller ment hvis det er en måte å objektivt finne ut av det, sier hun. Vi vil ta dem opp, trykke på en knapp og få noen tall. På slutten av avtalen har vi resultatene. Det er idealet. Det er det vi jobber med.

For Rezaii er det naturlig at moderne psykiatere ønsker å bruke smarttelefoner og annen tilgjengelig teknologi. Diskusjoner om etikk og personvern er viktig, sier hun, men det er også en bevissthet om at teknologifirmaer allerede høster informasjon om oppførselen vår og bruker den – uten vårt samtykke – til mindre edle formål, som å bestemme hvem som skal betale mer for identiske taxiturer eller vente lenger med å bli hentet.

Vi lever i en digital verden. Ting kan alltid misbrukes, sier hun. Når en algoritme er der ute, kan folk ta den og bruke den på andre. Det er ingen måte å forhindre det på. I det minste i den medisinske verden ber vi om samtykke.

gjemme seg