Smarttelefoner er massemanipulasjonsvåpen, og denne fyren erklærer krig mot dem

Tristan Harris tror storteknologi utnytter oss alle. Kan kraften brukes til det gode? Av

• Rachel Metz arkivside

19. oktober 2017

Tristan Harris

Hvis du, som et stadig voksende flertall av mennesker i USA, eier en smarttelefon, har du kanskje følelsen av at apper i en tidsalder til datamaskinen i lommeformat er designet for å holde oppmerksomheten din så lenge som mulig. Du har kanskje ikke følelsen av at de manipulerer deg ett trykk, sveip eller varsling om gangen.

Men Tristan Harris tror det er akkurat det som skjer med milliarder av oss som bruker sosiale nettverk som Facebook, Instagram, Snapchat og Twitter, og han er på et oppdrag for å styre oss mot potensielle løsninger – eller i det minste få oss til å erkjenne at denne manipulasjonen er, i faktisk, pågår.

Harris, tidligere produktsjef som ble designetiker hos Google, driver en ideell organisasjon kalt Vel brukt tid , som fokuserer på teknologiens vanedannende natur og hvordan apper kan utformes bedre; den forfølger offentlig støtte og støtter designstandarder som tar hensyn til hva som er bra for folks liv, i stedet for bare å prøve å maksimere skjermtiden. Han sier at han beveger seg bort fra Time Well Spent i disse dager (hans nye innsats er ennå ikke navngitt), og prøver å holde teknologiindustrien ansvarlig for måten den overtaler oss til å bruke så mye tid som mulig på nettet, med taktikk som strekker seg fra Snapchats snapstreaks til automatisk avspilling av videoer på nettsteder som YouTube og Facebook.

Det er så usynlig hva vi gjør mot oss selv, sier han. Det er som en folkehelsekrise. Det er som sigaretter, bortsett fra fordi vi får så mange fordeler, at folk faktisk ikke kan se og innrømme erosjonen av menneskelig tankegang som skjer samtidig.

Relatert historie

Relatert historie

Harris hevder at fordi teknologiselskapenes forretningsmodeller i stor grad avhenger av annonseinntekter, er det egentlig ikke i deres beste interesse å presse oss mot for eksempel å forlate det sosiale nettverket du jour og gå ut for å henge med venner. Han sier ikke at Facebook (eller noen av dets jevnaldrende, for den saks skyld) er dårlig, eller at vi bør slutte å bruke smarttelefonene våre. Men etter å ha tilbrakt mange år i teknologibransjen – han begynte i Google i 2011 da det kjøpte oppstarten han var med å grunnlegge, et søk-på-nettsiden-selskap kalt Apture – sier han at de er de kraftigste sosiale overtalelsesmaskinene som noen gang er bygget, og han er bekymret for hvordan vi bruker dem. Eller, mer til poenget, hvordan de bruker oss.

Det er en stadig mer gyldig bekymring. For alle de flotte tingene mobilteknologi gjør mulig, en voksende mengde forskning foreslår at bruken av sosiale nettverk gjelder også Facebook , Instagram , Snapchat og Twitter kan ha negative konsekvenser, som å øke sjansene dine for depresjon eller sosial isolasjon. Faktisk rett og slett ha telefonen rundt deg kan redusere din kognitive kapasitet.

For å få ut budskapet sitt, jobber Harris med kolleger, inkludert Roger McNamee , en venturekapitalist og tidlig Facebook- og Google-investor, som har nylig skrevet om hans beklagelse over disse pengeinnbringende grepene.

Han er også i ferd med å bli dyktig til å tale offentlig: a TED-foredrag han ga i april har blitt sett rundt 1,5 millioner ganger, og han ble vist på 60 minutter samme måned. Så han virket i sitt rette når jeg først så ham, stå foran en fullsatt forelesningssal ved Stanford University en høstkveld, og talte for en klasse om kunstig intelligens og samfunn med en presentasjon med tittelen Building an AI for Human Attention.

Det var ikke den mest glamorøse setting. Mens Stanford er en løvrik, ekspansiv, kostbar bastion for Silicon Valley-læring, var denne spesielle forelesningssalen vindusløs, og stolpultene var gamle og ukomfortable. Harris, kledd komfortabelt i en chambray-skjorte og svarte bukser, så trang ut der han sto bak en gammel talerstol i et hjørne av rommet.

En utsikt over Silicon Valley, sett ovenfra. Flickr | Patrick Nouhailler

Men hvis historien er en indikator, er det et av de beste stedene å nå akkurat de menneskene Harris håper å få kontakt med: dyktige studenter som meget vel kan være morgendagens teknologiledere (han ville vite det, siden han er alun fra Stanford og teller som vennene hans noen teknologiberømte Stanford-kandidater, Instagram-gründerne Kevin Systrom og Mike Krieger).

Og selv i den settingen var Harris karismatisk og budskapet hans urovekkende, men avmålt. I over en time holdt han studentenes oppmerksomhet mens han snakket om teknologiindustriens kappløp om oppmerksomhet og dens teknikker for å trekke til forbrukere, og sa statistikk som det faktum at det er flere mennesker på Facebook nå enn det er muslimer i verden.

Spørsmålet er, når du først begynner å monopolisere det folk tenker på, er det egentlig bra for samfunnet? Hva er det sårbart for? Hvor kan det gå galt? spurte han.

Jeg hadde noen egne spørsmål etter å ha hørt ham snakke. Til å begynne med fant jeg Harris sin retorikk interessant, men unødvendig alarmerende. Jeg har brukt Facebook, Twitter, Instagram og selvfølgelig Google i årevis. Jeg er så avhengig av dem når jeg samler inn og sprer informasjon gjennom hver eneste dag – finne historietips, holde kontakten med venner og familie, legge ut søte bilder og videoer av babyen min, lese nyheter og så videre. Jeg lurte på, er det virkelig så ille? Blir jeg virkelig kontrollert eller påvirket på en eller annen måte?

Men etter Harris foredrag på Stanford, begynte jeg å tenke mye mer på hvordan jeg blir sugd av å se automatiske annonser for BH-er og sko som jeg faktisk har lyst til å kjøpe. Og hvordan jeg føler meg når jeg får et varsel på smarttelefonen min om at noen likte, eller elsket, eller retweetet, et av innleggene mine på Facebook, Instagram eller Twitter. Det er definitivt litt ladning i magen og et stikk i hjernen, og jeg liker det virkelig. Jeg lengter etter det, selv etter å ha lagt opp et spesielt bedårende babybilde eller smart formulert statusoppdatering, og å få en av disse varslene får meg uunngåelig til å åpne hvilken sosial app den kom fra for å se hva som skjer. Kommer jeg bare til å fortsette å like bilder på Facebook, retweete morsomme ting på Twitter og mate AI-en som driver disse nettverkene til jeg faller ned og dør?

Dagen etter tok jeg opp Harris og snakket med ham om alt dette over en sushi-lunsj i San Francisco. Han hadde ingen enkle løsninger for å dempe frykten min, men han la frem sin visjon for hva nettsteder som Facebook kunne være hvis de ikke var forpliktet til å fange oppmerksomheten din, men dedikerte til å tjene samfunnet (som, hvis du tenker på det, høres ut i tråd med Facebook-grunnlegger Mark Zuckerbergs opprinnelige visjon).

Facebooken som eksisterer nå har hjulpet mange mennesker å koble seg til og kommunisere på positive måter, men det har også ført til ting som russisk innblanding i det siste presidentvalget i USA.

Problemet er at dette er de utilsiktede konsekvensene av velmente strategier, sier McNamee, som beskriver seg selv som Harris’ wingman.

Så hva om, lurer Harris på, innholdet du så på Facebook inkluderer måter å gjøre verden eller i det minste samfunnet ditt bedre på, eller forbedre livet ditt? I sin visjon om et sosialt nettverk med en slags etisk overtalelse innebygd, kan Facebook gjøre ting som å foreslå flere spesifikke måter du kan hjelpe med klimaendringer, for eksempel å skru ned varmeovnens basistemperatur noen grader eller installere solcellepaneler på taket ditt. . Eller kanskje det vil oppmuntre deg til å møte folk utenfor Facebook for å diskutere politikk personlig.

Det er så vanskelig å forestille seg det, fordi alt i feeden i utgangspunktet er ting du bruker – andre artikler du kan lese eller videoer du kan se – i stedet for det du kan gjøre i dag som vil flytte deg nærmere livet du ønsker å leve , han sier.

Og mens du kan si at folk allerede gjør det de virkelig vil på Facebook, Twitter, Instagram og andre sosiale nettverk, og representerer preferanser med klikk og valg om hvilke personer og nyhetskilder de følger, tror ikke Harris at vi virkelig er i kontroll over sosiale medier slik de eksisterer nå.

Alt [Facebook] vet om meg kan brukes til å overtale meg mot et fremtidig mål, sier han. Og det er veldig kraftig; den vet nøyaktig hva som ville overbevise meg, fordi den har overbevist meg tidligere.

Overtalelsesverktøyene kan bli enda kraftigere for annonsører spesielt: Facebook er angivelig la noen merker prøve å søke gjennom offentlige innlegg og kommentarer (uten brukernavn) for å hjelpe dem med å målrette mot brukere.

Jeg kontaktet Facebook om hvorvidt det jobbet med noen innsats som involverte etisk overtalelse; den svarte ikke.

Harris venter imidlertid ikke på Facebook. Han og McNamee jobber med politisk talsmann for å gjøre folk, både i politikken og allmennheten, mer bevisste på kontrollen store teknologiselskaper har over brukerne. McNamee sier at deres opprinnelige oppdrag var å stimulere til en samtale om den passende rollen til monopoler på Internett-plattformer i samfunnet, og at de har snakket med folk, men han vil ikke nevne navn. Harris håper å få ansatte ved teknologiselskaper mer interessert i arbeidet hans også. Det har skjedd i en få saker allerede, spesielt etter at folk forlater stillingene sine.

Bedrifter kommer ikke til å endre seg selv, sier han.

gjemme seg