Big Techs oppmerksomhetsøkonomi kan reformeres. Dette er hvordan.

Ms Tech | Getty

Denne uken gjennomførte en voldelig mobb det største angrepet på Capitol, setet for det amerikanske demokratiet, på mer enn 200 år, drevet av den falske troen på at presidentvalget var stjålet. Hovedforfatteren av den påstanden var president Donald Trump, men mobbens beredskap til å tro at det i stor grad var et produkt av oppmerksomhetsøkonomien som moderne teknologi har skapt.

Nyhetsfeeds på Facebook eller Twitter opererer etter en forretningsmodell som gir oppmerksomheten til milliarder av mennesker hver dag, sorterer tweets, innlegg og grupper for å finne ut hvilke som får mest engasjement (klikk, visninger og delinger) – hva som blir sterkest følelsesmessig. reaksjoner. Disse kommodifiserende oppmerksomhetsplattformene har fordreid den kollektive psyken. De har ført til smalere og sprøere syn på verden.

Merk: Dette essayet er et tilpasset utdrag fra Det nye mulige: Visjoner om vår verden utover krisen , publiseres 26. januar 2021 av Cascade Books.

YouTubes anbefalingsalgoritmer, som bestemmer 70 % av den daglige seertiden for milliarder av mennesker, foreslår hva som er ment å være lignende videoer, men driver faktisk seerne til mer ekstremt, mer negativt eller mer konspiratorisk innhold fordi det er det som holder dem på skjermene deres lenger. I årevis anbefalte YouTube inspirasjon – anoreksifremmende videoer – til tenåringsjenter som så på videoer om slanking. Og når folk så vitenskapelige videoer av NASAs månelanding, anbefalte YouTube videoer om flat-jordens konspirasjonsteori. Det gjorde dette hundrevis av millioner ganger. Nyhetsfeeds og anbefalingssystemer som dette har skapt en nedadgående spiral av negativitet og paranoia, og sakte koblet milliarder av menneskers oppfatning av virkeligheten fra virkeligheten selv.

Relatert historie

Hvordan en internettløgn om Capitol-invasjonen ble til en umiddelbar konspirasjonsteori Falske påstander om at invasjonen av Kongressen ble iscenesatt spredte seg i et forrykende tempo – takket være aktivister, media og republikanske politikere.

Å se virkeligheten klart og sannferdig er grunnleggende for vår evne til å gjøre hva som helst. Ved å tjene penger og varegjøre oppmerksomheten, har vi solgt bort vår evne til å se problemer og vedta kollektive løsninger. Dette er ikke nytt. Nesten hver gang vi lar livsstøttesystemene på planeten eller samfunnet vår bli kommodifisert, driver det andre sammenbrudd. Når du kommodifiserer politikk med AI-optimaliserte mikromålrettede annonser, fjerner du integritet fra politikk. Når du råvarer mat, mister du kontakten med livssyklusen som gjør landbruket bærekraftig. Når du omformer utdanning til digitale innholdsstrømmer, mister du sammenhengen mellom menneskelig utvikling, tillit, omsorg og lærerautoritet. Når du commodify kjærlighet ved å gjøre folk til å spille kort på Tinder, bryter du den komplekse dansen som er involvert i å skape nye forhold. Og når du samler kommunikasjon i deler av innlegg og kommentartråder på Facebook, fjerner du kontekst, nyanser og respekt. I alle disse tilfellene eroderer utvinningssystemer sakte grunnlaget for et sunt samfunn og en sunn planet.

Skiftesystemer for å beskytte oppmerksomheten

E.O. Wilson, den berømte biologen, foreslo at mennesker bare skulle kjøre halve jorden, og at resten skulle stå i fred. Tenk deg noe lignende for oppmerksomhetsøkonomien. Vi kan og bør si at vi ønsker å beskytte menneskelig oppmerksomhet, selv om det ofrer en del av fortjenesten til Apple, Google, Facebook og andre store teknologiselskaper.

Annonseblokkere på digitale enheter er et interessant eksempel på hva som kan bli et strukturelt skifte i den digitale verden. Er annonseblokkere en menneskerettighet? Hvis alle kunne blokkere annonser på Facebook, Google og nettsteder, ville ikke internett kunne finansiere seg selv, og reklameøkonomien ville tapt enorme mengder inntekter. Fornekter det resultatet retten? Er oppmerksomheten din en rettighet? Eier du den? Skal vi sette en pris på det? Å selge menneskelige organer eller slaver kan møte en etterspørsel og generere fortjeneste, men vi sier at disse varene ikke hører hjemme på markedet. I likhet med mennesker og deres organer, bør menneskelig oppmerksomhet være noe penger ikke kan kjøpe?

Er oppmerksomheten din en rettighet? Eier du den? Skal vi sette en pris på det? I likhet med mennesker og deres organer, bør menneskelig oppmerksomhet være noe penger ikke kan kjøpe?

Covid-19-pandemien, Black Lives Matter-bevegelsen og klimaendringer og andre økologiske kriser har gjort flere og flere mennesker oppmerksomme på hvor ødelagte våre økonomiske og sosiale systemer er. Men vi kommer ikke til røttene til disse sammenkoblede krisene. Vi faller for intervensjoner som føles som det rette svaret, men som i stedet er feller som i det skjulte opprettholder status quo. Litt bedre politipraksis og kroppskameraer forhindrer ikke politiforseelser. Å kjøpe en Prius eller Tesla er ikke nok til å virkelig redusere karbonnivået i atmosfæren. Å erstatte plastsugerør med biologisk nedbrytbare kommer ikke til å redde havene. Instagrams trekk for å skjule antall likes forandrer ikke tenåringer sine mentale helseproblemer, når tjenesten er basert på konstant sosial sammenligning og systemisk kapring av den menneskelige trangen til tilkobling. Vi trenger mye dypere systemreformer. Vi må skifte institusjoner for å tjene allmennheten på måter som står i forhold til arten og omfanget av utfordringene vi står overfor.

Ved Center for Humane Technology var en ting vi gjorde, å overbevise Apple, Google og Facebook om å vedta – i det minste delvis – oppdraget til Time Well Spent selv om det gikk i strid med deres økonomiske interesser. Dette var en bevegelse vi lanserte gjennom brede offentlige mediebevissthetskampanjer og talsmann, og den fikk tiltro til teknologidesignere, bekymrede foreldre og elever. Den ba om å endre den digitale verdens insentiver fra et kappløp om tid brukt på skjermer og apper til et kappløp mot toppen for å hjelpe folk til å bruke tiden godt. Det har ført til reell endring for milliarder av mennesker. Apple, for eksempel, introduserte Skjermtidsfunksjoner i mai 2018 som nå leveres med alle iPhones, iPads og andre enheter. I tillegg til å vise alle brukere hvor mye tid de bruker på telefonen, tilbyr Screen Time et dashbord med foreldrekontroll og app-tidsbegrensninger som viser foreldre hvor mye tid barna deres bruker på nettet (og hva de gjør). Google lanserte sin lignende Digital velvære initiativ omtrent samtidig. Den inkluderer ytterligere funksjoner vi har foreslått, for eksempel å gjøre det enklere å koble fra før sengetid og begrense varsler. På samme måte introduserte YouTube Ta en pause-varsler.

Disse endringene viser at selskaper er villige til å ofre seg, selv i riket av milliarder av dollar. Likevel har vi ennå ikke endret kjernelogikken til disse selskapene. For et selskap å gjøre noe mot sine økonomiske interesser er én ting; å gjøre noe mot DNAet til formålet og målene er en helt annen ting.

Arbeider mot kollektiv handling

Vi trenger dype, systemiske reformer som vil flytte teknologiselskaper til å tjene allmennheten først og fremst. Vi må tenke større på hvor mye systemendring som kan være mulig, og hvordan vi kan utnytte den kollektive viljen til folket.

Relatert historie

Evangeliske leter etter svar på nettet. De finner QAnon i stedet. Hvordan den voksende pro-Trump-bevegelsen jakter på kirkegjengere for å spre sine konspirasjonsteorier.

Nylig på Center for Humane Technology intervjuet vi Christiana Figueres, den tidligere eksekutivsekretæren for FNs klimakonvensjon (2010–2016) , for vår podcast Your Udivided Attention. Hun var ansvarlig for samarbeidsdiplomatiet som førte til Paris-avtalen, og vi lærte hvordan hun var i stand til å gjøre dette – å få 195 forskjellige land, mot alle odds, til å ta delte, i god tro resolusjoner mot klimaendringer. Figueres trodde i utgangspunktet ikke at det var mulig å få så mange land til å bli enige, men hun innså at det å være vert for Paris-konvensjonen betydde at hun selv måtte endre seg. Hun måtte oppriktig tro det var mulig å få landene til å forplikte seg til klimatiltak. Det var slik hun da kunne fokusere på å få deltakerlandene til å tro på muligheten for å ta tak i klimaendringene også. Der tidligere internasjonale klimaforhandlinger hadde mislyktes, brakte Figueres innsats nasjoner sammen for å bli enige om finansiering, nye teknologier og andre verktøy for å holde den globale temperaturstigningen under 2 eller, enda bedre, 1,5 °C.

Når det gjelder teknologiindustrien, har vi et forsprang ved at vi ikke trenger å overbevise hundrevis av land eller millioner av mennesker. Færre enn 10 personer driver det 21. århundres kraftigste digitale infrastruktur – de såkalte FAANG-selskapene, bestående av Facebook, Amazon, Apple, Netflix og Alphabet (tidligere Google). Hvis disse personene kom sammen og ble enige om at maksimering av aksjonærfortjeneste ikke lenger var det vanlige målet, kan den digitale infrastrukturen være annerledes. Hvis Christiana Figueres kunne få til konsensus mellom 195 nasjoner, kunne vi vurdere muligheten for å gjøre det med 10 teknologisjefer.

En ny økonomi for human teknologi

Flere økonomiske prinsipper må endres for at teknologi skal tilpasses menneskeheten og planeten. En av disse er vekstparadigmet. Du kan ganske enkelt ikke utføre en logikk med uendelig vekst på et begrenset underlag. Drivkraften for uendelig økonomisk vekst fører til en planetarisk økologisk krise. For teknologiselskaper fører det å forfølge den uendelige veksten av ekstrahert menneskelig oppmerksomhet til en lignende krise for global bevissthet og sosialt velvære. Vi må skifte til en oppmerksomhetsøkonomi etter vekst som setter mental helse og velvære i sentrum for våre ønskede resultater.

Flere økonomiske prinsipper må endres for at teknologi skal tilpasses menneskeheten og planeten.

Et lite hint om dette skiftet finner sted i land inkludert New Zealand og Skottland, hvor organisasjoner som Wellbeing Economy Alliance jobber med å skifte fra en økonomi som fremmer bruttonasjonalproduktet (BNP) til en med disse alternative prioriteringene. Ledere spør hvordan velferd kan informere offentlig forståelse av politikk og politiske valg, veilede beslutninger og bli et nytt grunnlag for økonomisk tenkning og praksis.

Et annet skifte mot en mer human teknologi krever et bredere spekter av interessenter som kan skape ansvarlighet for den langsiktige sosiale konsekvensen av våre handlinger. Akkurat nå er det mulig for store teknologiselskaper å tjene penger ved å selge tynnere og tynnere falske oppmerksomhetsdeler – å selge falske klikk fra falske nyhetskilder til falske annonsører. Disse selskapene tjener penger selv om det lenken eller artikkelen fører til er ekstremt feil og sprer feilinformasjon. Denne opportunismen forringer informasjonsøkologien ved å ødelegge vår evne til å stole på kunnskapskilder eller dele tro på hva som er sant, noe som igjen ødelegger vår evne til å ta gode beslutninger. Resultatet er polarisering, feilinformasjon og sammenbrudd av demokratisk medborgerskap. Vi må skape mekanismer som motiverer deltakere i den digitale verden til å vurdere lengre tidsrammer og den bredere innvirkningen deres handlinger har på samfunnet.

Her spiller menneskelig vilje en viktig rolle. Hva om lederne bak Apples App Store-inntektsdistribusjonsmodell – som fungerer som sentralbanken eller Federal Reserve for oppmerksomhetsøkonomien – rett og slett valgte å distribuere inntekter til app-produsenter basert ikke på hvis brukere kjøpte flest virtuelle varer eller brukte mest tid på å bruke appen, men hvem av app-produsentene samarbeidet best med andre apper på telefonen for å hjelpe alle medlemmer av samfunnet til å leve mer etter verdiene sine?

Til syvende og sist handler det om å sette de riktige reglene. Det er vanskelig for en aktør å optimalisere for trivsel og samsvar med samfunnets verdier når andre aktører fortsatt konkurrerer om begrensede ressurser og makt. Uten regler og rekkverk vinner de mest hensynsløse skuespillerne. Det er grunnen til at lovgivning og politikk er nødvendig, sammen med folkets kollektive vilje til å vedta dem. Den større metakrisen er at de demokratiske prosessene for å lage rekkverk opererer i et mye langsommere tempo enn den teknologiske utviklingen som skal til for å utgjøre en forskjell. Teknologien vil fortsette å utvikle seg raskere enn skadene kan forstås godt av demokratiske institusjoner fra det 20. århundre. Teknologisektoren må selv komme sammen, i samarbeid og finne måter å operere på slik at felles samfunnsmål settes over hyperkonkurranse og profittmaksimering.

Til slutt må vi erkjenne den massive asymmetriske makten som teknologiselskaper har over individer og samfunn. De kjenner oss bedre enn vi kjenner oss selv. Enhver asymmetrisk maktstruktur må følge tillits- eller omsorgspliktmodellen eksemplifisert av en god lærer, terapeut, lege eller omsorgsarbeider – det vil si at den må fungere i tjeneste for de med mindre makt. Det må ikke operere med en forretningsmodell basert på utvinning. Oppgraderte forretningsmodeller for teknologi må være generative: de må behandle oss som kunden og ikke produktet, og samsvare med våre mest dyptliggende verdier og menneskelighet.

Mot å være menneske

E.O. Wilson har sagt: Problemet med menneskeheten er at vi har paleolittiske følelser, middelalderske institusjoner og gudelignende teknologi. Vi trenger å omfavne våre paleolittiske følelser i alle deres faste svakheter og sårbarheter. Vi må oppgradere institusjonene våre for å inkludere mer visdom, klokskap og kjærlighet. Og vi må bremse utviklingen av en gudelignende teknologi hvis krefter går utover vår kapasitet til å styre retningen til skipet vi alle er på.

Området for hva som er mulig fortsetter å utvide seg, men det oppstår samtidig med eksponentielt utfordrende globale problemer som krever bedre informasjon, lederskap og handling. I stedet for å akseptere et kappløp mot bunnen som nedgraderer og splitter oss, kan vi sammen skape et teknologilandskap som muliggjør et kappløp mot toppen – en som støtter vår sammenkobling, høflighet og dype glans. Endring tror jeg er menneskelig mulig.

Tristan Harris er medgründer og president for Center for Humane Technology.

gjemme seg