Hvordan demokratier kan kreve tilbake makten i den digitale verden

Ms Tech | Getty

Bør Twitter sensurere løgner tvitret av den amerikanske presidenten? Bør YouTube fjerne feilinformasjon om covid-19? Bør Facebook gjøre mer mot hatefulle ytringer? Slike spørsmål, som dukker opp daglig i mediedekning, kan få det til å virke som om den viktigste teknologisk drevne risikoen for demokratier er kurasjonen av innhold fra sosiale medieselskaper. Likevel er disse kontroversene bare symptomer på en større trussel: dybden av privatisert makt over den digitale verden.

Alle demokratiske land i verden står overfor den samme utfordringen, men ingen kan desarmere den alene. Vi trenger en global demokratisk allianse for å sette normer, regler og retningslinjer for teknologiselskaper og for å bli enige om protokoller for grenseoverskridende digitale aktiviteter, inkludert valginterferens, nettkrig og netthandel. Innbyggerne er bedre representert når en koalisjon av deres regjeringer – i stedet for en håndfull bedriftsledere – definerer vilkårene for styring, og når kontroller, balanser og tilsynsmekanismer er på plass.

Det er en lang liste over måter teknologiselskaper styrer livene våre på uten mye regulering. På områder fra å bygge kritisk infrastruktur og forsvare den – eller til og med produsere støtende cyberverktøy – til utforming av kunstige intelligenssystemer og myndighetsdatabaser, setter beslutninger tatt i bedriftens interesse normer og standarder for milliarder av mennesker.

I økende grad overtar selskaper statlige roller eller utvikler produkter som påvirker grunnleggende rettigheter. For eksempel er ansiktsgjenkjenningssystemer som aldri ble ordentlig regulert før de ble utviklet og distribuert nå så mye brukt at de frarøver folk deres privatliv. På samme måte samler selskaper systematisk opp private data, ofte uten samtykke – en bransjenorm som regulatorer har vært trege med å ta tak i.

Relatert historie

Hvorfor Kongressen bør se på Twitter og Facebook Hvis amerikanske politikere virkelig bryr seg om skaden nettplattformer kan gjøre, bør de se på nettkonspirasjonsteorier – og hvordan de blir verre av utformingen av sosiale medier.

Siden teknologier utvikler seg raskere enn lover, øker avvikene mellom privat byrå og offentlig tilsyn. Ta for eksempel smartby-selskaper, som lover at lokale myndigheter vil kunne lette trafikkbelastningen ved å overvåke biler i sanntid og justere tidspunktet for trafikklys. I motsetning til for eksempel en vei bygget av et byggefirma, er ikke denne digitale infrastrukturen nødvendigvis i det offentlige. Selskapene som bygger den får innsikt og verdier som kanskje ikke strømmer tilbake til publikum.

Denne ulikheten mellom offentlig og privat sektor er i ferd med å komme ut av kontroll. Det er et informasjonsgap, et talentgap og et datagap. Til sammen utgjør disse et makt- og ansvarlighetsgap. Et helt lag med kontroll over våre daglige liv eksisterer altså uten demokratisk legitimitet og med lite tilsyn.

Hvorfor skal vi bry oss? Fordi beslutninger som selskaper tar om digitale systemer kanskje ikke overholder essensielle demokratiske prinsipper som valgfrihet, rettferdig konkurranse, ikke-diskriminering, rettferdighet og ansvarlighet. Utilsiktede konsekvenser av teknologiske prosesser, feil beslutninger eller forretningsdrevne design kan skape alvorlige risikoer for offentlig sikkerhet og nasjonal sikkerhet. Og makt som ikke er underlagt systematiske kontroller og balanser er i strid med de grunnleggende prinsippene i de fleste demokratier.

I dag karakteriseres teknologiregulering ofte som en treveiskonkurranse mellom de statsledede systemene i Kina og Russland, det markedsstyrte i USA, og en verdibasert visjon i Europa. Realiteten er imidlertid at det bare er to dominerende systemer for teknologistyring: det privatiserte beskrevet ovenfor, som gjelder i hele den demokratiske verden, og et autoritært.

For å bringe verdensomspennende teknologibedrifter til hæl, trenger vi noe nytt: en global allianse som setter demokrati først.

Laissez-faire-tilnærmingen til demokratiske regjeringer, og deres motvilje mot å tøyle private selskaper hjemme, spiller også ut på den internasjonale scenen. Mens demokratiske regjeringer i stor grad har tillatt selskaper å styre, har autoritære regjeringer tatt til å forme normer gjennom internasjonale fora. Dette uheldige skiftet faller sammen med en trend med demokratisk tilbakegang over hele verden, ettersom store demokratier som India, Tyrkia og Brasil har blitt mer autoritære. Uten bevisst og umiddelbar innsats fra demokratiske regjeringer for å vinne tilbake byråer, vil bedrifts- og autoritære styringsmodeller erodere demokratiet overalt.

Betyr det at demokratiske myndigheter bør bygge sine egne sosiale medieplattformer, datasentre og mobiltelefoner i stedet? Nei. Men de trenger snarest å gjenvinne sin rolle i å skape regler og restriksjoner som opprettholder demokratiets kjerneprinsipper på teknologiområdet. Til nå har disse regjeringene sakte begynt å gjøre det med lover på nasjonalt nivå eller, i Europas tilfelle, på regionalt nivå. Men for å bringe verdensomspennende teknologibedrifter til hæl, trenger vi noe nytt: en global allianse som setter demokratiet først.

Slår seg sammen

Globale institusjoner født i kjølvannet av andre verdenskrig, som FN, Verdens handelsorganisasjon og Den nordatlantiske traktatorganisasjonen, skapte en regelbasert internasjonal orden. Men de klarer ikke å ta den digitale verden fullt ut med i sine mandater og agendaer, selv om mange endelig begynner å fokusere på digitalt samarbeid, e-handel og cybersikkerhet. Og mens digital handel (som krever egne reguleringer, som regler for e-handel og kriterier for utveksling av data) er av økende betydning, har ikke WTO-medlemmer blitt enige om globale regler som dekker tjenester for smart produksjon, digitale forsyningskjeder og andre digitalt aktiverte transaksjoner.

Det vi trenger nå er derfor en stor demokratisk koalisjon som kan tilby et meningsfylt alternativ til de to eksisterende modellene for teknologistyring, den privatiserte og den autoritære. Det bør være en global koalisjon, som tar imot land som oppfyller demokratiske kriterier.

Community of Democracies, en koalisjon av stater som ble opprettet i 2000 for å fremme demokratiet, men som aldri hadde stor innvirkning, kunne fornyes og oppgraderes til å inkludere et ambisiøst mandat for styring av teknologi. Alternativt kan en D7 eller D20 etableres - en koalisjon som ligner G7 eller G20, men sammensatt av de største demokratiene i verden.

En slik gruppe ville bli enige om forskrifter og standarder for teknologi i tråd med demokratiske kjerneprinsipper. Da ville hvert medlemsland implementert dem på sin egen måte, omtrent som EUs medlemsland gjør i dag med EU-direktiver.

Hvilke problemer ville en slik koalisjon løse? Koalisjonen kan for eksempel vedta en delt definisjon av ytringsfrihet for sosiale medier å følge. Kanskje den definisjonen vil ligne på den bredt delte europeiske tilnærmingen, der ytring er fri, men det er klare unntak for hatytringer og oppfordringer til vold.

Eller koalisjonen kan begrense praktiseringen av mikromålretting av politiske annonser på sosiale medier: det kan for eksempel forby selskaper fra å tillate annonsører å skreddersy og målrette annonser på grunnlag av noens religion, etnisitet, seksuelle legning eller innsamlede personopplysninger. I det minste kan koalisjonen gå inn for mer åpenhet om mikromålretting for å skape mer informert debatt om hvilke datainnsamlingspraksis som bør være forbudt.

Den demokratiske koalisjonen kunne også vedta standarder og metoder for tilsyn for digital drift av valg og kampanjer . Dette kan bety å bli enige om sikkerhetskrav for stemmeautomater, pluss anonymitetsstandarder, stresstester og verifiseringsmetoder som å kreve en sikkerhetskopi på papir for hver stemme. Og hele koalisjonen kan bli enige om å innføre sanksjoner mot ethvert land eller ikke-statlig aktør som forstyrrer et valg eller folkeavstemning i noen av medlemslandene.

Relatert historie

Hvorfor Facebooks forbud mot politiske annonser tar på seg feil problem Et moratorium for nye politiske annonser rett før valgdagen takler en slags utfordring forårsaket av sosiale medier. Det er bare ikke den som betyr noe.

En annen oppgave koalisjonen kan ta på seg er å utvikle handelsregler for den digitale økonomien . Medlemmene kunne for eksempel bli enige om å aldri kreve at selskaper overlater kildekoden til programvaren til statlige myndigheter, slik Kina gjør. De kan også bli enige om å vedta felles databeskyttelsesregler for grenseoverskridende transaksjoner. Slike grep vil tillate en slags digital frihandelssone å utvikle seg på tvers av likesinnede nasjoner.

Kina har allerede noe lignende i form av eWTP, en handelsplattform som tillater global tollfri handel for transaksjoner under en million dollar. Men eWTP, som ble startet av e-handelsgiganten Alibaba, drives av private selskaper basert i Kina. Den kinesiske regjeringen er kjent for å ha tilgang til data gjennom private selskaper. Uten et offentlig, regelbasert alternativ kan eWTP bli den de facto globale plattformen for digital handel, uten demokratisk mandat eller tilsyn.

En annen sak denne koalisjonen kunne ta opp ville være sikkerhet i forsyningskjeder for enheter som telefoner og bærbare datamaskiner. Mange land har forbudt smarttelefoner og telekomutstyr fra Huawei på grunn av frykt for at selskapets teknologi kan ha innebygde sårbarheter eller bakdører som den kinesiske regjeringen kan utnytte. Å proaktivt utvikle felles standarder for å beskytte integriteten til forsyningskjeder og produkter vil skape like konkurransevilkår mellom koalisjonens medlemmer og bygge tillit til selskaper som godtar å følge dem.

Det neste området som kan være verdig koalisjonens oppmerksomhet er cyberkrig og hybridkonflikt (hvor digital og fysisk aggresjon kombineres). I løpet av det siste tiåret har et økende antall land identifisert hybrid konflikt som en nasjonal sikkerhetstrussel. Enhver nasjon med svært dyktige cyberoperasjoner kan skape kaos for land som ikke klarer å investere i forsvar mot dem. I mellomtiden har cyberangrep fra ikke-statlige aktører forskjøvet maktbalansen mellom stater.

Akkurat nå er det imidlertid ingen internasjonale kriterier som definerer når et nettangrep regnes som en krigshandling. Dette oppfordrer dårlige skuespillere til å slå til med mange små slag. I tillegg til deres umiddelbare økonomiske eller (geo)politiske effekt, tærer slike angrep på tilliten til at rettferdighet vil skje.

En demokratisk koalisjon kan jobbe med å lukke dette ansvarsgapet og sette i gang en uavhengig domstol for å etterforske slike angrep, kanskje lik Haags faste voldgiftsdomstol, som avgjør internasjonale tvister. Ledere av den demokratiske alliansen kunne da avgjøre, på grunnlag av domstolens kjennelser, om økonomiske og politiske sanksjoner skulle følge.

Dette er bare noen av måtene en global demokratisk koalisjon kan fremme regler som sårt mangler i den digitale sfæren. Koalisjonsstandarder kan effektivt bli globale hvis medlemmene representerer en god del av verdens befolkning. EUs generelle databeskyttelsesforordning gir et eksempel på hvordan dette kan fungere. Selv om GDPR bare gjelder for Europa, må globale teknologifirmaer følge reglene for sine europeiske brukere, og dette gjør det vanskeligere å protestere ettersom andre jurisdiksjoner vedtar lignende lover. På samme måte kan ikke-medlemmer av den demokratiske koalisjonen ende opp med å følge mange av dens regler for å nyte fordelene.

Hvis demokratiske regjeringer ikke overtar mer makt i teknologistyring når autoritære regjeringer blir sterkere, vil den digitale verdenen – som er en del av hverdagen vår – ikke være demokratisk. Uten et system med klar legitimitet for de som styrer – uten kontroller, balanser og mekanismer for uavhengig tilsyn – er det umulig å holde teknologiselskaper ansvarlige. Bare ved å bygge en global koalisjon for teknologistyring kan demokratiske regjeringer igjen sette demokratiet først.

Marietje Schaake er internasjonal policy-direktør ved Stanford Universitys Cyber ​​Policy Center og en internasjonal policy-stipendiat ved Stanfords Institute for Human-Centered Artificial Intelligence. Mellom 2009 og 2019 tjente Marietje som medlem av Europaparlamentet for det nederlandske liberale demokratiske partiet.

gjemme seg