Podcast: Vil du ha forbrukernes personvern? Prøv Kina

bilde av noen som skannes håndleddet for å fastslå deres covid-19-status

Kevin Frayer/Getty Images





Fortellingen i USA om at kineserne ikke bryr seg om personvern er rett og slett feilaktig. Det er sant at den kinesiske regjeringen har bygget et sofistikert overvåkingsapparat (med hjelp fra vestlige selskaper), og fortsetter å spionere på innbyggerne.

Men når det kommer til hva selskaper kan gjøre med folks informasjon, beveger Kina seg raskt mot et datavernregime som, i samsvar med EUs GDPR, er langt strengere enn noen føderal lov i USA.

For september/oktober-utgaven av MIT Technology Review, seniorreporter Karen Hao plukker fra hverandre de vanlige vestlige oppfatningene om hvordan kinesere tenker om datavern. Denne uken på Deep Tech slutter hun seg til vår sjefredaktør, Gideon Lichfield, for å diskutere hvordan forbrukernes private data er beskyttet i verdens største overvåkingsstat.



Sjekk ut flere episoder av Deep Tech her.

Vis notater og lenker

Transkripsjon av hele episoden

Gideon Lichfield: Du har sannsynligvis denne oppfatningen i hodet om at hvis du bor i Kina, er det ikke noe slikt som personvern.

Regjeringen spionerer på alt du gjør. Dataene dine kan brukes til å lage en sosial kredittscore - det er som et mål på om du er en god borger.



Nå, under koronaviruspandemien, må du laste ned en app som heter Health Code. Den gir deg en rød, gul eller grønn kode basert på dataene dine, og den må være grønn for at du skal komme deg på et tog, for eksempel, eller gå inn i en butikk.

Mange land har databeskyttelseslover. I Europa er det GDPR, som lar folk bestemme hvilke data som samles inn og oppbevares om dem. Andre land og noen amerikanske stater har tatt i bruk sine egne versjoner. Og den vanlige oppfatningen er at i Kina kan gigantiske teknologiselskaper som Alibaba i utgangspunktet samle så mye data de vil, og folk bryr seg enten ikke eller kan ikke gjøre noe med det. Men det er en feiloppfatning.

Den kinesiske regjeringen spionerer på folk og gjør det mer og mer. Men når det kommer til hvordan private selskaper bruker dataene deres, har kinesiske borgere faktisk krevd mer personvern. Som et resultat har Kina utviklet et ganske sofistikert databeskyttelsesrammeverk.



Og under pandemien har det vært en veldig sunn debatt blant kinesiske borgere på sosiale medier om hvor mye data myndighetene skal kunne samle inn av hensyn til folkehelsen – og hva de bør få lov til å gjøre med det.

I dag på programmet snakker jeg med vår senior reporter om kunstig intelligens, Karen Hao. Historien hennes i den siste utgaven av MIT Technology Review – vårt tema om teknonasjonalisme – skiller virkelig ut de vanlige vestlige oppfatningene om hvordan kinesere tenker om datavern.

Jeg er Gideon Lichfield, sjefredaktør for MIT Technology Review, og dette er Deep Tech.



Anchor for China 24 News: Livet skulle være fullt av undring og håp for 18 år gamle Xu Yuyu. Hun ble nettopp tatt opp ved Nanjing University of Posts and Telecommunications. En telefonsamtale satte imidlertid en stopper for fremtiden hennes.

Karen Hao: Høsten 2016, i den kinesiske kystprovinsen Shandong, feiret en ung kvinne ved navn Xu Yuyu (徐玉玉, Xúyùyù) opptak til college.

Xu kom fra en fattig familie. Bare faren hennes jobbet og han hadde en liten inntekt. Og svært få av Xus slektninger hadde noen gang vært i stand til å gå på college. Men foreldrene hennes hadde møysommelig spart til undervisningen hennes.

Og Xu søkte også om økonomisk støtte. Og noen dager senere fikk hun en telefon om at hun hadde blitt tildelt et stipend. For å samle inn pengene måtte hun først sette inn nesten 10 000 yuan, eller fjorten hundre dollar, på en konto knyttet til universitetet.

Hun kablet midlene til det gitte nummeret. Og den kvelden rykket familien til politiet for å rapportere at de var blitt svindlet.

I en senere gjenfortelling av historien sa Xus far at hans største beklagelse var å spørre politiet om de fortsatt kunne få tilbake pengene sine. Svaret – sannsynligvis ikke – forverret bare Xus ødeleggelse. Og på vei hjem kollapset Xu som ellers var frisk etter et hjerteinfarkt. Hun døde på sykehus to dager senere.

På en pressekonferanse sa direktøren for avdelingen for studentsaker ved Nanjing-universitetet at et stipendoppkall til Xu aldri hadde blitt foretatt.

Sun Xiucheng [ via China 24 News ]: Vi visste ikke om dette før media rapporterte. Det vi hadde var litt grunnleggende informasjon knyttet til hennes prestasjoner i opptaksprøvene. Dette inkluderer ikke hennes familieforhold.

Karen Hao: Samtalen hadde i stedet kommet fra svindlere som hadde betalt en hacker for nummeret hennes, opptaksstatus og forespørselen hennes om økonomisk støtte.

For kinesiske forbrukere som hadde blitt altfor kjent med at deres personlige informasjon ble stjålet, ble Xu et symbol. Saken hennes utløste et nasjonalt ramaskrik for bedre beskyttelse av personvern.

Gideon Lichfield: Så Karen, hvor kom denne ideen fra om at kineserne bare ikke bryr seg om personvern?

Karen Hao: Ja, så jeg tror det er et korn av sannhet i at på et tidspunkt når man sammenligner amerikanske forbrukere med kinesiske forbrukere, kanskje amerikanske forbrukere brydde seg mer enn kinesiske forbrukere. Men jeg tror noe av det er fordi hvert land hadde sine egne sykluser for teknologiutvikling.

Så hvis du tenker på syklusen vår i USA, da vi først begynte å ha teknologiselskaper innen tekniske tjenester, var vi faktisk ganske fornøyde med ideen om å gi opp noe av personvernet vårt i bytte for den bekvemmeligheten.

Og det var ikke før teknologigigantene ble virkelig store og mektige og vi begynte å ha datainnbrudd at vi innså at personvern faktisk er noe vi burde bry oss om og noe vi burde gå inn for. Så jeg tror Kina gjennomgår den samme syklusen.

Gideon Lichfield: Men for vestlige teknologiselskaper som Facebook har denne troen på at kineserne ikke bryr seg om personvern faktisk vært litt praktisk, ikke sant?

Karen Hao: Å, definitivt. Jeg tror det mest beryktede eksemplet på dette er i 2018 da Mark Zuckerberg vitnet for senatet etter Cambridge Analytica-skandalen.

Mark Zuckerberg [via CSPAN-dekning av hans vitnesbyrd fra Senatet i 2018]: Vi må fortsatt gjøre det slik at amerikanske selskaper kan innovere på disse områdene, ellers kommer vi til å falle bak kinesiske konkurrenter og andre rundt om i verden.

Karen Hao: Han sier bokstavelig talt til regulatorer, ikke slå ned på oss for hardt for personverninvasive teknologier som ansiktsgjenkjenning fordi amerikanske selskaper fortsatt trenger å innovere på disse områdene for å utkonkurrere kinesiske selskaper.

Gideon Lichfield: I juli avla administrerende direktører for Apple, Amazon, Google og Facebook alle vitnesbyrd i det amerikanske senatet. Og vi hørte noen av disse temaene dukke opp igjen, gjorde vi ikke?

Karen Hao: Ja. Igjen, Mark Zuckerberg. Hvis du ser på hans skriftlige kommentarer, sa han, ikke reguler oss for hardt fordi vi må konkurrere med kinesiske selskaper. Og disse siste høringene var ikke nødvendigvis fokusert på personvern denne gangen. Men denne fortellingen fortsetter at hvis den amerikanske regjeringen er for hard mot amerikanske teknologigiganter, vil de være i en ulempe fordi den kinesiske regjeringen ikke begrenser kinesiske teknologigiganter i det hele tatt.

Gideon Lichfield: Så Karen, du har vært i Kina på rapporteringsreiser. Har du hatt samtaler med folk der om personvern? Hva slags ting har du hørt?

Karen Hao: Ja. Så fra samtalene mine med folk som bor i Kina, tror jeg det er en økende følelse av tap av kontroll. Og ærlig talt tror jeg at samtalene er ganske like de vi har i USA ved at folk innser og erkjenner at dataene deres blir brukt i økende grad av teknologigiganter på måter de egentlig ikke forstår.

Som i USA snakker vi om hvordan vi ofte ender opp med å se annonser som følger oss rundt på internett. Etter at vi søkte på noe på Google og i Kina, er det det de også snakker om. De bruker Baidu, det er søkemotoren deres, og de vil søke etter noe og plutselig få en annonse opp i en annen app for nøyaktig det samme. Så de føler seg ukomfortable med det. Akkurat som vi føler oss ukomfortable med det.

Gideon Lichfield: Og faktisk var det vestlige selskaper som hjalp Kina med å bygge denne overvåkingsstaten, ikke sant?

Karen Hao: Ja. Jeg mener, på den tiden hadde Kina egentlig ikke særlig god teknologisk infrastruktur. Så de måtte faktisk stole på vestlige selskaper som hadde langt mer avansert teknologi i denne forbindelse.

Så det var selskaper som det amerikanske konglomeratet Cisco, den finske telekomgiganten Nokia, Canadas Nortel-nettverk som alle ble vervet til å hjelpe til med å jobbe med ulike deler av prosjektet. Så disse selskapene hjelper til med å bygge en landsdekkende database for lagring av informasjon om alle kinesiske voksne. Og de utviklet et sofistikert system for å kontrollere informasjonsflyten på internett, som til slutt skulle bli det vi nå kjenner som den store brannmuren.

Og praktisk talt var mange av disse teknologiene i utgangspunktet standardisert for statlig spionasje fordi FBI hadde samarbeidet med den amerikanske regjeringen for å vedta Communications Assistance for Law Enforcement Act i 1994 for å hjelpe til med spioneringen deres. Og så mange av disse selskapene hadde oppdatert systemene sine basert på denne loven. Og eksporterte nå disse teknologiene til Kina for å hjelpe til med å bygge Kinas digitale statlige overvåkingssystem.

Gideon Lichfield: Så infrastrukturen til denne overvåkingsstaten begynner å bygges i 2000, men nedslaget, sensuren, alt dette tar virkelig av etter at Xi Jinping ble president i 2013. Så hvordan ble det?

Karen Hao: Da Xi Jinping kom til makten i 2013, var en av de største tingene han begynte å gjøre å prøve å oppdatere sensursystemene til regjeringen for å matche veksten og bruken av internett. Internett på det tidspunktet hadde gitt opphav til sosiale medieplattformer. Som WeChat WeiBo og det var en oppblomstring av nettaktivitet og nettbasert offentlig diskurs som fikk sensursystemene til å henge etter.

Så høsten 2013 satte partiet i grunnen foten ned. De var som om folk har blitt for komfortable med å si hva de vil. Noen av dem har blitt for komfortable med å kritisere og latterliggjøre det kinesiske kommunistpartiet, og de arresterte hundrevis av innflytelsesrike brukere av sosiale medier for det de beskrev som ondsinnet rykteutveksling. Og så paraderte de en spesielt innflytelsesrik bruker av sosiale medier på nasjonal TV.

Gideon Lichfield: Men nå begynner kinesiske borgere å kreve mer personvern. Hvordan begynte den bevegelsen?

Karen Hao: Jeg tror det omtrent startet rundt 2016. Så i det året var det. I utgangspunktet en serie svært høyprofilerte saker der folk ble stjålet personopplysningene sine og de ble svindlet for betydelige pengebeløp. En spesiell sak er selvfølgelig den tragiske døden til Xu YuYu, som jeg snakket om tidligere.

Og så når saker som hennes skjedde, provoserte det dette enorme sinnet blant den kinesiske offentligheten, fordi de så seg selv i disse menneskene, det var faktisk en undersøkelse i 2016 av internettsamfunnet i Kina som fant 84 % av menneskene de hadde undersøkt hadde lidd av en slags datalekkasje – enten det var deres telefonnumre, adresser, bankkontoopplysninger.

Så dette ble stadig mer bekymringsfullt fordi tjenestene som folk brukte begynte å samle inn mer og mer personlige, intime data, flere mengder data. Og det var da det ble dette presset fra offentligheten til å virkelig begynne å bry seg om personvern.

Gideon Lichfield: Jeg tror mange ville bli overrasket over å høre at Kina nå har en databeskyttelsesstandard som ikke er helt ulik Europas GDPR, og den er faktisk mer omfattende enn det USA har på nasjonalt nivå. Håndheves denne GDPR med kinesiske kjennetegn?

Karen Hao: Ja. Så en av grunnene til at Kinas personvernregime nå ser ut som GDPR, er fordi de faktisk så på GDPR. Komiteen som hadde i oppgave å spesifisere Kinas tilnærming til personvern, de søkte i utgangspunktet verden etter juridiske dokumenter som allerede var skrevet for å nærme seg dette problemet.

Og de oversatte dem alle til kinesisk. Så de oversetter GDPR. De oversatte California, forbrukervernloven. De oversatte OECDs retningslinjer for personvern og en haug med andre ting. Og så studerte de artiklene og språket for å finne ut hva de ønsket å transplantere og hva de ønsket å modifisere til den kinesiske konteksten.

Produktet av dette var Personopplysningsbeskyttelsesspesifikasjonen, som ikke er en lov, men en rekke anbefalinger rundt håndtering og behandling av data. Så det kan faktisk ikke håndheves. Men det er en lov på vei.

Så akkurat nå er den nasjonale folkekongressen, Kinas øverste lovgivende organ, i ferd med å utarbeide, og forventer at den raskt vedtas, loven om beskyttelse av personopplysninger.

Gideon Lichfield: Ok. Så det er denne loven om beskyttelse av personopplysninger designet for å beskytte forbrukere, men vil den begrense statens mulighet til å spionere på folk også?

Karen Hao: I teorien er loven ment å gjelde for enhver enhet som samler inn data. Så det er faktisk ikke bare for private aktører, men så går dette tilbake til spørsmålet om håndheving. Er det faktisk noe insentiv for myndighetene til å håndheve seg selv og begrense sine egne datainnsamlingsoperasjoner. Det er noe Kina-lærde har lurt på i veldig lang tid.

Gideon Lichfield: Så her er vi. 2019 2020. Det er denne urolige balansen mellom statlig overvåking og stadig sterkere forbrukerdatabeskyttelse. Og nå kommer COVID-19. Så hva skjedde da?

Karen Hao: COVID-19 er et veldig interessant øyeblikk for personvern i Kina. Jeg tror grunnen til at den urolige balansen var i stand til å eksistere så lenge er fordi kinesiske borgere faktisk ikke vet hvor mye data som blir samlet inn fra dem av myndighetene.

Men da COVID-19 traff, lanserte regjeringen dette helsekodeapp-initiativet ved hjelp av kinesiske teknologigiganter, der forskjellige lokale myndigheter ga ut disse appene som krevde innbyggerne å legge inn data om hvor de reiste til hva slags symptomer de opplevde .

Og så ville appen spytte ut denne fargekoden basert på risikoen for infeksjon. Så hvis du sannsynligvis ikke er smittet, får du en grønn fargekode, og du kan faktisk gjøre det daglige livet ditt, som å kjøpe mat, gå på kafé, gå til en bokhandel, gå ombord på T-banen. Men hvis du kan være smittet får du en gul eller rød kode og da må du sette i karantene i hjemmet ditt umiddelbart.

Så dette er virkelig første gang vi har sett et tilfelle der det faktisk er en noe sentralisert digital plattform som lykkes med å samle inn data om så mange innbyggere. Det er i utgangspunktet obligatorisk å ha det, hvis du ønsker å kunne bevege deg rundt i verden, men samtidig er det også første gang kinesiske borgere ser at myndighetene samler inn disse dataene i et så stort omfang.

Så på en måte har det vært et stort sprang i myndighetenes evne til å samle inn denne typen data som den alltid har ønsket å samle inn, men det har også vært et stort sprang fremover i innbyggernes bevissthet om denne datainnsamlingen som skjer, og det har gjort dem engstelige og de har begynt å presse seg tilbake.

Gideon Lichfield: Så tror du nå at momentumet mot tøffere personvernlover i Kina bygger seg opp og kommer til å fortsette?

Karen Hao: Jeg stilte faktisk det samme spørsmålet til Samm Sacks. Hvem er en Kina-stipendiat ved New America og Yale. Hun har studert dette en god stund og sier at for å svare på det spørsmålet må du se på målene til den kinesiske ledelsen.

Step Sekker: Du har nasjonale sikkerhetsmål. Du har økonomiske mål. Det er klart at overrekkelse når det gjelder offentlig bruk og tilgang til private data hjelper nasjonale sikkerhetsmål, men det kan i stor grad undergrave økonomiske mål. Dette er en regjering som har snakket om å bygge Kina til en cybersupermakt uten sitat. Og en del av den visjonen er å ha globalt vellykkede, konkurransedyktige kinesiske merker som Huawei, som Tik Tok, ikke sant.

Karen Hao: Men hun sier at disse merkene ikke kommer til å være levedyktige i oversjøiske markeder hvis det er mistanke om måten den kinesiske regjeringen får tilgang til data på.

Step Sekker: Og så det er der hvis vi skulle ta en slags pessimistisk holdning, jeg vil si, se, en, hvorfor skulle regjeringen regjere i sin egen evne til å få tilgang til dataene? Og jeg leter liksom etter indikasjoner på at dette er en regjering som har økonomiske, pragmatiske interesser på hjertet. Men vi ser en slags overvekt av sikkerhetssiden. Og ikke for å spille politisk relativisme her, men jeg vil si at vi også i USA ser et mer nasjonalt sikkerhetsfokusert, dominerende syn når det kommer til å se på teknologi og globale forsyningskjeder.

Gideon Lichfield: Så Karen, vi har snakket om hvordan Kina tenker om datavern og hvordan man regulerer data, men nøyaktig hvordan vil dette påvirke resten av verden?

Karen Hao: Vel, jeg tror det er to store måter. For det første har kinesiske teknologigiganter i økende grad et globalt fotavtrykk. Og når vi bruker disse tjenestene, er det veldig viktig for oss å vite hvilke data som samles inn, hvordan de behandles og hvem som får tilgang. Det er hele kjernen i kampen som skjer akkurat nå med Tik Tok. Appen eies og utvikles av det kinesiske selskapet Bytedance, og folk er bekymret for at dette betyr at den kinesiske regjeringen vil få tilgang til alle sine brukerdata. Vår mangel på forståelse for hvordan Tiktok håndterer dataene sine, blir brukt som grunnlag for det potensielle forbudet i USA, og det kan resultere i et mindre gratis internett. Så jeg tror det er nummer én.

Nummer to er at det ikke bare handler om kinesiske teknologiselskaper. Måten personvernlovgivningen utvikler seg rundt om i verden henger veldig sammen. Da EU ga ut GDPR, var ikke Kina den eneste som så på. Det var en rekke land rundt om i verden som begynte å ta i bruk svært like modeller, for eksempel Brasil. Kinas personvernlov kommer til å ha en veldig lignende innvirkning.

De foreslår i hovedsak en ny modell for verden for hvordan land kan ha sterk forbrukerbeskyttelse uten å begrense statlig overvåking. Og jeg tror det kommer til å være et veldig overbevisende og tiltalende forslag for mange land rundt om i verden.

Gideon Lichfield: Det var det for denne episoden av Deep Tech. Dette er en podcast kun for abonnenter av MIT Technology Review, for å bringe liv i sakene våre journalister tenker og skriver om.

Gideon Lichfield: Du finner Karen Haos artikkel Kinas paradoks for personvern i septemberutgaven av bladet.

Gideon Lichfield: Deep Tech er skrevet og produsert av Anthony Green og redigert av Jennifer Strong og Michael Reilly. Vår tekniske direktør er Jacob Gorski. Og jeg er Gideon Lichfield. Takk for at du lyttet.

Sjekk ut flere episoder av Deep Tech her.

gjemme seg