211service.com
Hvordan WeChat sensurerer private samtaler, automatisk i sanntid
Konseptuell illustrasjon av WeChat-bildesensurering Ms. Tech
WeChat er et vindu inn i fremtiden til internett på mange forskjellige måter.
Basert i Kina og med over 1,1 milliarder globale brukere, er det en av verdens mest avanserte og populære apper. Det som er bemerkelsesverdig er måten det når inn i så mange hjørner av en kinesers liv: det er måten mye av landet chatter, betaler, spiller, beveger seg på og mye mer. Når Mark Zuckerberg tenker på fremtiden til Facebook, er det stadig mer WeChat han prøver å etterligne .
Det er mer med denne såkalte superappen enn meldinger, mat, biler og betalinger. Den altomfattende ambisjonen til WeChat inkluderer noe av den mest banebrytende, hurtigvirkende og vidtrekkende sensurteknologien på jorden.
Ny forskning fra University of Torontos CitizenLab trekker teppet tilbake for hvordan WeChats sanntids, automatiske sensur av tekst og bilder brukes til å utøve kontroll over politisk diskusjon om emner som spenner fra internasjonale spørsmål som handelskrigen med USA til innenlandske skandaler som forsvinningen av rettsdokumenter i en tvist i 2018 mellom to kinesiske gruveselskaper på flere milliarder dollar. All diskusjon er til syvende og sist underlagt den kinesiske regjeringens godkjenning.
WeChats sensurer står overfor to typer utfordringer. Store offentlige innlegg på WeChat Moments, en offentlig funksjon som ligner på Facebooks tidslinje, blir gransket og filtrert av algoritmer som noen ganger kan ta over 10 sekunder å kjøre – et istempo på sosiale medier. Men en-til-en meldinger og gruppemeldinger er et helt annet problem, fordi de ofte er intime og umiddelbare samtaler. Det krever sanntidssensur.
Tekst er relativt enkel å søke og sensurere. Bildefiltrering er vanskeligere, spesielt når du prøver å undersøke og sensurere bildene nesten umiddelbart. For å utføre denne oppgaven holder WeChat en massiv og stadig voksende indeks over MD5-hasher, små kryptografiske datasignaturer som er unike for hver fil. Når et sensurert bilde sendes, vil det bli fanget opp av hash-indeksen og slettet. Verken avsender eller mottaker vil sannsynligvis vite at noe ble sensurert.
Hvis bildet ikke umiddelbart sensureres, sendes det til automatisk analyse. Ved å bruke optisk tegngjenkjenning undersøkes bildet for tekst (det var en gang en enkel vei forbi sensurer å sende skjermbilder av avisartikler). Bildet blir deretter sjekket for visuell likhet med andre sensurerte bilder. Såkalt skadelig innhold – inkludert alt om internasjonal eller innenrikspolitikk som anses som uønsket av det kinesiske kommunistpartiet – vil bli snuset opp, fjernet fra samtalen og deretter lagt til den originale hash-indeksen, som flagger det for umiddelbar sensur fra det øyeblikket og fremover . Det er et selvforsterkende system som vokser for hvert bilde som sendes. Sistnevnte systemer brukes også på WeChats Moments for å sjekke og bygge selskapets dynamiske svarteliste.
Den kinesiske teknologigiganten Tencent, som eier WeChat, er under et stort press fra Beijing for å implementere effektiv sensurteknologi, sier Adam Segal, direktør for det digitale og cyberspace-politiske programmet ved Council on Foreign Relations. De kinesiske firmaene er alle ansvarlige for innhold, og selv om de har stolt på titusenvis av menneskelige sensorer, har de også utviklet nye [maskinlæring]-tilnærminger til fjerning av innhold. Inne i Kina er det en del av den større trenden under Xi Jinping med å stramme kontrollen på det kinesiske internett og samfunnet bredere.
WeChat er så utbredt i Kina at utsiktene til å bli suspendert eller utestengt kan forstyrre liv. Appen kombinerer funksjonene til Facebook, Uber, GrubHub og mer. Du kan bestille legetimer, betale strømregninger, snakke med profesjonelle kontakter eller engasjere offentlige tjenester.
Dette har virkelig blitt en mega-app, sier Sarah Cook, seniorforskningsanalytiker for Øst-Asia ved den pro-demokratiske forskningsgruppen Freedom House. Det er veldig vanskelig å fungere i det moderne kinesiske samfunnet uten å bruke WeChat, og derfor er den avkjølende effekten reell.
Under ledelse av Beijing er Tencents sensurer dyktige lydhøre for aktuelle saker. I tillegg til dødelige historiske begivenheter som protestene på Den himmelske freds plass og kulturrevolusjonen, legges det raskt til nye begivenheter.
Forskere fant ut at nyhetsverdige hendelser som arrestasjonen av en Huawei-leder anklaget for svindel og CRISPR-baby-skandalen der en kinesisk vitenskapsmann annonserte fødselen av jenter med redigert genom, utløste sensurbølger. Det samme gjorde en rekke andre problemer, som konflikt med USA og innenlandsk korrupsjon eller andre problemer.
En hendelse utløste enda flere sensurerte bilder: i desember 2018 brøt det ut en skandale da den kinesiske høyesterett innrømmet forsvinningen av dokumenter i en milliardtvist mellom gruveselskaper. Forskere fant at dusinvis av bilder relatert til det påståtte tyveriet av dokumentene ble sensurert.
De siste årene har du hatt kombinasjonen av å stramme inn sensurrestriksjoner og stramme kontroller, sier Cook. Det er mindre offisiell toleranse for samtaler, uttrykk og nettverksbygging som tidligere har blitt tolerert. Du har sett Tencent og WeChat, spesielt, bli rammet med bøter. Så nå prøver de å bruke nye metoder for å fange opp såkalt «skadelig innhold» som det kinesiske kommunistpartiet ønsker å stoppe. Det er her sanntids automatisert sensur kommer inn.