Er Kinas sosiale kredittsystem så orwellsk som det høres ut?

Kategori: Kunstig intelligens Lagt ut 26. februar

I den vestlige fantasien er Kinas beryktede sosiale kredittsystem et AI-drevet overvåkingsregime som bryter menneskerettighetene. Vi hører ofte om eksempler på bruken av det for å hevde politisk kontroll, for eksempel i forrige måned, da en mann ble fratatt 950 av 1000 poeng – etter å ha blitt dokket 10 poeng hver gang han begjærte regjeringen om hjelp med morens medisinske tvist. Men sjelden hører vi om den andre fortellingen, der det er en styringsmekanisme som ønskes velkommen av mange innbyggere som er lei av utbredt svindel, forfalskede produkter og folkehelsesvikt.

Dette er den ikke fullt så enkle virkeligheten skildret av en historie fra South China Morning Post . (Selv om det, for å være rettferdig, er spørsmål om nettopp hvor uavhengig SCMP er .) I landsbyen Jiakuang Majia i byen Rongcheng, et av et dusin steder som er hyllet for sin suksess med å pilotere programmet, sier innbyggerne at ordningen stort sett har vært en positiv innflytelse – om enn en innflytelse i det hele tatt. Det er faktisk ingen AI eller annen teknologi involvert. Snarere spores poeng med papir og manuelt arbeid – og mange anser systemet som et perifert byråkrati, langt fra en drivkraft i deres daglige liv.

Kinas sosiale kredittsystem er utformet for å stimulere til lovlighet og integritet. Innbyggere kan tjene poeng for gode gjerninger som frivillig arbeid, donering av blod eller tiltrekke investeringer til byen; de kan miste dem for lovbrudd som brudd på trafikkreglene, unndragelse av skatter eller unnlatelse av å ta vare på sine eldre foreldre. Deres poengsum påvirker deretter deres tilgang til fellesskapets velferdsprogrammer: Høyscorere mottar fordeler som gratis medisinske kontroller og rabatter på varmeregninger; lavskårere mister statlige subsidier eller blir utestengt fra statlige jobber.

Men mens denne siste detaljen ofte karakteriseres i Vesten som et frihetskrenkende maktgrep av en autoritær regjering, hevder mange forskere at sosiale kredittpoeng ikke vil ha den omfattende kontrollerende effekten som antas. Dataene ordningen samler inn stemmer faktisk ikke overens med dataene som for eksempel en bank trenger for å avgjøre om de skal gi deg et lån. Forskrifter har også vært revidert i tilfeller av intens pushback: Suining County ble kvitt sine poengfradrag for uautoriserte begjæringer, for eksempel på grunn av utbredt upopularitet. Derfor, sier disse lærde, fungerer systemet mer som et propagandaverktøy enn et håndhevingsverktøy. Andre peke ut at det rett og slett er en forlengelse av kinesisk kulturs lange tradisjon for å fremme god moralsk oppførsel og at kinesiske borgere har et helt annet perspektiv på privatliv og frihet.

Denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.