211service.com
Hvordan forgifte dataene som Big Tech bruker for å overvåke deg
Eric Risberg / AP
Hver dag etterlater livet ditt et spor av digitale brødsmuler som teknologigigantene bruker for å spore deg. Du sender en e-post, bestiller mat, streamer et show. De får tilbake verdifulle pakker med data for å bygge opp forståelsen av dine preferanser. Disse dataene mates inn i maskinlæringsalgoritmer for å målrette deg med annonser og anbefalinger. Google innkasserer dataene dine for over 120 milliarder dollar i året med annonseinntekter.
I økende grad kan vi ikke lenger velge bort denne ordningen. I 2019 prøvde Kashmir Hill, den gang reporter for Gizmodo, å gjøre det kuttet fem store teknologigiganter ut av livet hennes . Hun brukte seks uker på å være elendig, og slet med å utføre grunnleggende digitale funksjoner. I mellomtiden kjente teknologigigantene ikke engang en kløe.
Nå foreslår forskere ved Northwestern University nye måter å rette opp denne maktubalansen ved å behandle vår kollektiv data som et forhandlingskort. Tekniske giganter kan ha fancy algoritmer til rådighet, men de er meningsløse uten nok av de riktige dataene å trene på.
I et nytt papir presenteres på Foreningen for Datamaskiner Konferanse om rettferdighet, ansvarlighet og åpenhet neste uke foreslår forskere inkludert PhD-studentene Nicholas Vincent og Hanlin Li tre måter publikum kan utnytte dette til sin fordel:
- Datastreik , inspirert av ideen om arbeidsstreik, som innebærer å holde tilbake eller slette dataene dine slik at et teknologifirma ikke kan bruke dem – for eksempel å forlate en plattform eller installere personvernverktøy.
- Dataforgiftning , som innebærer å bidra med meningsløse eller skadelige data. AdNauseam , for eksempel, er en nettleserutvidelse som klikker på hver enkelt annonse som vises til deg, og dermed forvirrer Googles annonsemålrettingsalgoritmer.
- Bevisst databidrag , som innebærer å gi mening ful data til konkurrenten til en plattform du vil protestere på, for eksempel ved å laste opp Facebook-bildene dine til Tumblr i stedet.
Folk bruker allerede mange av disse taktikkene for å beskytte sitt eget privatliv. Hvis du noen gang har brukt en annonseblokkering eller en annen nettleserutvidelse som endrer søkeresultatene dine for å ekskludere bestemte nettsteder, har du engasjert deg i datastreik og krevd tilbake et byrå for bruken av dataene dine. Men som Hill fant, gjør sporadiske individuelle handlinger som disse ikke mye for å få teknologigigantene til å endre seg deres atferd.
Hva om millioner av mennesker skulle koordinere seg for å forgifte en teknologigigants data godt? Det kan bare gi dem en innflytelse til å hevde kravene deres.
Det kan allerede ha vært noen eksempler på dette. I januar slettet millioner av brukere WhatsApp-kontoene sine og flyttet til konkurrenter som Signal og Telegram etter at Facebook annonserte at de ville begynne å dele WhatsApp-data med resten av selskapet. Utvandringen fikk Facebook til forsinkelse dens politikkendringer.
Bare denne uken, Google også annonsert at det ville slutte å spore enkeltpersoner på nettet og målrette annonser mot dem. Selv om det er uklart om dette er en reell endring eller bare en rebranding, sier Vincent, er det mulig at den økte bruken av verktøy som AdNauseam bidro til denne beslutningen ved å forringe effektiviteten til selskapets algoritmer. (Selvfølgelig er det til syvende og sist vanskelig å si. Den eneste personen som virkelig vet hvor effektivt en datainnflytelsesbevegelse påvirket et system, er teknologiselskapet, sier han.)
Vincent og Li tror disse kampanjene kan utfylle strategier som politisk talsmann og arbeiderorganisering i bevegelsen for å motstå Big Tech.
Det er spennende å se denne typen arbeid, sier Ali Alkhatib, en stipendiat ved University of San Franciscos Center for Applied Data Ethics, som ikke var involvert i forskningen. Det var veldig interessant å se dem tenke på det kollektive eller helhetlige synet: vi kan rote med brønnen og stille krav med den trusselen, fordi det er dataene våre og alt går inn i dette godt sammen.
Relatert historie
Slik mistet vi kontrollen over ansiktene våre Den største studien noensinne av ansiktsgjenkjenningsdata viser hvor mye økningen av dyp læring har ført til tap av personvern.
Det gjenstår fortsatt arbeid for å gjøre disse kampanjene mer utbredt. Informatikere kan spille en viktig rolle i å lage flere verktøy som AdNauseam, for eksempel, som vil bidra til å senke barrieren for å delta i slike taktikker. Politikere kan også hjelpe. Datastreik er mest effektive når de støttes av sterke personvernlover, for eksempel EUs generelle databeskyttelsesforordning (GDPR), som gir forbrukere rett til å be om sletting av dataene deres. Uten slik regulering er det vanskeligere å garantere at et teknologiselskap vil gi deg muligheten til å skrubbe dine digitale poster, selv om du fjerner kontoen din.
Og noen spørsmål gjenstår å besvare. Hvor mange personer trenger en datastreik for å skade et selskaps algoritme? Og hva slags data vil være mest effektive for å forgifte et bestemt system? I en simulering som involverer en filmanbefalingsalgoritme, for eksempel, fant forskerne at hvis 30 % av brukerne gikk i streik, kunne det redusere systemets nøyaktighet med 50 %. Men hvert maskinlæringssystem er annerledes, og bedrifter oppdaterer dem kontinuerlig. Forskerne håper at flere mennesker i maskinlæringsmiljøet kan kjøre lignende simuleringer av forskjellige selskapers systemer og identifisere sårbarhetene deres.
Alkhatib foreslår at forskere bør forske mer på hvordan man kan inspirere til kollektiv datahandling også. Kollektiv handling er veldig vanskelig, sier han. Å få folk til å følge opp pågående handlinger er en utfordring. Og så er det utfordringen med hvordan du får en gruppe mennesker som er svært forbigående – i dette tilfellet kan det være folk som bruker en søkemotor i fem sekunder – til å se seg selv som en del av et fellesskap som faktisk har lang levetid?
Disse taktikkene kan også ha nedstrømskonsekvenser som må undersøkes nøye, legger han til. Kan dataforgiftning ende opp med å bare legge til mer arbeid for innholdsmoderatorer og andre personer som har i oppgave å rense og merke selskapenes opplæringsdata?
Men samlet sett er Vincent, Li og Alkhatib optimistiske om at datainnflytelse kan bli et overbevisende verktøy for å forme hvordan teknologigiganter behandler dataene våre og personvernet vårt. AI-systemer er avhengige av data. Det er bare et faktum om hvordan de jobber, sier Vincent. Til syvende og sist er det en måte publikum kan få makt på.