Hvorfor sosiale medier ikke kan fortsette å moderere innhold i skyggen

Pexels

Tilbake i 2016 kunne jeg telle på én hånd hva slags intervensjoner teknologiselskaper var villige til å bruke for å kvitte seg med feilinformasjon, hatefulle ytringer og trakassering. Gjennom årene har grove mekanismer som blokkering av innhold og utestengelse av kontoer endret seg til et mer komplekst sett med verktøy, inkludert emner i karantene, fjerning av innlegg fra søk, sperring av anbefalinger og nedprioritering av innlegg.

Og likevel, selv med flere alternativer til rådighet, er feilinformasjon fortsatt et alvorlig problem. Det var mye dekning om feilinformasjon på valgdagen – min kollega Emily Drefyuss fant for eksempel at da Twitter prøvde å håndtere innhold ved å bruke hashtaggen #BidenCrimeFamily, med taktikk inkludert deindeksering ved å blokkere søkeresultater, brukere inkludert Donald Trump tilpasset ved å bruke varianter av samme tag . Men vi vet fortsatt ikke mye om hvordan Twitter bestemte seg for å gjøre disse tingene i utgangspunktet, eller hvordan det veier og lærer av måtene brukere reagerer på moderering på.

Hvilke tiltak tok disse selskapene? Hvordan fungerer moderasjonsteamene deres? Hva er prosessen for å ta beslutninger?

Da sosiale medieselskaper suspenderte kontoer og merket og slettet innlegg, forsøkte mange forskere, sivilsamfunnsorganisasjoner og journalister å forstå beslutningene deres. Mangelen på åpenhet om disse beslutningene og prosessene betyr at – for mange – ender valgresultatene med en stjerne i år, akkurat som de gjorde i 2016.

Hvilke tiltak tok disse selskapene? Hvordan fungerer moderasjonsteamene deres? Hva er prosessen for å ta beslutninger? I løpet av de siste årene har plattformselskaper satt sammen store arbeidsstyrker dedikert til å fjerne feilinformasjon om valg og merke tidlige seiererklæringer. Sarah Roberts , en professor ved UCLA, har skrevet om det usynlige arbeidet til moderatorer for plattforminnhold som en skyggeindustri, en labyrint av entreprenører og komplekse regler som publikum vet lite om. Hvorfor vet vi ikke mer?

I tåken etter valget har sosiale medier blitt terrenget for en lavverdig krig mot vår kognitive sikkerhet, med feilinformasjonskampanjer og konspirasjonsteorier som sprer seg. Da den kringkastede nyhetsbransjen tjente rollen som informasjonsportvakt, var det det bekledd med offentlige forpliktelser som å dele tidsriktig, lokal og relevant informasjon. Sosiale medieselskaper har arvet en lignende posisjon i samfunnet, men de har ikke tatt på seg det samme ansvaret. Denne situasjonen har lastet kanonene for påstander om skjevhet og sensur i hvordan de modererte valgrelatert innhold.

Å bære kostnadene

I oktober, I sluttet seg til et ekspertpanel om feilinformasjon, konspirasjon og infodemier for House Permanent Select Committee on Intelligence. Jeg ble flankert av Cindy Otis, en tidligere CIA-analytiker; Nina Jankowicz, en desinformasjonsstipendiat ved Wilson Center; og Melanie Smith, analysesjef i Graphika.

Mens jeg forberedte mitt vitnesbyrd, slet Facebook med å takle QAnon, en militarisert sosial bevegelse som ble overvåket av deres avdeling for farlige organisasjoner og fordømt av huset i et toparti lovforslag . Laget mitt har vært etterforsket QAnon i årevis . Denne konspirasjonsteorien har blitt et yndet tema blant forskere på feilinformasjon på grunn av alle måtene den har vært utvidbar, tilpasningsdyktig og motstandsdyktig i møte med plattformselskapers innsats for å sette den i karantene og fjerne den.

QAnon har også blitt et problem for kongressen, fordi det ikke lenger handler om folk som deltar i en merkelig online spill: den har berørt som en tornado i livene til politikere, som nå er mål for trakasseringskampanjer som går over fra feber drømmer om voldskonspirasjoner . Dessuten har det skjedd raskt og på nye måter. Konspirasjonsteorier tar vanligvis år å spre seg gjennom samfunnet, med promotering av sentrale politiske, media og religiøse skikkelser. Sosiale medier har fremskyndet denne prosessen gjennom stadig voksende former for innholdslevering. QAnon-følgere kommenterer ikke bare siste nyheter; de bøyer den etter deres bud .

Jeg fokuserte mitt vitnesbyrd på de mange navnløse skadene forårsaket av sosiale medieselskapers manglende evne til å forhindre feilinformasjon fra å mette tjenestene deres. Journalister, folkehelse- og medisinsk fagpersonell, sivilsamfunnsledere og byadministratorer, som lovhåndhevelse og valgfunksjonærer, bærer kostnadene ved feilinformasjon i stor skala og byrden med å håndtere dens virkninger. Mange mennesker tipper på tærne rundt politiske spørsmål når de chatter med venner og familie, men etter hvert som feilinformasjon om protester begynte å mobilisere hvite vigilantes og medisinsk feilinformasjon førte til at folk bagatelliserte pandemien, tok ulike fagsektorer på seg viktige nye roller som talsmenn for sannhet .

Ta folkehelse og medisinsk fagpersonell, som har måttet utvikle ressurser for å redusere medisinsk feilinformasjon om covid-19. Leger prøver å bli online influencers for å korrigere falske råd og falske påstander om mirakelkurer – det tar tid fra å gi omsorg eller utvikle behandlinger. Mange redaksjoner tilpasset seg i mellomtiden normaliseringen av feilinformasjon på sosiale medier ved å utvikle en feilinformasjonsrytme – debunking av konspirasjonsteorier eller falske nyhetspåstander som kan påvirke leserne deres. Men disse ressursene ville vært mye bedre brukt på å opprettholde journalistikk i stedet for å fungere som tredjeparts innholdsmoderatorer.

Relatert historie

Takk for at du postet: Smoking's lessons for regulering av sosiale medier Tidligere Facebook-ledere innrømmer at de brukte tobakksindustriens lekebok for vanedannende produkter. Kanskje den også kan brukes til å oppheve skaden.

Også sivilsamfunnsorganisasjoner har blitt tvunget til å bruke ressurser på å overvåke feilinformasjon og beskytte deres base mot målrettede kampanjer. Rasisert desinformasjon er en erfaren taktikk for innenlandske og utenlandske påvirkningsoperasjoner: kampanjer etterligner enten fargede samfunn eller bruker rasisme for å øke polariseringen i kilespørsmål. Brandi Collins-Dexter vitnet om disse problemene under en kongresshøring i juni, og fremhevet hvordan teknologiselskaper gjemmer seg bak oppfordringer for å beskytte ytringsfrihet for enhver pris uten å gjøre nok for å beskytte svarte samfunn som er målrettet daglig på sosiale medier med medisinsk feilinformasjon, hatytringer, hets og trakassering.

Valgfunksjonærer , politipersonell og førstehjelpspersonell er i en alvorlig ulempe når de prøver å gjøre jobben sin mens rykter og konspirasjonsteorier spres på nettet. Akkurat nå, rettshåndhevelse forbereder seg på vold på valgstedene.

En vei til forbedring

Når feilinformasjon sprer seg fra den digitale til den fysiske verden, kan det omdirigere offentlige ressurser og true folks sikkerhet. Dette er grunnen til at sosiale medier-selskaper må ta problemet like alvorlig som de tar ønsket om å tjene penger.

Men de trenger en vei for å forbedre seg. Kommunikasjons- og anstendighetsloven § 230 gir sosiale medieselskaper mulighet til å forbedre innholdsmoderering, men politikere har truet med å fjerne disse beskyttelsene slik at de kan fortsette med sine egne propagandakampanjer. Gjennom hele oktoberhøringen dukket det opp spøkelse for et nytt byrå som uavhengig kunne revidere brudd på borgerrettigheter, undersøke spørsmål om personvern og vurdere markedseksternalitetene til denne industrien på andre sektorer.

Som jeg hevdet under høringen, betyr den enorme rekkevidden til sosiale medier over hele verden at det er viktig at regulering ikke begynner med å demontere paragraf 230 før en ny policy er på plass.

Inntil da trenger vi mer åpenhet. Feilinformasjon handler ikke bare om fakta; det handler om hvem som får si hva fakta er. Rettferdige beslutninger om innholdsmoderering er nøkkelen til offentlig ansvarlighet.

I stedet for å holde på teknostalgien i en tid da det ikke var så ille, er det noen ganger verdt å spørre hva som skal til for å oppfinne sosiale medier, slik at vi kan kartlegge en kurs for nettet vi ønsker – et nett som fremmer demokrati, kunnskap, omsorg og rettferdighet. Ellers blir enhver uforklarlig beslutning fra teknologiselskaper om tilgang til informasjon potensielt fôr for konspiratorer og, enda verre, grunnlaget for å overskride myndighetenes politikk.

gjemme seg