211service.com
Facebook trenger 30 000 av sine egne innholdsmoderatorer, heter det i en ny rapport
Associated Press Associated Press
Tenk om Facebook sluttet å moderere nettstedet sitt akkurat nå. Hvem som helst kunne legge ut hva de ville. Erfaring synes å tilsi at det ganske raskt ville blitt en helvetes miljø overkjørt av spam, mobbing, kriminalitet, halshugging av terrorister, nynazistiske tekster og bilder av seksuelle overgrep mot barn. I det scenariet ville store deler av brukerbasen sannsynligvis forlate, etterfulgt av de lukrative annonsørene.
Men hvis moderasjon er så viktig, blir det ikke behandlet som det. Det overveldende flertallet av de 15 000 menneskene som bruker hele dagen på å bestemme seg for hva som kan og ikke kan være på Facebook, jobber ikke engang for Facebook. Hele funksjonen med innholdsmoderering overføres til tredjepartsleverandører, som ansetter midlertidige ansatte på prekære kontrakter på over 20 steder over hele verden. De må gjennomgå hundrevis av innlegg om dagen, mange av dem dypt traumatiserende . Feil er utbredt , til tross for selskapets vedtak om AI-verktøy å triagere innlegg som krever oppmerksomhet. Facebook har selv innrømmet en feilprosent på 10 %, enten det er feilaktig flagging av innlegg som skal fjernes som skal holdes oppe eller omvendt. Gitt at anmeldere må vasse gjennom tre millioner innlegg per dag, tilsvarer det 300 000 feil daglig. Noen feil kan ha dødelige effekter. For eksempel brukte medlemmer av Myanmars militære Facebook å oppfordre til folkemord mot den for det meste muslimske rohingya-minoriteten i 2016 og 2017. Selskapet innrømmet det senere klarte ikke å håndheve sin egen politikk forbud mot hatefulle ytringer og oppfordring til vold.
Hvis vi ønsker å forbedre hvordan moderering utføres, må Facebook bringe innholdsmoderatorer internt, gjøre dem til fulle ansatte og doble antallet, hevder en ny rapport fra New York Universitys Stern Center for Business and Human Rights.
Moderering av innhold er ikke som andre utkontrakterte funksjoner, som matlaging eller rengjøring, sier rapportforfatter Paul M. Barrett, visedirektør for senteret. Det er en sentral funksjon i virksomheten til sosiale medier, og det gjør det litt merkelig at det blir behandlet som om det er perifert eller andres problem.
Hvorfor blir innholdsmoderering behandlet på denne måten av Facebooks ledere? Det kommer i hvert fall delvis ned til kostnadene, sier Barrett. Hans anbefalinger ville være veldig kostbart for selskapet å vedta - mest sannsynlig i titalls millioner dollar (men for å sette dette i perspektiv, gjør det milliarder av dollar av overskudd hvert år). Men det er en annen, mer kompleks grunn. Aktiviteten med innholdsmoderering passer bare ikke inn i Silicon Valleys selvbilde. Visse typer aktiviteter er svært høyt verdsatt og glamoriserte – produktinnovasjon, smart markedsføring, ingeniørkunst … den tøffe verdenen av innholdsmoderering passer ikke inn i det, sier han.
Han mener det er på tide at Facebook behandler moderering som en sentral del av virksomheten. Han sier at å heve statusen på denne måten vil bidra til å unngå den slags katastrofale feil som er gjort i Myanmar, øke ansvarligheten og bedre beskytte ansatte mot skade på deres mentale helse.
Det virker som en uunngåelig realitet at innholdsmoderering alltid vil innebære å bli utsatt for noe forferdelig materiale, selv om verket blir brakt internt. Imidlertid er det så mye mer selskapet kan gjøre for å gjøre det enklere: screene moderatorer bedre for å sikre at de virkelig er klar over risikoen ved jobben, for eksempel, og sikre at de har førsteklasses omsorg og rådgivning tilgjengelig. Barrett mener at innholdsmoderering kan være noe alle Facebook-ansatte er pålagt å gjøre i minst et år som en slags plikttur for å hjelpe dem å forstå virkningen av beslutningene deres.
Rapporten gir åtte anbefalinger for Facebook:
- Slutt å outsource innholdsmoderering og hev moderatorenes stasjon på arbeidsplassen.
- Doble antallet moderatorer for å forbedre kvaliteten på innholdsgjennomgangen.
- Ansett noen til å overvåke innhold og faktasjekking som rapporterer direkte til administrerende direktør eller COO.
- Ytterligere utvide moderasjon i utsatte land i Asia, Afrika og andre steder.
- Gi alle moderatorer medisinsk behandling på stedet av topp kvalitet, inkludert tilgang til psykiatere.
- Sponser forskning på helserisikoen ved moderering av innhold, spesielt PTSD.
- Utforsk smalt skreddersydd myndighetsregulering av skadelig innhold.
- Utvid faktasjekken betydelig for å avkrefte falsk informasjon.
Forslagene er mildt sagt ambisiøse. Da Facebook ble kontaktet for kommentar, ville ikke de diskutere om de ville vurdere å vedta dem. En talsperson sa imidlertid at den nåværende tilnærmingen betyr at vi raskt kan justere fokuset til arbeidsstyrken vår etter behov, og la til at det gir oss muligheten til å sørge for at vi har riktig språkekspertise – og raskt kan ansette i forskjellige tidssoner – ettersom nye behov oppstår eller når en situasjon rundt om i verden tilsier det.
Men Barrett mener et nylig eksperiment utført som svar på koronaviruskrisen viser endring er mulig. Facebook kunngjorde at fordi mange av innholdsmoderatorene ikke var i stand til å gå inn på selskapets kontorer, ville det gjøre det flytte ansvaret til interne ansatte for å sjekke visse sensitive kategorier av innhold.
Jeg synes det er veldig talende at Zuckerberg i et kriseøyeblikk stolte på menneskene han stoler på: hans heltidsansatte, sier han. Kanskje det kan sees på som grunnlaget for en samtale på Facebook om å justere måten den ser på innholdsmoderering.