Facebooks lekkede modereringsregler viser hvorfor Big Tech ikke kan politi hatefulle ytringer

Kategori: Silicon Valley Lagt ut 28. desember

Samfunnet ba Big Tech om å stenge hatytringer på nettet. Vi fikk akkurat det vi ba om.

Nyhetene: Max Fisher fra New York Times publiserte utdrag fra mer enn 1400 sider med interne Facebook-dokumenter, som inneholder regler for selskapets globale hær med mer enn 7500 innholdsmoderatorer. (Hovedkortet hadde tidligere publisert noe av det samme materialet.)

Hva er inni? En stor samling av retningslinjer, restriksjoner og klassifiseringer. Reglene om hatefulle ytringer alene strekker seg over 200 sjargongfylte, hodesnurrende sider. De inkluderer detaljer om hvordan du tolker emoji (bruk av ? kan tilsynelatende være både mobbing og ros) og lister over personer eller politiske partier som skal overvåkes for mulige hatytringer. Dokumentene viser at Facebook er en langt kraftigere dommer for global tale enn det har innrømmet, skriver Fisher.

Problemet: Retningslinjene er ikke bare bysantinske; noen er utdaterte eller inneholder feil. De varierer også mye avhengig av hvor mye press selskapet er under: Facebook blokkerer dusinvis av høyreekstreme grupper i Tyskland, der myndighetene gransker det sosiale nettverket, men bare én i nabolandet Østerrike. Moderatorer, hvorav de fleste jobber for outsourcingselskaper og får minimal opplæring, forventes å foreta komplekse vurderinger i løpet av sekunder, behandler tusen innlegg om dagen , med regler som endres ofte som svar på politiske hendelser, og ofte ved hjelp av Google Translate.

Takeaway: Dette fjerner evt gjenværende forstillelse at Facebook bare er en nøytral publiseringsplattform. Politiske dommer gjennomsyrer hver side av disse retningslinjene.

Men hva forventet du? Som Facebooks tidligere sikkerhetssjef, Alex Stamos, fortalte meg i oktober, har vi krevd at tekniske plattformer politi hater ytringer, og det gir dem bare mer makt. Det er en farlig vei, advarte Stamos. Om fem eller ti år kan det være maskinlæringssystemer som forstår menneskelige språk så vel som mennesker. Vi kan ende opp med maskinhastighet, sanntidsmoderering av alt vi sier på nettet.