YouTube sletter videoer om nazistenes historie som en del av hatefulle ytringer

Kategori: Silicon Valley Lagt ut 07. juni

Nettstedets brennende uke viser hvilken utfordring moderering har blitt for store teknologifirmaer.

Nyhetene: YouTube annonsert nye regler rundt hatytringer på onsdag som forbyr videoer som fremmer nazistisk ideologi eller benekter eksistensen av Holocaust eller andre godt dokumenterte voldelige hendelser som skytingen på Sandy Hook Elementary School. Tusenvis av kanaler forventes å bli stengt. Men nå klager flere lærere over at videoer lastet opp for å utdanne folk om nazistenes historie er slettet, vergen rapportert.

Naziproblemet: Hatefulle ytringer, og hvordan man kan kontrollere det, er ikke et nytt problem for YouTube eller andre sosiale plattformer. Men dette viser hvor fyldig og kompleks balansen er, og fremhever risikoen for utilsiktede konsekvenser når retningslinjer og algoritmer justeres. Det er også en påminnelse om hvor mye makt store teknologiselskaper har som portvoktere for materialet vi bruker på nettet.

Ingen unnskyldninger: Denne kompleksiteten unnskylder ikke YouTube, som eies av Google, for sitt ansvar. Denne uken avslørte New York Times at anbefalingsmotoren deres (som driver 70 % av alle visninger) har gjort det lettere for pedofile å finne videoer av barn. En senator har sagt at YouTube rett og slett burde slutte å anbefale videoer av mindreårige, men gitt at a stor del av YouTubes publikum er barn, det er usannsynlig at selskapet tar det skrittet. Det også flip-floppet over om man skal forby en høyreorientert personlighet for å ha trakassert en homofil Latino-journalist.

Registrer deg her for vårt daglige nyhetsbrev The Last ned for å få din dose av de siste må-lese nyhetene fra verden av fremvoksende teknologi.