YouTube sier at de endelig prøver å gjøre nettstedet mindre giftig

Kategori: Mennesker og teknologi Lagt ut 12. desember

YouTube svarer på påstandene om at de tillater rasistisk og homofobisk trakassering på sin plattform. Men nå må det faktisk håndheves det.

Hva skjedde? På onsdag, YouTube annonsert en oppdatering av retningslinjene for trakassering som betyr at materiale som ondsinnet har fornærmet eller fornedret andre på grunn av deres rase, kjønn eller seksuelle legning, vil bli fjernet. Det vil også forby tilslørte eller underforståtte trusler eller språk som antyder at fysisk vold kan forekomme.

Hvorfor endringen: Oppdateringen kommer omtrent seks måneder etter at YouTube ble kritisert for nekter å forby Steven Crowder, en høyreorientert personlighet, som hadde brukt rasistisk og homofobisk språk mot en Vox-journalist på kanalen hans. YouTube sa at Crowders ord ikke brøt med retningslinjene. Denne oppdateringen ser ut til å være et svar på tilbakeslaget som fulgte.

Ok, så hvordan vil det gjøre dette? Et dryss av AI, men mest mye hjelp fra tusenvis av nye moderatorer som vil bli ansatt for å se videoer og skanne dem for problematisk innhold. YouTubes merittliste med å faktisk håndheve sine egne retningslinjer er virkelig ikke bra, men.

Og har det ikke vært problemer med bruk av moderatorer? Jepp. Tidligere i år ble an etterforskning fra Verge detaljerte alvorlige psykiske problemer blant moderatorer på Facebook; en annen etterforskning i Washington Post fant YouTube-moderatorer som lider på samme måte. Reddit har forsøkt å hjelpe menneskelige moderatorer med AI-drevne automoderatorer, men systemet er ufullkomment og krever fortsatt menneskelig vurdering.

Den andre YouTube-retningslinjen påvirker barn: I september nådde YouTube og Federal Trade Commission et forlik på 170 millioner dollar for selskapets ulovlige oppbevaring og bruk av data om hva barn ser på, et brudd på Children's Online Privacy Protection Act. YouTube ble pålagt å lage et merkesystem for barnevideoer; hvis de er rettet mot barn, har ikke skapere lov til å samle inn annonsepenger eller målrette mot potensielt interesserte seere på grunnlag av seerloggen deres.

Men hva er egentlig barnas innhold? Det er det YouTube og massevis av skapere, som er bekymret for at de skal miste inntekter, ønsker å vite, spesielt når det kommer til innhold som utboksing av videoer eller animasjoner som kan se ut til å appellere til barn, men som kan ha en voksen appell. Onsdag skrev YouTube en brev til FTC og ber om klarhet fordi politikken er kompleks. Forvent mye juridisk masing og ikke mye klarhet i månedene som kommer.