Kan 10 000 mennesker rydde opp på YouTube?

Kategori: Ukategorisert Lagt ut 05. desember

Algoritmene fungerer ikke. YouTube, som Facebook, kommer under konsekvent kritikk for støtende innhold – fra ekstremisme til barnemishandling . Tekniske ledere lover at kunstig intelligens vil bidra til å løse problemet ved automatisk å identifisere støtende innhold før noen kan se det. Men YouTubes beste forsøk så langt oppdager bare 75 prosent av slike klipp før en bruker rapporterer dem.

Det er klart at AI ikke er nok ennå. Denne meldingen ser ut til å bli gjentatt av YouTubes administrerende direktør, Susan Wojcicki. I et nytt blogginnlegg , forklarer hun at videonettstedet øker modereringsteamet til å inkludere 10 000 ansatte på tvers av Google for å hjelpe til med å bekjempe støtende innhold.

Hva vil de gjøre? I stor grad mer av det samme. Siden juni har tillits- og sikkerhetsteamene våre manuelt gjennomgått nesten 2 millioner videoer for voldelig ekstremistisk innhold, skriver hun. Vi tar også aggressive grep på kommentarer, lanserer nye verktøy for kommentarmoderering og i noen tilfeller stenger vi kommentarer helt.

Men Wojcicki påpeker også at alt arbeidet har en annen nytte: å trene AI-er. Menneskelig dømmekraft er avgjørende for å ta kontekstualiserte beslutninger om innhold, skriver hun, og legger til at ved å samle inn data om hvordan moderatorene fungerer, vil YouTube kunne trene ... maskinlæringsteknologi for å identifisere lignende videoer i fremtiden.

Hvis alt dette høres kjent ut, er det fordi Facebook la til 3000 ekstra innholdsansvarlige selv tidligere i år. På den tiden argumenterte vi for at ekstra folk alene, uten robust og pålitelig AI, neppe ville gjøre noe særlig med støtende innhold – fordi det er så jævla mye av det å sile gjennom.

I YouTubes tilfelle, med 300 timer med opptak lastet opp hvert minutt, virker det like usannsynlig å lykkes – i hvert fall før algoritmene har lært alt de trenger fra meatspace-moderatorene.