211service.com
Reddits automoderator er fremtiden til internett, og dypt ufullkommen
bilde av mann som ser på datamaskinkode tre skjermer automoderator automod modererende reddit Jefferson Santos via Unsplash
De siste fire årene har Shagun Jhaver moderert flere subreddits, flittig scrollet gjennom sider og blokkert innlegg som bryter fellesskapets regler eller er direkte støtende.
En doktorgradsstudent ved Georgia Tech hvis forskning fokuserer på innholdsmoderering, lurte Jhaver på om en automatisk moderator kunne hjelpe ham med å spare ikke bare tid, men også den mentale belastningen ved å sile gjennom psykologisk drenerende innhold. Så sammen med tre kolleger forsøkte han å finne ut om en automatisk moderator – i dette tilfellet, AutoMod – fungerte faktisk.
Teamet modererte personlig flere sider på Reddit og gjennomførte deretter intervjuer med 16 andre moderatorer av noen av de mest populære subredditene på nettstedet – inkludert r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying og r/politics, hver som har millioner av abonnenter. Alle er avhengige av AutoMod for å hjelpe dem med å moderere. Jhaver vil presentere arbeid neste uke kl ACM-konferanse om datamaskinstøttet samarbeidsarbeid og sosial databehandling .
Sosiale medier-plattformer som Facebook, Instagram og YouTube har lenge vært avhengig av menneskelige moderatorer for å manuelt finkjemme innhold og fjerne voldelig og støtende materiale som spenner fra rasistiske og sexistiske hatytringer til grafisk video av masseskyting. Ofte arbeider på kontrakt, til minstelønn med få fordeler, moderatorer kan finne på å trekke lange timer mens de blir overveldet med innhold som tar alvorlig på deres mentale helse .
Automoderatorer er et forsøk på å dempe kjedelige og negative effekter av slikt arbeid. Utviklet av Redditor Chad Birch som en måte å øke hans evne til å moderere r/gaming-kanalen, er AutoMod et regelbasert verktøy for å identifisere ord som bryter retningslinjene for en bestemt side. Siden har det blitt mye brukt – Reddit tok det i bruk over hele nettstedet i 2015, og de enormt populære spill-streaming-plattformene Twitch og Discord fulgte etter like etter.
Hvorvidt AutoMod faktisk er en tidsbesparende er imidlertid tvilsom. På den ene siden er bilmoderatorer veldig gode på det de gjør – hvis de er programmert til å finne banneord, vil de finne og blokkere innlegg som inneholder dem uten feil. Den kan sende varsler til plakater om problematisk innhold, som Jhaver sier er lærerikt, ved at forfattere kan lære hva som var galt med det de la ut.
Det er ikke en liten prestasjon. Som Jhaver og kollegene hans bemerker, ble omtrent 22 % av alle innsendinger på Reddit mellom mars og oktober 2018 fjernet. Det kommer ut til omtrent 17,4 millioner innlegg i den tidsperioden.
Men la oss si at ordet er viktig for konteksten i innlegget – en diskusjon i 2016 om den snart president Donald Trumps beryktede kommentar om å gripe en kvinnes kjønnsorganer , for eksempel. Slike innlegg vil bli flagget på grunn av det støtende språket, selv om å diskutere det språket er poenget med innlegget i utgangspunktet. Jhaver sier at dette frustrerer brukere, som deretter må gå tilbake og be moderatorer om å gjenopprette innlegget.
Og i en sosial medieverden der urovekkende innhold i økende grad består av støtende memer, live-strømmer av skyting eller annet visuelt, tekstløst innhold, er AutoMods avhengighet av å finne nøkkelord en stor forpliktelse.
Robert Peck, en moderator for de store subredditsene r/pics og r/aww, vet dette altfor godt. Hver av disse sidene er bildedrevet, og hver har millioner av følgere som legger ut mye mer innhold enn noen med rimelighet kan bli bedt om å sile gjennom.
Likevel sier han at selv om den ikke kan analysere bilder, har AutoMod gjort arbeidet hans enklere. Brukere legger til beskrivelser til bilder direkte, og vi kan sjekke disse titlene, sier han. Vi ser etter kontofetting eller spam som har kontoer som automatiserer innlegg. De bruker ofte parenteser. Vi kan fortelle AutoMod å se etter disse mønstrene.
Liker det eller ikke, AutoMod og lignende er fremtiden for moderering av sosiale plattformer. Det vil sannsynligvis alltid være ufullkomment, fordi maskiner fortsatt er langt unna å virkelig forstå menneskelig språk. Men det er dette automatisering skal handle om: å spare tid på kjedelige eller upassende oppgaver. Å kunne konsentrere seg om innlegg som krever en menneskelig berøring gjør en moderators jobb så mye mer verdifull, og lar både moderatorer og postere fokusere på å ha bedre samtaler.
Det vil ikke løse problemet med folk som legger ut ekkelt, ondsinnet eller på annen måte skadelig innhold - det vil fortsatt være et av de vanskeligste problemene som rammer det moderne internett. Men det gjør en forskjell. Peck sier at han er takknemlig for AutoMods evne til å hjelpe ham batchprosessposter. Det er et kraftig stykke teknologi og ganske brukervennlig – ikke i nærheten av vanskeligheten med å programmere en tilsvarende bot, sier han. [AutoMod] er mitt kraftigste verktøy, og jeg ville gått tapt uten det.