211service.com
Samling av 13 500 nastygrams kunne fremme krig mot troll
En visualisering av innlegg på Wikipedia-diskusjonssider i januar viser forekomsten av personangrep, uthevet i rødt.
Kvinnehat, rasisme, banning – en samling av mer enn 13 500 personlige angrep på nettet har alt.
Nastygrammene kom fra diskusjonssidene til Wikipedia. Samlingen, sammen med over 100 000 mer godartede innlegg, har blitt utgitt av forskere fra Alphabet og Wikimedia Foundation, den ideelle organisasjonen bak Wikipedia. De sier at dataene vil øke innsatsen for å trene programvare til å forstå og politie trakassering på nettet.
Målet vårt er å se hvordan vi kan hjelpe folk å diskutere de mest kontroversielle og viktige temaene på en produktiv måte over hele Internett, sier Lucas Dixon, sjefforsker ved Stikksag , en gruppe i Alphabet som bygger teknologi for formål som ytringsfrihet og bekjempelse av korrupsjon (se 'Hvis bare AI kunne redde oss fra oss selv').
Jigsaw og Wikimedia-forskere brukte en crowddsourcing-tjeneste for å få folk til å kjemme gjennom mer enn 115 000 meldinger som ble lagt ut på Wikipedia-diskusjonssider, for å se etter noen som var et personlig angrep som definert av fellesskapets regler . Samarbeidspartnerne har allerede brukt dataene til å trene maskinlæringsalgoritmer som konkurrerer med crowdsourcede arbeidere til å oppdage personlige angrep. Da de kjørte den gjennom hele samlingen av 63 millioner diskusjonsinnlegg laget av Wikipedia-redaktører, fant de ut at bare rundt ett av ti angrep hadde resultert i handling fra moderatorer.
Wikimedia Foundation laget redusere trakassering blant Wikipedia-redaktører en prioritet i fjor. Policyen legger til eksisterende innsats for å myke opp den stikkende og byråkratiske atmosfæren i Wikipedia-fellesskapet, som har vist seg å avskrekke nye bidragsytere fra å delta. Begge problemene kan bidra til å forklare hvorfor den har sett redaktørtallene skli, og slitt med å utvide deltakelsen utover en kjerne mannlig, vestlig demografi (se The Decline of Wikipedia).
Jigsaw og Wikimedia Foundation er ikke de første som studerer misbruk på nettet, og de er heller ikke de første som tar sikte på å designe programvare som kan oppdage og bekjempe det. Men samlinger av kommentarer merket for å flagge trakasserende og ikke-trakasserende innlegg – som er nødvendig for å trene maskinlæringsprogramvare – har vært knappe, sier Ellery Wulczyn , en datavitenskapelig forsker med Wikimedia Foundation.
Han anslår at samlingen av personangrep og kommentarer fra Wikipedia er mellom 10 og 100 ganger større enn de tidligere tilgjengelige. Maskinlæringsalgoritmer trenger et stort antall merkede eksempler for å lære å filtrere data nøyaktig.
Hvorvidt algoritmer som er opplært til å oppdage misbruk kan brukes som effektive moderatorer, er fortsatt uklart. Programvare er langt fra å forstå alle nyansene i språket. Noen mennesker kan være motivert til å tune sitt fornærmende språk for å unngå oppdagelse, sier Wikimedias Wulczyn. Hvis vi skulle bygge intervensjoner som mennesker har et motstridende forhold til, vet vi ikke hva som ville skje, sier han.