YouTubes algoritme ser ut til å lede folk til alt-right-videoer

Kategori: Mennesker og teknologi Lagt ut 29. januar

En ny studere antyder at det vi har mistenkt i årevis er rett: YouTube er en pipeline for ekstremisme og hat.

Hvordan vet vi det? Mer enn 330 000 videoer på nesten 350 YouTube-kanaler ble analysert og manuelt klassifisert i henhold til et system designet av Anti-Defamation League. De ble stemplet som enten media (eller det vi tenker på som faktanyheter), alt-lite intellektuelt mørkt nett eller alt-høyre.

Gruppene: Alt-høyre er det som tradisjonelt forbindes med hvit overherredømme, som presser på for en hvit etnostat. De som er tilknyttet det intellektuelle mørke nettet rettferdiggjør hvit overherredømme på grunnlag av eugenikk og rasevitenskap. Medlemmer av alt-lite hevder å ikke støtte hvit overherredømme, selv om de tror på konspirasjonsteorier om erstatning med minoritetsgrupper.

Inngangsport: Studiens forfattere antok at det alt-lite og intellektuelle mørke nettet ofte fungerer som en inngangsport til mer ekstreme, høyreekstreme ideologier. Så de testet det ved å spore forfatterne av 72 millioner kommentarer på rundt to millioner videoer mellom mai og juli i fjor. Resultatene var bekymringsfulle. Mer enn 26 % av folk som kommenterte alt-lite-videoer hadde en tendens til å gå over til alt-høyre-videoer og deretter kommentere der.

Skyld spillet: Det er ganske enkelt å komme til alt-lite og intellektuelt mørkt nettinnhold med et enkelt søk, men alt-right-videoer har en tendens til å være vanskeligere å finne for førstegangsbrukere. Likevel fant forskerne at YouTubes algoritme ofte ledet brukere som søkte etter spesifikke søkeord mot stadig mer voldelig, ekstremt innhold.

Og det blir verre: Teamet, fra Swiss Federal Institute of Technology Lausanne, fant også bevis på at overlappingen mellom alt-righters og andre som driver med intellektuelt dark web og alt-lite-materiale vokser. Forfatterne anslår at rundt 60 000 personer som kommenterte alt-lite eller intellektuelt mørkt nettinnhold ble eksponert for alt-right-videoer over en periode på rundt 18 måneder. Arbeidet ble presentert på 2020-konferansen om rettferdighet, ansvarlighet og åpenhet i Barcelona denne uken.

Vi vet fortsatt ikke mye om YouTube-radikalisering: For det første er vi ikke helt sikre på nøyaktig hva som får folk til å gå fra alt-lite-materiale til det høyreekstreme. Det er delvis fordi YouTube begrenser tilgangen til anbefalingsdata. Det er også mulig at noen kommer til YouTube allerede etter å ha blitt radikalisert av en ekstern, ikke-YouTube-kilde. Men denne forskningen antyder at YouTubes anbefalingsalgoritmer kan spille en betydelig rolle.

Bakgrunnen: YouTube har lenge slitt med balansen mellom å opprettholde ytringsfrihet og å adressere hatefulle ytringer. Selskapet har tatt noen innledende skritt ved å forby noen kanaler, spesielt Alex Jones' Infowars. Men kritikere hevder at YouTube ikke har gjort nok.

I en uttalelse sa YouTube at de jobber gjennom disse problemene: I løpet av de siste årene ... har vi endret søke- og oppdagelsesalgoritmene våre for å sikre at mer autoritativt innhold vises og merkes fremtredende i søkeresultater og anbefalinger og har begynt å redusere anbefalinger av grenseinnhold og videoer som kan feilinformere brukere på skadelige måter.'

En talsperson la til at YouTube bestrider metodikken og at den ikke tar hensyn til nyere oppdateringer av retningslinjene for hatytringer eller anbefalinger. 'Vi er sterkt uenige i metodikken, dataene og, viktigst av alt, konklusjonene i denne nye forskningen,' sa talspersonen.

Redaktørens merknad: Denne historien har blitt redigert for å inkludere YouTubes kommentar og tvist.