211service.com
YouTube eksperimenterer med måter å gjøre algoritmen enda mer avhengighetsskapende på
Illustrasjon som viser YouTube-grensesnitt med ASMR-videoer Ms. Tech; Bilder: skjermbilder fra YouTube | Gibi ASMR/ASMR Darling/W magazine/ASMR Glow
Anbefalingsalgoritmer er noen av de kraftigste maskinlæringssystemene i dag på grunn av deres evne til å forme informasjonen vi bruker. Spesielt YouTubes algoritme har en stor innflytelse. Plattformen anslås å være nest etter Google i nettrafikk, og 70 % av hva brukerne ser på, mates til dem gjennom anbefalinger.
De siste årene har denne påvirkningen blitt satt under stor søkelys. Fordi algoritmen er optimalisert for å få folk til å engasjere seg i videoer, har den en tendens til å tilby valg som forsterker det noen allerede liker eller tror, noe som kan skape en vanedannende opplevelse som stenger andre visninger ute. Dette belønner også ofte de mest ekstreme og kontroversielle videoene, som studier har vist kan raskt presse folk inn dype kaninhull med innhold og føre til politisk radikalisering .
Mens YouTube offentlig har sagt at de jobber med å løse disse problemene, en nytt papir fra Google, som eier YouTube, ser ut til å fortelle en annen historie. Den foreslår en oppdatering av plattformens algoritme som er ment å anbefale enda mer målrettet innhold til brukere for å øke engasjementet.
Slik ser du YouTubes anbefalingssystem fungerer for tiden . For å fylle ut sidefeltet for anbefalte videoer, kompilerer den først en kortliste med flere hundre videoer ved å finne de som samsvarer med emnet og andre funksjoner til den du ser på. Deretter rangerer den listen i henhold til brukerens preferanser, som den lærer ved å mate alle dine klikk, likes og andre interaksjoner inn i en maskinlæringsalgoritme.
Blant de foreslåtte oppdateringene målretter forskerne spesifikt et problem de identifiserer som implisitt skjevhet. Det refererer til måten anbefalinger i seg selv kan påvirke brukeratferd, noe som gjør det vanskelig å tyde om du klikket på en video fordi du likte den eller fordi den ble sterkt anbefalt. Effekten er at systemet over tid kan skyve brukerne lenger og lenger bort fra videoene de faktisk ønsker å se.
For å redusere denne skjevheten foreslår forskerne en justering av algoritmen: hver gang en bruker klikker på en video, tar det også hensyn til videoens rangering i anbefalingssidefeltet. Videoer som er nær toppen av sidefeltet, tillegges mindre vekt når de mates inn i maskinlæringsalgoritmen; videoer dypt nede i rangeringen, som krever at en bruker ruller, får flere. Da forskerne testet endringene live på YouTube, fant de betydelig mer brukerengasjement.
Selv om avisen ikke sier om det nye systemet vil bli distribuert permanent, sa Guillaume Chaslot, en tidligere YouTube-ingeniør som nå driver AlgoTransparency.org, at han var ganske sikker på at det ville skje relativt raskt: De sa at det øker vaktholdet tid med 0,24 %. Hvis du beregner beløpet, tror jeg det er kanskje titalls millioner dollar.
Flere eksperter som har gjennomgått papiret sa at endringene kan ha perverse effekter. I vår forskning har vi funnet ut at YouTubes algoritmer skapte et isolert høyreekstreme fellesskap, presset brukere mot videoer av barn og fremmet feilinformasjon, sa Jonas Kaiser, en tilknyttet Berkman Klein Center for Internet & Society. I utkanten kan denne endringen […] fremme dannelsen av mer isolerte samfunn enn vi allerede har sett. Jonathan Albright, direktør for det digitale etterforskningsinitiativet ved Tow Center for Digital Journalism, sa at selv om det å redusere posisjonsskjevhet er en god start for å bremse tilbakemeldingssløyfen for lavkvalitetsinnhold, kan endringen i teorien også favorisere ekstremt innhold ytterligere.
Becca Lewis, en tidligere forsker ved Data & Society som studerer ekstremisme på nettet, sa at det var vanskelig å vite hvordan endringene ville utspille seg. Det er sant for YouTube også internt, sa hun. Det er så mange forskjellige samfunn på YouTube, forskjellige måter folk bruker YouTube på, forskjellige typer innhold, at implikasjonene kommer til å være forskjellige i så mange tilfeller. Vi blir testpersoner for YouTube.
Da en YouTube-talsperson ble nådd for kommentar, sa ingeniørene og produktteamene at endringene ikke ville føre til filterbobler. Derimot forventer selskapet at endringene vil redusere dem og diversifisere anbefalingene totalt sett.
Alle de tre eksterne forskerne MIT Technology Review kontaktet anbefaler at YouTube bruker mer tid på å utforske virkningen av algoritmiske endringer gjennom metoder som intervjuer, undersøkelser og brukerinnspill. YouTube har gjort dette til en viss grad, sa talspersonen, og jobber for å fjerne ekstremt innhold i form av hatytringer på plattformen.
YouTube bør bruke mer energi på å forstå hvilke aktører algoritmene deres favoriserer og forsterker enn hvordan de skal holde brukere på plattformen, sa Kaiser.
Det frustrerende er at det ikke er i YouTubes forretningsinteresse å gjøre det, la Lewis til. Men det er et etisk imperativ.
Rettelser: Virkningen av YouTubes endring vil sannsynligvis være i størrelsesorden titalls millioner, ikke milliarder dollar. Historien ble også oppdatert 27. september 2019 kl. 15:30 ET for å gjenspeile YouTubes svar.
For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.