211service.com
DeepMind spør hvordan AI hjalp til med å gjøre internett til et ekkokammer
MS. TEKNISK | BILDER: YOUTUBE Ms. Tech | Bilder: YouTube
En av de vanligste bruksområdene for maskinlæring i dag er anbefalingsalgoritmer. Netflix og YouTube bruker dem til å gi deg nye programmer og videoer; Google og Facebook bruker dem til å rangere innholdet i søkeresultatene og nyhetsstrømmen. Selv om disse algoritmene tilbyr mye bekvemmelighet, har de noen uønskede bivirkninger. Du har sikkert hørt om dem før: filterbobler og ekkokamre.
Bekymring for disse effektene er ikke ny. I 2011 advarte Eli Pariser, nå administrerende direktør i Upworthy, om filterbobler på TED-scenen. Allerede før det, i boken hans republic.com , spådde Harvard jusprofessor Cass Sunstein nøyaktig en gruppepolarisasjonseffekt, drevet av fremveksten av Internett, som til slutt ville utfordre et sunt demokrati. Facebook ville ikke eksistert før om tre år.
Begge ideene ble raskt popularisert i kjølvannet av valget i USA i 2016, noe som førte til et oppsving av relevant forskning. Nå legger Googles eget AI-datterselskap, DeepMind, til stipendet. (Bedre sent enn aldri, ikke sant?)
I et nytt papir , analyserte forskere hvordan ulike anbefalingsalgoritmer kan fremskynde eller bremse begge fenomenene, som forskerne definerer hver for seg. Ekkokamre, sier de, forsterker brukernes interesser gjennom gjentatt eksponering for lignende innhold. Filterbobler, til sammenligning, begrenser omfanget av innhold brukere blir utsatt for. Begge er eksempler i akademisk-speak på degenererte tilbakemeldingsløkker. Et høyere nivå av degenerasjon, i dette tilfellet, refererer til en sterkere filterboble eller ekkokammereffekt.
De kjørte simuleringer av fem forskjellige anbefalingsalgoritmer, som prioriterte ulike grader av nøyaktig å forutsi nøyaktig hva brukeren var interessert i fremfor tilfeldig promotering av nytt innhold. Algoritmene som prioriterte nøyaktighet høyere, fant de, førte til mye raskere systemdegenerasjon. Med andre ord, den beste måten å bekjempe filterbobler eller ekkokamre på er å designe algoritmene for å være mer utforskende, og vise deg ting som er mindre sikre på å fange interessen din. Å utvide det overordnede settet med informasjon som anbefalingene er hentet fra kan også hjelpe.
Joseph A. Konstan, professor i informatikk ved University of Minnesota, som tidligere har ledet undersøkelser på filterbobler, sier resultatene fra DeepMinds analyse ikke er overraskende. Forskere har lenge forstått spenningen mellom nøyaktig prediksjon og effektiv utforskning i anbefalingssystemer, sier han.
Til tross for tidligere studier som viser at brukere vil tolerere lavere nivåer av nøyaktighet for å få fordelen av ulike anbefalinger, har utviklere fortsatt et motbevis for å designe algoritmene sine på den måten. Det er alltid lettere å «ha rett» ved å anbefale trygge valg, sier Konstan.
Konstan kritiserer også DeepMind-studien for å nærme seg filterbobler og ekkokamre som maskinlæringssimuleringer i stedet for interaktive systemer som involverer mennesker – en begrensning forskerne også bemerket. Jeg er alltid opptatt av arbeid som er begrenset til simuleringsstudier (eller offline dataanalyser), sier han. Mennesker er komplekse. På den ene siden vet vi at de verdsetter mangfold, men på den andre siden vet vi også at hvis vi strekker anbefalingene for langt – til det punktet hvor brukerne føler at vi ikke er til å stole på – kan vi miste brukerne helt.
Korreksjon: Overskriften ble oppdatert for bedre å gjenspeile omfanget av forskningen.