211service.com
Bias eksisterer allerede i søkemotorresultater, og det kommer bare til å bli verre
Måten søkemotorer fungerer på er langt fra fordomsfri, hevder en ny bok. 26. februar 2018
NYU Book Press
Internett kan virke som like konkurransevilkår, men det er det ikke. Safiya Umoja Noble sto ansikt til ansikt med dette faktum en dag da hun brukte Googles søkemotor for å se etter emner som hennes nieser kunne finne interessante. Hun gikk inn på begrepet svarte jenter og kom tilbake med sider dominert av pornografi.
Noble, en kommunikasjonsprofessor i USC Annenberg, ble forferdet, men ikke overrasket. I årevis har hun argumentert for at verdiene til nettet gjenspeiler dets byggere – for det meste hvite, vestlige menn – og ikke representerer minoriteter og kvinner. Hennes siste bok, Algoritmer for undertrykkelse , detaljert forskning hun startet etter det skjebnesvangre Google-søket, og det utforsker de skjulte strukturene som former hvordan vi får informasjon gjennom internett.
Boken, ut denne måneden, argumenterer for at søkemotoralgoritmer ikke er så nøytrale som Google vil at du skal tro. Algoritmer fremmer noen resultater fremfor andre, og til og med et tilsynelatende nøytralt stykke kode kan reflektere samfunnets skjevheter. Dessuten, uten noen innsikt i hvordan algoritmene fungerer eller hva den bredere konteksten er, kan søk urettferdig forme diskusjonen om et emne som svarte jenter.
Noble snakket med MIT Technology Review om problemene som ligger i dagens system, hvordan Google kan gjøre det bedre, og hvordan kunstig intelligens kan gjøre ting verre.
TILLATS AV SAFIYA UMOJA NOBLE
Hva tar folk galt med hvordan søkemotorer fungerer?
Hvis vi ser etter den nærmeste Starbucks, et spesifikt sitat eller noe veldig smalt som er lett å forstå, fungerer det fint. Men når vi begynner å komme inn på mer kompliserte konsepter rundt identitet, rundt kunnskap, er det her søkemotorene begynner å svikte oss. Dette ville ikke være så mye av et problem bortsett fra at publikum virkelig stoler på søkemotorer for å gi dem det de tror vil være sannheten, eller noe undersøkt, eller noe som er troverdig. Det er her, tror jeg, vi har den største misforståelsen i offentligheten om hva søkemotorer er.
For å adressere skjevhet undertrykker Google vanligvis visse resultater. Finnes det en bedre tilnærming?
Vi kan tenke på å trekke oss tilbake på et så ambisiøst prosjekt med å organisere all verdens kunnskap, eller vi kan reframe og si: Dette er en teknologi som er ufullkommen. Den er manipulerbar. Vi skal vise deg hvordan det blir manipulert. Vi kommer til å gjøre den typen dimensjoner av produktet vårt mer gjennomsiktig, slik at du kjenner den dypt subjektive karakteren til utdataene. I stedet er posisjonen for mange selskaper – ikke bare Google – at [de] tilbyr noe du kan stole på, og som du kan stole på, og det er her det blir ganske vanskelig.
Hvordan kan maskinlæring opprettholde noe av rasismen og sexismen du skriver om?
Jeg har argumentert for at kunstig intelligens, eller automatiserte beslutningssystemer, vil bli et menneskerettighetsspørsmål dette århundret. Jeg har stor tro på det, fordi maskinlæringsalgoritmer og -prosjekter bruker data som allerede er forutinntatte, ufullstendige, feilaktige, og [vi lærer] maskiner hvordan de skal ta beslutninger basert på den informasjonen. Vi vet at [det] kommer til å føre til en rekke forskjellige utfall. La meg bare legge til at AI vil bli vanskeligere og vanskeligere å gripe inn i fordi det vil bli mindre klart hvilke data som har blitt brukt for å informere om fremstillingen av den AI, eller fremstillingen av disse systemene. Det er mange forskjellige typer datasett, for eksempel som ikke er standardiserte, som samles for å ta beslutninger.
Siden du først søkte etter svarte jenter i 2010, har du sett ting bli bedre eller verre?
Siden jeg begynte å skrive om og snakke offentlig om at spesielt svarte jenter er forbundet med pornografi, har ting endret seg. Nå er ikke pornografien og hyperseksualisert innhold på førstesiden, så jeg tror det var en stille forbedring som ikke kom med mye fanfare. Men andre samfunn, som Latina og asiatiske jenter, er fortsatt sterkt seksualisert i søkeresultater.