AI må møte problemet med usynlige arbeidere

SAIPH SAVAGE

Mange av de mest vellykkede og mest brukte maskinlæringsmodellene er opplært ved hjelp av tusenvis av lavtlønnede konsertarbeidere . Millioner av mennesker rundt om i verden tjener penger på plattformer som Amazon Mechanical Turk, som lar bedrifter og forskere outsource små oppgaver til online crowdworkers. I følge ett anslag , mer enn en million mennesker i USA alene tjener penger hver måned ved å jobbe på disse plattformene. Rundt 250 000 av dem tjener minst tre fjerdedeler av inntekten på denne måten. Men selv om mange jobber for noen av de rikeste AI-laboratoriene i verden, får de betalt under minstelønn og får ingen muligheter til å utvikle ferdighetene sine.

Saiph Savage er direktør for menneske-datamaskin interaksjonslaboratoriet ved West Virginia University, hvor hun jobber med samfunnsteknologi, med fokus på spørsmål som å bekjempe desinformasjon og hjelpe konsertarbeidere med å forbedre arbeidsforholdene. Denne uken ga hun en inviterte foredrag på NeurIPS , en av verdens største AI-konferanser, med tittelen A future of work for the invisible workers in AI. Jeg snakket med Savage på Zoom dagen før hun holdt foredraget.

Samtalen vår er redigert for klarhet og lengde.

Du snakker om de usynlige arbeiderne i AI. Hva slags jobber gjør disse menneskene?

Mange oppgaver involverer merking av data – spesielt bildedata – som blir matet inn i overvåkede maskinlæringsmodeller slik at de forstår verden bedre. Andre oppgaver innebærer å transkribere lyd. For eksempel, når du snakker med Amazons Alexa kan det hende at arbeidere transkriberer det du sier slik at stemmegjenkjenningsalgoritmen lærer å forstå tale bedre. Og jeg har nettopp hatt et møte med publikumsarbeidere på landsbygda i West Virginia. De blir ansatt av Amazon for å lese opp mye dialog for å hjelpe Alexa å forstå hvordan folk i den regionen snakker. Du kan også la arbeidere merke nettsteder som kan være fylt med hatefulle ytringer eller pedofili. Dette er grunnen til at når du søker etter bilder på Google eller Bing, blir du ikke utsatt for disse tingene.

Folk blir ansatt for å gjøre disse oppgavene på plattformer som Amazon Mechanical Turk. Store teknologiselskaper kan bruke interne versjoner – Facebook og Microsoft har for eksempel sine egne. Forskjellen med Amazon Mechanical Turk er at alle kan bruke den. Forskere og startups kan koble til plattformen og drive seg selv med usynlige arbeidere.

Hvilke problemer har disse usynlige arbeiderne?

Jeg ser faktisk ikke på crowdwork som en dårlig ting; det er en veldig god idé. Det har gjort det veldig enkelt for bedrifter å legge til en ekstern arbeidsstyrke.

Relatert historie

Den kommende krigen mot de skjulte algoritmene som fanger mennesker i fattigdom En voksende gruppe advokater avdekker, navigerer og bekjemper de automatiserte systemene som nekter de fattige boliger, jobber og grunnleggende tjenester.

Men det er en rekke problemer. Den ene er at arbeidere på disse plattformene tjener svært lave lønninger. Vi gjorde en studie der vi fulgte hundrevis av Amazon Mechanical Turk-arbeidere i flere år, og vi fant ut at de tjente rundt $2 per time. Dette er mye mindre enn den amerikanske minstelønnen. Det er mennesker som dedikerer livet til disse plattformene; det er deres viktigste inntektskilde.

Og det gir andre problemer. Disse plattformene avskjærer også fremtidige jobbmuligheter, fordi fulltidsansatte crowdworkers ikke får en måte å utvikle ferdighetene sine på – i hvert fall ikke de som er anerkjent. Vi fant ut at mange mennesker ikke legger arbeidet sitt på disse plattformene på CV-en. Hvis de sier at de jobbet på Amazon Mechanical Turk, vil de fleste arbeidsgivere ikke engang vite hva det er. De fleste arbeidsgivere er ikke klar over at dette er arbeiderne bak vår AI.

Det er tydelig at du har en ekte lidenskap for det du gjør. Hvordan endte du opp med å jobbe med dette?

Jeg jobbet på et forskningsprosjekt på Stanford hvor jeg i utgangspunktet var en crowdworker, og det utsatte meg for problemene. Jeg hjalp til med å designe en ny plattform, som var som Amazon Mechanical Turk, men kontrollert av arbeiderne. Men jeg var også en teknisk arbeider i Microsoft. Og det åpnet også øynene mine for hvordan det er å jobbe i et stort teknologiselskap. Du blir ansiktsløs, noe som er veldig likt det crowdworkers opplever. Og det fikk meg virkelig til å ønske å endre arbeidsplassen.

Du nevnte å gjøre en studie. Hvordan finner du ut hva disse arbeiderne gjør og hvilke forhold de står overfor?

Jeg gjør tre ting. Jeg intervjuer arbeidere, jeg gjennomfører undersøkelser, og jeg bygger verktøy som gir meg et mer kvantitativt perspektiv på hva som skjer på disse plattformene. Jeg har kunnet måle hvor mye tid arbeidere investerer i å fullføre oppgaver. Jeg måler også mengden ubetalt arbeid som arbeidere utfører, for eksempel å søke etter oppgaver eller kommunisere med en arbeidsgiver – ting du ville blitt betalt for hvis du hadde lønn.

Du har blitt invitert til å holde et foredrag på NeurIPS denne uken. Hvorfor er dette noe AI-fellesskapet trenger å høre?

Vel, de driver forskningen sin med arbeidskraften til disse arbeiderne. Jeg tror det er veldig viktig å innse at en selvkjørende bil eller hva som helst eksisterer på grunn av folk som ikke får utbetalt minstelønn. Mens vi tenker på fremtiden til AI, bør vi tenke på fremtidens arbeid. Det er nyttig å bli minnet på at disse arbeiderne er mennesker.

Sier du at selskaper eller forskere bevisst underbetaler?

Nei, det er det ikke. Jeg tror de kan undervurdere hva de ber arbeidere om å gjøre og hvor lang tid det vil ta. Men mye av tiden har de rett og slett ikke tenkt på den andre siden av transaksjonen i det hele tatt.

For de ser bare en plattform på internett. Og det er billig.

Ja nøyaktig.

Hva gjør vi med det?

Mange ting. Jeg hjelper arbeidere med å få en idé om hvor lang tid en oppgave kan ta dem å utføre. På denne måten kan de vurdere om en oppgave kommer til å være verdt det. Så jeg har utviklet en AI-plugin for disse plattformene som hjelper arbeidere med å dele informasjon og veilede hverandre om hvilke oppgaver som er verdt tiden deres og som lar deg utvikle visse ferdigheter. AI lærer hvilken type råd som er mest effektiv. Den tar inn tekstkommentarene som arbeidere skriver til hverandre og lærer hvilke råd som fører til bedre resultater, og promoterer det på plattformen.

La oss si at arbeidere ønsker å øke lønningene sine. AI identifiserer hvilken type råd eller strategi som er best egnet for å hjelpe arbeidere med det. Det kan for eksempel foreslå at du gjør denne typen oppgaver fra disse arbeidsgiverne, men ikke disse andre typene oppgaver der borte. Eller det vil fortelle deg at du ikke skal bruke mer enn fem minutter på å søke etter arbeid. Maskinlæringsmodellen er basert på den subjektive meningen til arbeidere på Amazon Mechanical Turk, men jeg fant ut at den fortsatt kunne øke arbeidernes lønn og utvikle ferdighetene deres.

Så det handler om å hjelpe arbeidere med å få mest mulig ut av disse plattformene?

Det er en start. Men det ville vært interessant å tenke på karrierestiger. For eksempel kan vi veilede arbeidere til å utføre en rekke forskjellige oppgaver som lar dem utvikle ferdighetene sine. Vi kan også tenke på å gi andre muligheter. Bedrifter som setter jobber på disse plattformene kan tilby nettbaserte mikro-praksisplasser for arbeiderne.

Og vi bør støtte gründere. Jeg har utviklet verktøy som hjelper folk med å lage sine egne spillemarkeder. Tenk på disse arbeiderne: de er veldig kjent med spillejobber, og de kan ha nye ideer om hvordan de skal drive en plattform. Problemet er at de ikke har de tekniske ferdighetene til å sette opp en, så jeg bygger et verktøy som gjør å sette opp en plattform litt som å konfigurere en nettsidemal.

Mye av dette handler om å bruke teknologi for å endre maktbalansen.

Det handler om å endre fortellingen også. Jeg møtte nylig to crowdworkers som jeg har snakket med, og de kaller seg faktisk tekniske arbeidere, som - jeg mener, de er tekniske arbeidere på en bestemt måte fordi de driver teknologien vår. Når vi snakker om crowdworkers blir de vanligvis presentert som å ha disse forferdelige jobbene. Men det kan være nyttig å endre måten vi tenker på hvem disse menneskene er. Det er bare en annen teknisk jobb.

gjemme seg