211service.com
Emotion AI-forskere sier at overdrevne påstander gir arbeidet deres et dårlig navn
En illustrasjon. Til venstre, spredte utskjæringer av ansiktsdeler som øyne og munn i en boks. Midten: et komplett ansikt, lukkede øyne. Til høyre: et nettverk i form av et hode. Franziska Barczyk
Kanskje du har hørt om AI som gjennomfører intervjuer. Eller kanskje du har blitt intervjuet av en selv. Selskaper som HireVue hevder at programvaren deres kan analysere videointervjuer for å finne ut kandidatens ansettelsesevnescore . Algoritmene evaluerer ikke bare ansikts- og kroppsholdning for utseende; de forteller også arbeidsgivere om intervjuobjektet er seig, eller flink til å jobbe i team . Disse vurderingene kan ha stor effekt på en kandidats fremtid. I OSS og Sør-Korea , hvor AI-assistert ansettelse har blitt stadig mer populært, lærer karrierekonsulenter nå nye kandidater og jobbsøkere i hvordan man kan intervjue med en algoritme. Denne teknologien blir også distribuert på barn i klasserom og har blitt brukt i studier for å oppdage bedrag i rettssalsvideoer .
Men mange av disse løftene støttes ikke av vitenskapelig konsensus. Det er ingen sterke, fagfellevurderte studier som viser at analyse av kroppsholdning eller ansiktsuttrykk kan hjelpe til med å velge de beste arbeiderne eller studentene (delvis fordi bedrifter er hemmelighetsfulle om metodene deres). Som et resultat, hypen rundt følelsesgjenkjenning, som er s antatt å være et marked på 25 milliarder dollar innen 2023 , har skapt tilbakeslag fra teknologietikere og aktivister som frykter at teknologien kan føre til de samme typer diskrimineringsproblemer som prediktiv straffutmåling eller boligalgoritmer for utleiere som bestemmer hvem de skal leie ut til.
Hypen bekymrer også forskerne. Mange er enige om at arbeidet deres – som bruker ulike metoder (som å analysere mikrouttrykk eller stemme) for å skjelne og tolke menneskelige uttrykk – blir ko-optert og brukt i kommersielle applikasjoner som har et vaklende grunnlag i vitenskapen. De sier at mangel på statlig regulering ikke bare er dårlig for forbrukerne. Det er dårlig for dem også.
De gode og de dårlige
Følelsesgjenkjenning, en undergruppe av affektiv databehandling, er fortsatt en ny teknologi. Ettersom AI-forskere har testet grensene for hva vi kan og ikke kan kvantifisere om menneskelig atferd, har den underliggende vitenskapen om følelser fortsatt å utvikle seg. Det er fortsatt flere teorier, for eksempel om følelser kan skilles diskret eller falle på et kontinuum. I mellomtiden kan de samme uttrykkene bety forskjellige ting i forskjellige kulturer. I juli, a meta-studie konkluderte med at det ikke er mulig å bedømme følelser bare ved å se på en persons ansikt. Studien ble mye dekket (inkludert i denne publikasjonen), ofte med overskrifter som antydet det følelsesgjenkjenning kan ikke stoles på .
Følelsesgjenkjenningsforskere er allerede klar over denne begrensningen. De vi snakket med var forsiktige med å komme med påstander om hva arbeidet deres kan og ikke kan gjøre. Mange understreket at følelsesgjenkjenning faktisk ikke kan vurdere et individs indre følelser og opplevelse. Den kan bare estimere hvordan individets følelser kan bli oppfattet av andre, eller foreslå brede, befolkningsbaserte trender (som at en film i gjennomsnitt fremkaller en mer positiv reaksjon enn en annen). Ingen seriøs forsker vil påstå at man kan analysere handlingsenheter i ansiktet og da vet man faktisk hva folk tenker, sier Elisabeth André, en affektiv dataekspert ved Universitetet i Augsburg.
Forskere bemerker også at følelsesgjenkjenning innebærer mye mer enn bare å se på noens ansikt. Det kan også innebære å observere kroppsholdning, gange og andre egenskaper, samt å bruke biometriske sensorer og lyd for å samle inn mer helhetlige data.
Slike distinksjoner er fine, men viktige: de diskvalifiserer applikasjoner som HireVue, som hevder å vurdere et individs iboende kompetanse, men støtter andre, for eksempel teknologier som tar sikte på å gjøre maskiner til mer intelligente samarbeidspartnere og følgesvenner for mennesker. (HireVue svarte ikke på en forespørsel om kommentar.) En menneskelig robot kunne smile når du smilte – en speilhandling mennesker ofte bruker for å få interaksjoner til å føles mer naturlig. En bærbar enhet kan minne deg på å hvile hvis den oppdaget høyere nivåer enn grunnlinjenivået av kortisol, kroppens stresshormon. Ingen av disse applikasjonene krever en algoritme for å vurdere dine private tanker og følelser; de krever bare en vurdering av en passende respons på kortisolnivåer eller kroppsspråk. De tar heller ikke store beslutninger om en persons liv - i motsetning til uprøvde ansettelsesalgoritmer. Hvis vi vil at datamaskiner og datasystemer skal hjelpe oss, ville det vært positivt om de hadde en følelse av hvordan vi har det, sier Nuria Oliver, sjefsdataforskeren ved den ideelle organisasjonen DataPop Alliance.
Men mye av denne nyansen går tapt når forskning på følelsesgjenkjenning brukes til å lage lukrative kommersielle applikasjoner. De samme stressovervåkingsalgoritmene i en wearable kan brukes av et selskap som prøver å sørge for at du jobber hardt nok. Selv for selskaper som Affectiva, grunnlagt av forskere som snakker om viktigheten av personvern og etikk, er grensene vanskelige å definere. Det har solgte teknologien sin til HireVue . (Affectiva nektet å kommentere spesifikke selskaper.)
En oppfordring til regulering
I desember ba forskningsinstituttet AI Now om et forbud mot teknologier for følelsesgjenkjenning i viktige beslutninger som påvirker menneskers liv . Det er en av de første oppfordringene til å forby en teknologi som har fått mindre regulatorisk oppmerksomhet enn andre former for kunstig intelligens, selv om bruken av den i jobbscreening og klasserom kan ha alvorlige effekter.
Derimot holdt kongressen bare sitt tredje høring om ansiktsgjenkjenning på mindre enn ett år , og det har den bli et tema i valget i 2020 . Aktivister jobber for å boikotte ansiktsgjenkjenningsteknologier, og flere representanter erkjenner behovet for regulering i både privat og offentlig sektor. For affektiv databehandling har det ikke vært så mange dedikerte kampanjer og arbeidsgrupper, og forsøk på regulering har vært begrenset. En Illinois-lov regulere AI-analyse av jobbintervjuvideoer trådte i kraft i januar, og Federal Trade Commission har blitt bedt om å undersøke H ireVue (selv om det ikke er noen ord om hvorvidt den har til hensikt å gjøre det).
Selv om mange forskere mener et forbud er for bredt, er de enige om at et regulatorisk vakuum også er skadelig. Vi har klart definerte prosesser for å sertifisere at visse produkter vi konsumerer – det være seg mat vi spiser, det være seg medisiner vi tar – de er trygge for oss å ta dem, og de gjør faktisk hva de hevder at de gjør, sier Oliver . Vi har ikke de samme prosessene for teknologi. Hun mener selskaper hvis teknologier kan påvirke menneskers liv i betydelig grad, bør bevise at de oppfyller en viss sikkerhetsstandard.
Rosalind Picard, en professor ved MIT Media Lab som var med på å grunnlegge Affectiva og en annen affektiv databehandlingsoppstart, Empatica, gjenspeiler denne følelsen. For en eksisterende reguleringsmodell peker hun på Lov om beskyttelse av arbeidstakerpolygrafer begrense bruken av løgndetektorer, som hun sier i hovedsak er en affektiv datateknologi. For eksempel forbyr loven de fleste private arbeidsgivere å bruke polygrafer og lar ikke arbeidsgivere spørre om resultatene av løgndetektortester.
Hun foreslår at all bruk av slike teknologier bør være opt-in og at selskaper bør være pålagt å avsløre hvordan deres teknologier ble testet og hva deres begrensninger er. Det vi har i dag er at [bedrifter] kan komme med disse opprørende påstandene som bare er falske, for akkurat nå er ikke kjøperen så godt utdannet, sier hun. Og vi bør ikke kreve at kjøperne er godt utdannet. (Picard, som sier at hun forlot Affectiva i 2013, støtter ikke påstandene som HireVue kommer med.)
Meredith Whittaker, en forsker ved NYU og meddirektør for AI Now, understreker på sin side forskjellen mellom forskning og kommersialisering. Vi bestrider ikke hele feltet av affektiv databehandling, sier hun. Vi kaller spesielt ut den uregulerte, uvaliderte, vitenskapelig ubegrunnede distribusjonen av kommersielle teknologier for avfektgjenkjenning. Kommersialisering skader folk akkurat nå, potensielt fordi det kommer med påstander som bestemmer folks tilgang til ressurser.
Et forbud mot å bruke følelsesgjenkjenning i applikasjoner som jobbscreening vil bidra til å stoppe kommersialiseringen fra å overgå vitenskapen. Stopp utplasseringen av teknologiene først, sier hun, og invester deretter i forskning. Hvis forskningen bekrefter at teknologiene fungerer slik selskaper hevder, så vurder å løsne på forbudet.
Andre forskrifter vil imidlertid fortsatt være nødvendig for å holde folk trygge: det er til syvende og sist mer å vurdere, hevder Whittaker, enn bare vitenskapelig troverdighet. Vi må sørge for, når disse systemene brukes i sensitive sammenhenger, at de kan bestrides, at de brukes rettferdig, sier hun, og at de ikke fører til økt maktasymmetri mellom menneskene som bruker dem og menneskene de de bruker på. er brukt.