Følelsesgjenkjenningsteknologi bør forbys, sier et AI-forskningsinstitutt

Kategori: Kunstig intelligens Lagt ut 13. desember

Det er lite vitenskapelig grunnlag for følelsesgjenkjenningsteknologi, så det bør forbys bruk i beslutninger som påvirker menneskers liv, sier forskningsinstituttet AI Now i sin årlig rapport .

Et blomstrende marked: Til tross for mangelen på bevis for at maskiner kan finne ut hvordan vi har det, anslås følelsesgjenkjenning å være minst et marked på 20 milliarder dollar, og det er vokser raskt . Teknologien brukes for tiden til å vurdere jobbsøkere og personer som er mistenkt for kriminalitet, og den testes ut for videre søknader, som i VR-headset å utlede spillernes følelsesmessige tilstander.

Ytterligere problemer: Det er også bevis på at følelsesgjenkjenning kan forsterke rase- og kjønnsforskjeller . Regulatorer bør gå inn for å begrense bruken kraftig, og inntil da bør AI-selskaper slutte å distribuere den, sa AI Now. Spesifikt siterte den en fersk studie fra Association for Psychological Science, som brukte to år på å gjennomgå mer enn 1000 artikler om følelsesdeteksjon og konkluderte med at det er veldig vanskelig å bruke ansiktsuttrykk alene for å nøyaktig fortelle hvordan noen føler.

Andre bekymringer: I sin rapport ba AI Now regjeringer og bedrifter om å slutte å bruke ansiktsgjenkjenningsteknologi for sensitive applikasjoner inntil risikoen er studert ordentlig, og angrep AI-industrien for dens systemiske rasisme, kvinnehat og mangel på mangfold. Den ba også om obligatorisk avsløring av AIs miljøpåvirkning fra industrien.