IBM sier at det ikke lenger jobber med ansiktsgjenkjenning fordi det brukes til raseprofilering

Kategori: Kunstig intelligens Lagt ut juni 09

Nyhetene: IBM har sagt at selskapet vil slutte å utvikle eller selge programvare for ansiktsgjenkjenning på grunn av bekymring for teknologien som brukes til å fremme rasisme. I en brev til kongressen , IBMs administrerende direktør Arvind Krishna sa at teknologigiganten motsetter seg all teknologi som brukes til masseovervåking, raseprofilering, brudd på grunnleggende menneskerettigheter og friheter.

Han ba om en nasjonal dialog om hvorvidt og hvordan det er hensiktsmessig at ansiktsgjenkjenningsteknologi brukes av nasjonale rettshåndhevelsesbyråer. Brevet ba også om nye føderale regler for å slå ned på politiets uredelighet, og mer opplæring og utdanning for etterspurte ferdigheter for å forbedre økonomiske muligheter for fargede.

Ikke en ny bekymring: Aktivister og eksperter har i årevis påpekt at ansiktsgjenkjenningssystemer er partiske, og flagget bekymringer om dets potensial for misbruk . Deres bekymringer er legitime: a landemerkestudie av US National Institute of Standards and Technology i fjor bekreftet at flertallet av ansiktsgjenkjenningsalgoritmene presterte dårligere på ikke-hvite ansikter.

Slik er det mottatt: IBM er det første store teknologiselskapet som trekker seg fra å utvikle teknologien helt. Selv om nyheten har blitt mottatt bredt positivt av tekniske arbeidere, og spesielt kampanjefolk som er bekymret for bruken av ansiktsgjenkjenning, kritikere har påpekt at det neppe er et stort offer for IBM å forlate et marked de knapt hadde fotfeste i til å begynne med.

Til tross for det er det fortsatt et stort teknologiselskap som tar en uvanlig sterk moralsk holdning over et av dagens mest kontroversielle emner. Det er spesielt betimelig gitt de pågående protestene over politivold og rasisme i USA og rundt om i verden. Men det er uklart om det vil forbli en engangsendring fra IBM eller et trekk som bidrar til å presse andre teknologiselskaper til handling.