AI-forskere sier at vitenskapelige utgivere hjelper til med å opprettholde rasistiske algoritmer

Kategori: Kunstig intelligens Lagt ut 23. juni

Nyhetene: An åpent brev fra en voksende koalisjon av AI-forskere kaller ut den vitenskapelige utgiveren Springer Nature for en konferanseartikkel den angivelig planla å inkludere i sin kommende bok Transaksjoner på Computational Science & Computational Intelligence . Artikkelen, med tittelen A Deep Neural Network Model to Predict Criminality Using Image Processing, presenterer et ansiktsgjenkjenningssystem som angivelig er i stand til å forutsi om noen er kriminelle, ifølge original pressemelding . Den ble utviklet av forskere ved Harrisburg University og skulle presenteres på en kommende konferanse.

Kravene: Siterer arbeidet med å lede Black AI lærde , avkrefter brevet det vitenskapelige grunnlaget for papiret og hevder at kriminalitetsforutsigelsesteknologier er rasistiske. Den lister også opp tre krav: 1) at Springer Nature skal trekke tilbake tilbudet om å publisere studien; 2) at den avgir en uttalelse som fordømmer bruken av statistiske teknikker som maskinlæring for å forutsi kriminalitet og anerkjenner dens rolle i å stimulere til slik forskning; og 3) at alle vitenskapelige utgivere forplikter seg til ikke å publisere lignende artikler i fremtiden. Brevet, som ble sendt til Springer Nature på mandag, ble opprinnelig skrevet av fem forskere ved MIT, Rensselaer Polytechnic Institute, McGill University og AI Now Institute. I løpet av få dager fikk den mer enn 600 underskrifter og teller på tvers av AI-etikk og akademiske miljøer, inkludert fra ledende skikkelser som Meredith Whittaker, medgründer av AI Now Institute, og Ethan Zuckerman, tidligere direktør for Center for Civic Media ved MIT Media Lab.

Hvorfor det er viktig: Mens brevet fremhever et spesifikt papir, er forfatternes mål å demonstrere et systematisk problem med måten vitenskapelig publisering oppmuntrer forskere til å opprettholde uetiske normer. Dette er grunnen til at vi stadig ser rasevitenskap dukke opp gang på gang, sa Chelsea Barabas, en doktorgradsstudent ved MIT og en av brevets medforfattere. Det er fordi utgivere publiserer det. Den virkelige betydningen av dette Springer-stykket er at det ikke er unikt overhodet, gjentok Theodora Dryer, en postdoktor ved AI Now og en annen medforfatter. Det er emblematisk for et problem og en kritikk som har pågått så, så lenge.

Springers svar: Som svar på brevet sa Springer at det ikke ville publisere avisen. Papiret du referer til ble sendt inn til en kommende konferanse som Springer hadde planlagt å publisere forhandlingene for, het det. Etter en grundig fagfellevurderingsprosess ble papiret avvist. Harrisburg University også tok ned pressemeldingen , som sier at fakultetet oppdaterer papiret for å ta opp bekymringer. Harrisburg University og en medforfatter av papiret avviste en forespørsel om kommentar samt en forespørsel om en kopi av det originale papiret. Brevets underskrivere sa at de vil fortsette å presse på for å oppfylle deres andre og tredje krav.

Det større bildet: Siden George Floyds død utløste en internasjonal bevegelse for raserettferdighet, har AI-feltet og teknologiindustrien for øvrig møtt en uttelling om rollen de har spilt i å forsterke strukturell rasisme. I løpet av uken 8. juni, for eksempel, kunngjorde IBM, Microsoft og Amazon alle slutt eller delvis suspensjon av deres ansiktsgjenkjenningsprodukter. Flyttingen var en kulminasjon av to år med påbud fra forskere og aktivister for å demonstrere en kobling mellom disse teknologiene og overpolitisering av minoritetssamfunn. Det åpne brevet er den siste utviklingen i denne bevegelsen mot større etisk ansvarlighet innen AI.

Vi ønsket virkelig å bidra til denne voksende bevegelsen, sa Sonja Solomun, forskningsdirektør ved Senter for medier, teknologi og demokrati ved McGill University. Spesielt når vi ser ut av vinduene våre og ser hva som skjer akkurat nå i USA og globalt, er innsatsen bare så høy.

Oppdater: Etter publisering ga Springer Nature en uttalelse som klargjorde at 'ikke på noe tidspunkt ble [avisen] akseptert for publisering...Serieredaktørens beslutning om å avvise den endelige avisen ble tatt tirsdag 16. juni og ble offisielt kommunisert til forfatterne mandag 22. Juni.'