Facebook sier at de vil se etter rasemessige skjevheter i algoritmene sine

Kategori: Kunstig intelligens Lagt ut 22. juli

Nyhetene: Facebook sier at det er i gang nye interne team for å se etter rasemessige skjevheter i algoritmene som driver dets viktigste sosiale nettverk og Instagram, ifølge Wall Street Journal. Spesielt vil undersøkelsene ta for seg de negative effektene av maskinlæring – som kan kode implisitt rasisme i treningsdata – om svarte, latinamerikanske og andre minoritetsgrupper.

Hvorfor det er viktig: I løpet av de siste årene har stadig flere forskere og aktivister fremhevet problemet med skjevhet i AI og uforholdsmessig innvirkning det har på minoriteter . Facebook, som bruker maskinlæring for å kurere den daglige opplevelsen til sine 2,5 milliarder brukere, er godt på tide med en intern vurdering av denne typen. Det er allerede bevis på at Facebooks annonseserveringsalgoritmer diskriminere etter rase og tillate annonsører å stoppe bestemte rasegrupper fra å se annonsene deres, for eksempel.

Under press: Facebook har en historie med å unngå anklager om skjevhet i systemene sine. Det har tatt flere år med dårlig presse og press fra borgerrettighetsgrupper for å komme til dette punktet. Facebook har satt opp disse lagene etter en månedslang annonseboikott organisert av borgerrettighetsgrupper – inkludert Anti-Defamation League, Color of Change og NAACP – som førte til store brukere som Coca-Cola, Disney, McDonald's og Starbucks til å suspendere kampanjene deres.

Ingen enkel løsning: Flyttingen er velkommen. Men å sette i gang en etterforskning er langt unna å faktisk fikse problemet med rasemessig skjevhet, spesielt når ingen egentlig vet hvordan de skal fikse det. I de fleste tilfeller, skjevhet eksisterer i treningsdataene og det er ingen gode avtalte måter å fjerne den på. Og justere disse dataene – en form for algoritmisk bekreftende handling – er kontroversielt. Maskinlæringsskjevhet er også bare ett av sosiale mediers problemer rundt rase. Hvis Facebook skal se på algoritmene sine, bør det være en del av en bredere overhaling som også kjemper mot politikk som gir plattformer til rasistiske politikere, hvite-overherredømmegrupper og Holocaust-fornektere.

'Vi vil fortsette å jobbe tett med Facebooks ansvarlige AI-team for å sikre at vi ser på potensielle skjevheter på tvers av våre respektive plattformer,' sier Stephanie Otway, en talsperson for Instagram. 'Det er tidlige dager, og vi planlegger å dele flere detaljer om dette arbeidet i løpet av de kommende månedene.'