Selvkjørende biler kan være mer sannsynlig å treffe deg hvis du har mørk hud

Kategori: Kunstig intelligens Lagt ut 01 mars

Forskere ved Georgia Institute of Technology funnet at toppmoderne objektgjenkjenningssystemer er mindre nøyaktige til å oppdage fotgjengere med mørkere hudtoner.

Krasjtesting: Forskerne testet åtte bildegjenkjenningssystemer (hver trent på et standard datasett) mot et stort basseng med fotgjengerbilder. De delte fotgjengerne inn i to grupper for lysere og mørkere hudtoner i henhold til Fitzpatrick hudtypeskala , en måte å klassifisere menneskelig hudfarge.

Fargekodet: Deteksjonsnøyaktigheten til systemene ble funnet å være lavere med i gjennomsnitt fem prosentpoeng for gruppen med mørkere hud. Dette gjaldt selv når man kontrollerte for tid på dagen og hindret sikt.

Under panseret: Gjennom videre analyse fastslo forskerne at skjevheten sannsynligvis var forårsaket av to ting: for få eksempler på mørkhudede fotgjengere og for lite vekt på å lære av disse eksemplene. De sier at skjevheten kan dempes ved å justere både dataene og algoritmen.

En tidligere versjon av denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.