211service.com
Hvordan oppgradere dommere med maskinlæring
Jon Han
Når bør en kriminell tiltalt avventes i fengsel i stedet for hjemme? Programvare kan forbedre dommernes evne til å foreta den samtalen betydelig – redusere kriminalitet eller antall personer som sitter fast og venter i fengsel.
I en ny studie fra National Bureau of Economic Research trente økonomer og informatikere en algoritme for å forutsi om tiltalte var en flyrisiko fra deres rap-ark og rettsprotokoller ved å bruke data fra hundretusenvis av saker i New York City. Når den ble testet på over hundre tusen flere saker som den ikke hadde sett før, viste algoritmen seg bedre til å forutsi hva tiltalte vil gjøre etter løslatelse enn dommere.
Jon Kleinberg , en informatikkprofessor ved Cornell involvert i forskningen, sier at et mål med prosjektet var å vise politikere de potensielle fordelene for samfunnet ved å bruke maskinlæring i strafferettssystemet. Dette viser hvordan maskinlæring kan hjelpe selv i sammenhenger der det er betydelig menneskelig ekspertise som blir tatt i bruk, sier Kleinberg, som jobbet med prosjektet med forskere fra Stanford, Harvard og University of Chicago.
De anslår at for New York City kan algoritmens råd redusere kriminalitet fra tiltalte som venter på rettssak med så mye som 25 prosent uten å endre antallet mennesker som venter i fengsel. Alternativt kan det brukes til å redusere antall fengsler som venter på rettssak med mer enn 40 prosent, samtidig som kriminalitetsraten for tiltalte forblir uendret. Å gjenta eksperimentet på data fra 40 store byfylker over hele USA ga lignende resultater.
Som en bonus var gevinster som de mulige samtidig som fengselsbefolkningen ble flyttet til å inkludere en mindre andel afroamerikanere og latinamerikanere.
Algoritmen tildeler tiltalte en risikoscore basert på data hentet fra registre for deres nåværende sak og deres rap-ark, for eksempel lovbruddet de er mistenkt for, når og hvor de ble arrestert, og antall og type tidligere domfellelser. (De eneste demografiske dataene den bruker er alder – ikke rase.)
Kleinberg foreslår at algoritmer kan brukes for å hjelpe dommere uten større forstyrrelser i måten de jobber på i form av et advarselssystem som flagger avgjørelser som høyst sannsynlig er feil. Analyse av dommernes prestasjoner antydet at de av og til har en tendens til å løslate personer som det er stor sannsynlighet for å unnlate å stille i retten, eller til å begå kriminalitet mens de venter på rettssak. En algoritme kan fange opp mange av de tilfellene, sier Kleinberg.
Richard Berk , en professor i kriminologi ved University of Pennsylvania, beskriver studien som svært godt arbeid, og et eksempel på en nylig akselerert interesse for å bruke maskinlæring for å forbedre strafferettslige avgjørelser. Ideen har blitt utforsket i 20 år, men maskinlæring har blitt kraftigere, og data for å trene den er mer tilgjengelig.
Berk testet nylig et system med Pennsylvania State Parole Board som gir råd om risikoen for at en person vil fornærme seg på nytt, og fant bevis for at det reduserte kriminalitet. NBER-studien er viktig fordi den ser på hvordan maskinlæring kan brukes før straffutmåling, et område som ikke har blitt grundig utforsket, sier han.
Berk sier imidlertid at det trengs mer forskning på hvordan man kan sikre at strafferettsalgoritmer ikke fører til urettferdige utfall. I fjor en undersøkelse fra ProPublica fant at kommersiell programvare utviklet for å avgjøre hvilke domfelte som skulle få prøvetid var mer sannsynlig å feilaktig merke svarte mennesker enn hvite som høyrisiko.
Jens Ludwig , direktør for University of Chicago Crime Lab, som jobbet med den nye NBER-studien, sier at den demonstrerer hvordan urettferdige utfall er langt fra uunngåelige, ved å vise at en dommerrådgivende algoritme kan redusere kriminalitet så vel som hastigheten som svarte og latinamerikanere er fengslet. Disse verktøyene kan faktisk forbedre rettferdigheten i forhold til status quo, sier han.