En ny måte å trene AI-systemer på kan holde dem tryggere fra hackere

Kategori: Kunstig intelligens Lagt ut 10. juli

Sammenhengen: En av de største uløste feilene ved dyp læring er dens sårbarhet for såkalte motstridende angrep . Når de legges til inngangen til et AI-system, kan disse forstyrrelsene, tilsynelatende tilfeldige eller uoppdagelige for det menneskelige øyet, få ting til å gå helt galt. Klistremerker strategisk plassert på et stoppskilt kan for eksempel lure en selvkjørende bil til å se et fartsgrenseskilt for 45 miles i timen, mens klistremerker på en vei kan forvirre en Tesla til å svinge over i feil kjørefelt.

Sikkerhetskritisk: Mest motstridende forskning fokuserer på bildegjenkjenningssystemer, men dypt læringsbasert bilde gjenoppbygging Systemer er også sårbare. Dette er spesielt problematisk i helsevesenet, der sistnevnte ofte er vant til rekonstruere medisinske bilder som CT- eller MR-skanninger fra røntgendata. Et målrettet motstandsangrep kan føre til at et slikt system rekonstruerer en svulst i en skanning der det ikke er en.

Forskningen: Bo Li (kåret til en av årets MIT Technology Review Innovators Under 35) og hennes kolleger ved University of Illinois i Urbana-Champaign foreslår nå en ny metode for å trene slike dyplæringssystemer for å være mer feilsikre og dermed pålitelige i sikkerhetskritiske scenarier. De setter det nevrale nettverket som er ansvarlig for bilderekonstruksjon mot et annet nevralt nettverk som er ansvarlig for å generere motstridende eksempler, i en stil som ligner på GAN algoritmer . Gjennom iterative runder forsøker det kontradiktoriske nettverket å lure gjenoppbyggingsnettverket til å produsere ting som ikke er en del av de originale dataene, eller grunnsannheten. Rekonstruksjonsnettverket justerer kontinuerlig seg selv for å unngå å bli lurt, noe som gjør det tryggere å distribuere i den virkelige verden.

Resultatene: Da forskerne testet deres motstridende trente nevrale nettverk på to populære bildedatasett, var det i stand til å rekonstruere grunnsannheten bedre enn andre nevrale nettverk som hadde blitt feilsikret med forskjellige metoder. Resultatene er fortsatt ikke perfekte, noe som viser at metoden fortsatt trenger foredling. Arbeidet vil bli presentert neste uke kl Internasjonal konferanse om maskinlæring . (Les denne ukens Algoritme for tips om hvordan jeg navigerer i AI-konferanser som denne.)