Hvordan gjør du en hund til en bil? Endre en enkelt piksel.

Kategori: Ukategorisert Lagt ut 30. okt

Takk en ny tilnærming til spoofing av bildegjenkjennings-AIer, utviklet av et team fra Kyushu University i Japan, for den vitsen.

Å prøve å fange ut AI-er er et populært tidsfordriv for mange forskere, og vi har rapportert om maskinlæringsforfalskninger tidligere. Den generelle tilnærmingen er å legge til funksjoner til bilder som feilaktig vil utløse et nevralt nettverk og få det til å identifisere hva det ser på som noe helt annet.

Den nye forskningen, publisert på arXiv , beskriver en algoritme som effektivt kan identifisere de beste pikslene å endre for å forvirre en AI til å feilmerke et bilde. Ved å endre bare én piksel i et bilde på 1024 piksler, kan programvaren lure en AI omtrent 74 prosent av tiden. Det tallet stiger til rundt 87 prosent hvis fem piksler justeres.

Du kan se noen eksempler ovenfor, som forfalsket en kunstig intelligens til å kalle et fly for en hund, en frosk for en lastebil og en hest for en bil, blant annet.

Som de Registrere påpeker , 1024-pikslers bilder er ganske små, noe som betyr at større bilder vil trenge hundrevis av piksler tweaked. Men presset for å få AI-er til å falle over ved å bruke det minste antallet mulige endringer er interessant og bekymringsfullt, i like stor grad. Som vi har forklart tidligere, er det ganske vanskelig å finne en måte å beskytte AI-er mot denne typen triks, fordi vi fortsatt ikke helt forstår den indre funksjonen til dype nevrale nettverk.

Inntil vi gjør det, vil slike hacks være vanskelige å unngå.