211service.com
Hvor lenge før AI-systemer blir hacket på kreative nye måter?
De siste teknikkene for kunstig intelligens blir tatt i bruk av selskaper i et rasende tempo. Om ikke lenge kan hackere også begynne å se nærmere, og de kan forårsake alle slags problemer ved å lure disse systemene med illusoriske data.
På en nylig AI-konferanse i Barcelona, Spania, sa Ian Goodfellow, en forsker ved OpenAI som har gjort banebrytende arbeid med å lure maskinlæringssystemer, og sa at det er enkelt å angripe systemene. Nesten alt dårlig du kan tenke deg å gjøre med en maskinlæringsmodell kan gjøres akkurat nå, sa han. Og å forsvare det er veldig, veldig vanskelig.
I løpet av de siste årene har forskere demonstrert forskjellige måter maskinlæringsprogrammer kan manipuleres ved å utnytte deres tilbøyelighet til å oppdage mønstre i data. De er sårbare, delvis fordi de mangler faktisk intelligens. For eksempel er det mulig å bruke en reklametavle for å lure synssystemene på selvkjørende biler til å se ting som ikke er der. Uhørbare signaler kan lure stemmestyrte assistenter til å utføre uønskede handlinger, som å besøke et nettsted og laste ned et stykke skadelig programvare.
Goodfellow og andre utvikler mottiltak. Det er mulig å trene et maskinlæringssystem til å gjenkjenne og deretter ignorere villedende eksempler. Men det er vanskelig å beskytte seg mot alle mulige overgrep.
Å lure maskinlæringssystemer kan bli mer enn en akademisk øvelse. Dette er veldig reelt, sier Patrick McDaniel, professor ved Pennsylvania State University som har utforsket problemstillingen. Maskinlæringssystemer driver alle slags funksjoner som kan tjene penger på av motstandere, og organiserte og sofistikerte angripere vil derfor omfavne disse angrepene.
McDaniel påpeker at hackere har overlistet maskinlæringssystemer i årevis. Spammere har for eksempel matet læringsalgoritmer med falsk e-post for å gjøre det mulig for spam-meldinger å passere senere. Han sier at det kanskje ikke er lenge før mer sofistikerte angrep dukker opp.
De første angrepene vil komme veldig snart mot nettbaserte klassifiseringssystemer, sier McDaniel. Dette kan inkludere moderne spamfiltre, systemer designet for å oppdage ulovlig eller opphavsrettslig beskyttet materiale, og avanserte maskinlæringsbaserte datasikkerhetssystemer.
En ny artikkel antyder at problemet kan være mer utbredt enn tidligere kjent. Den viser at visse bedrag kan gjenbrukes mot forskjellige maskinlæringssystemer, eller til og med mot et stort svart boks-system som en angriper ikke har forkunnskaper om.
Feil som lurer i disse populære maskinlæringsverktøyene kan gi en annen måte å målrette dem mot. Nye maskinlæringsverktøy utvikler seg i et raskt tempo, og blir ofte utgitt gratis på nettet før de brukes i aktive tjenester som bildegjenkjenning eller analyseverktøy for naturlig språk.
Octavian Suciu, en doktorgradsstudent ved University of Maryland, talte på den samme konferansen i Spania, fremhevet en rekke slike sårbarheter i noen populære verktøy. Suciu analyserte kildekoden for disse programmene, og han fant ut at den kunne manipuleres. Han fant problemer med måten noen verktøy lagrer informasjon på i minnet, noe som betyr at innmating av et veldig stort stykke data kunne overskrive en del av programmet og endre oppførselen.
Suciu spekulerer i at tilnærmingen kan være en praktisk måte å manipulere, for eksempel, et verktøy som tilbyr aksjeprognoser, som deretter kan brukes til å shorte markedet. Hvis [en modell] forteller deg at aksjen vil gå opp, kan du endre spådommen til å si at den vil gå ned, sier han.