211service.com
AI for cybersikkerhet er en ny ting – og et farlig spill
Bilde av kode lagt over et bilde av hender på et bærbart tastatur Unsplash
Da jeg gikk rundt på utstillingsgulvet på denne ukens massive Black Hat cybersikkerhetskonferanse i Las Vegas, ble jeg slått av antallet selskaper som skryter av hvordan de bruker maskinlæring og kunstig intelligens for å gjøre verden til et tryggere sted.
Men noen eksperter bekymrer seg for at leverandører ikke tar nok hensyn til risikoen forbundet med å stole sterkt på disse teknologiene. Det som skjer er litt bekymringsfullt, og i noen tilfeller til og med farlig, advarer Raffael Marty fra sikkerhetsfirmaet Forcepoint.
Sikkerhetsindustriens sult etter algoritmer er forståelig. Den står overfor en tsunami av nettangrep akkurat da antallet enheter som er koblet til internett eksploderer. Samtidig er det en massiv mangel på dyktige cyberarbeidere (se Cybersecuritys lumske nye trussel: arbeidsstyrkestress).
Bruk av maskinlæring og AI for å automatisere trusseldeteksjon og respons kan lette byrden på ansatte, og potensielt bidra til å identifisere trusler mer effektivt enn andre programvaredrevne tilnærminger.
Datafarer
Men Marty og noen andre som snakker på Black Hat sier at mange firmaer nå lanserer maskinlæringsbaserte produkter fordi de føler de må for å få et publikum med kunder som har kjøpt seg inn i AI-hype-syklusen. Og det er en fare for at de overser måter maskinlæringsalgoritmene kan skape en falsk følelse av sikkerhet.
Mange produkter som rulles ut involverer overvåket læring, noe som krever at bedrifter velger og merker datasett som algoritmer er trent på – for eksempel ved å merke kode som er skadelig programvare og kode som er ren.
Marty sier at en risiko er at når de skynder seg å få produktene sine på markedet, bruker bedrifter opplæringsinformasjon som ikke er grundig skrubbet av unormale datapunkter. Det kan føre til at algoritmen mangler noen angrep. En annen er at hackere som får tilgang til et sikkerhetsfirmas systemer kan ødelegge data ved å bytte etikett slik at noen eksempler på skadelig programvare blir merket som ren kode.
De slemme gutta trenger ikke engang å tukle med dataene; i stedet kan de finne ut funksjonene til kode som en modell bruker for å flagge skadelig programvare og deretter fjerne disse fra sin egen skadelige kode slik at algoritmen ikke fanger den.
En mot mange
I en sesjon på konferansen flagget Holly Stewart og Jugal Parikh fra Microsoft risikoen for overavhengighet av en enkelt hovedalgoritme for å drive et sikkerhetssystem. Faren er at hvis den algoritmen er kompromittert, er det ikke noe annet signal som vil flagge et problem med den.
For å beskytte mot dette, Microsofts Windows Defender-trusselsbeskyttelsestjeneste bruker et mangfoldig sett med algoritmer med ulike treningsdatasett og funksjoner. Så hvis en algoritme blir hacket, vil resultatene fra de andre – forutsatt at deres integritet ikke har blitt kompromittert også – fremheve anomalien i den første modellen.
Utover disse problemene. Forcepoints Marty bemerker at med noen svært komplekse algoritmer kan det være veldig vanskelig å finne ut hvorfor de faktisk spytter ut visse svar. Dette forklaringsproblemet kan gjøre det vanskelig å vurdere hva som driver eventuelle uregelmessigheter som dukker opp (se Den mørke hemmeligheten i hjertet av AI).
Ingenting av dette betyr at AI og maskinlæring ikke bør ha en viktig rolle i et defensivt arsenal. Meldingen fra Marty og andre er at det er veldig viktig for sikkerhetsselskaper – og deres kunder – å overvåke og minimere risikoen forbundet med algoritmiske modeller.
Det er ingen liten utfordring gitt at folk med den ideelle kombinasjonen av dyp ekspertise innen cybersikkerhet og datavitenskap fortsatt er like sjeldne som en kjølig dag i en sommer i Las Vegas.