211service.com
Hackere er det virkelige hinderet for selvkjørende kjøretøy
Espen Friberg
Før autonome lastebiler og drosjer kommer ut på veien, må produsentene løse problemer som er langt mer komplekse enn å unngå kollisjoner og navigering (se 10 Breakthrough Technologies 2017: Self-Driving Trucks ).
Disse kjøretøyene må forutse og forsvare seg mot et fullt spekter av ondsinnede angripere som utfører både tradisjonelle cyberangrep og en ny generasjon angrep basert på såkalt kontradiktorisk maskinlæring (se AI Fight Club Could Help Save Us from a Future of Super-Smart Cyberattacks ). Etter hvert som konsensus vokser om at autonome kjøretøyer er bare noen få år unna å bli utplassert i byer som robottaxier, og på motorveier for å lette den kjedelige langdistansetransporten, har denne risikoen for angrep i stor grad vært borte fra den pustende dekningen.
Det minner meg om en rekke artikler som promoterte e-post på begynnelsen av 1990-tallet, før den nye verden av elektronisk kommunikasjon var oversvømmet av uønsket spam. Den gang ble løftet om maskinlæring sett på som en løsning på verdens spamproblemer. Og i dag er problemet med spam i stor grad løst – men det tok flere tiår før vi kom hit.
Det har hittil ikke vært rapporter om fiendtlige hackere som har rettet seg mot selvkjørende kjøretøy. Ironisk nok er det imidlertid et problem. Det var ingen ondsinnede angripere da dot-com-oppstartene på 1990-tallet utviklet de første e-handelsplattformene heller. Etter den første store runden med e-handelshack, Bill Gates skrev et notat til Microsoft og krevde at selskapet skulle ta sikkerhet på alvor . Resultatet: i dag er Windows et av de sikreste operativsystemene, og Microsoft bruker mer enn en milliard dollar årlig på cybersikkerhet . Likevel finner hackere stadig problemer med Windows-operativsystemer, nettlesere og applikasjoner.
Bilselskaper vil sannsynligvis gå gjennom en lignende progresjon. Etter å ha blitt flau over at de ikke har tatt hensyn til sikkerhet i det hele tatt – CAN-bussen, designet på 1980-tallet, har ikke noe begrep om autentisering – ser de nå ut til å være oppmerksomme. Da hackere viste at kjøretøyer på veiene var sårbare for flere spesifikke sikkerhetstrusler, svarte bilprodusentene med å tilbakekalle og oppgradere fastvaren til millioner av biler. I juli i fjor sa GM-sjef Mary Barra at beskyttelse av biler fra en cybersikkerhetshendelse er et spørsmål om offentlig sikkerhet.
Men innsatsen som er gjort til dags dato kan gå glipp av den neste sikkerhetstrenden. Datasyns- og kollisjonsunngåelsessystemene under utvikling for autonome kjøretøyer er avhengige av komplekse maskinlæringsalgoritmer som ikke er godt forstått, selv av selskapene som er avhengige av dem (se The Dark Secret at the Heart of AI).
Fjorårets forskere ved CMU demonstrerte det toppmoderne ansiktsgjenkjenningsalgoritmer kan beseires ved å bruke et par klare briller med et funky mønster trykt på innfatningen. Noe med mønsteret tippet algoritmen på den riktige måten, og den trodde den så hva som ikke var der. Vi viste at angripere kan unngå toppmoderne ansiktsgjenkjenningsalgoritmer som er basert på nevrale nettverk med det formål å etterligne en målperson, eller rett og slett bli identifisert feil, skrev hovedforsker Mahmood Sharif i en e-post.
Også i fjor, forskere ved University of South Carolina, Kinas Zhejiang University og det kinesiske sikkerhetsfirmaet Qihoo 360 demonstrerte det de kunne blokkere forskjellige sensorer på en Tesla S, noe som gjør objekter usynlige for navigasjonssystemet.
Mange nyere artikler om autonom kjøring bagatelliserer eller ignorerer ideen om at det kan være aktive, adaptive og ondsinnede motstandere som prøver å få kjøretøyene til å krasje. I et intervju med MIT Technology Review , leder av National Transportation Safety Board, Christopher Hart, sa at han var veldig optimistisk på at selvkjørende biler ville redusere antallet ulykker på landets veier. Når han diskuterte sikkerhetsspørsmål, fokuserte Hart på behovet for å programmere kjøretøy til å ta etiske beslutninger - for eksempel når en 80 000 pund lastebil plutselig sperrer veien for en bil.
Hvorfor vil noen hacke en selvkjørende bil, vel vitende om at det kan føre til dødsfall? En grunn er at utbredt utplassering av autonome kjøretøy kommer til å resultere i mange arbeidsledige, og noen av dem kommer til å bli sinte.
I august 2016, Ford CEO Mark Fields sa det han planla å ha helt autonome kjøretøy som opererer som urbane drosjer innen 2021. Google, Nissan og andre planla å ha lignende autonome biler på veiene så snart som 2020. Disse automatiserte drosjene eller leveringskjøretøyene kan være sårbare for å bli blendet med en høy -kraftlaserpeker av en arbeidsledig Teamster, en tidligere Uber-sjåfør som fortsatt har bilbetalinger, eller bare en pakke med tenåringer som kjeder seg.
På spørsmål om planene deres for å håndtere trusselen fra motstandsdyktig maskinlæring, svarte Sarah Abboud, en talsperson for Uber: Vårt team av sikkerhetseksperter utforsker stadig nye forsvar for fremtiden til autonome kjøretøy, inkludert dataintegritet og misbruksdeteksjon. Men etter hvert som autonom teknologi utvikler seg, utvikler trusselmodellen seg også, noe som betyr at noen av dagens sikkerhetsproblemer sannsynligvis vil avvike fra de som tas opp i et virkelig autonomt miljø.
Det vil kun ta noen få ulykker for å stoppe utplasseringen av førerløse kjøretøy. Dette vil sannsynligvis ikke hemme avanserte autopilotsystemer, men det vil sannsynligvis være en betydelig avskrekking for utplassering av kjøretøy som er helt autonome.
Simon Garfinkel er en vitenskapsforfatter bosatt i Arlington, Virginia. Han jobber med en ny bok om databehandlingens historie.