211service.com
Hackere kan lure en Tesla til å akselerere med 50 miles per time
Tesla Model S kjører i California Bay Area Tesla
Ikke tro bilens løgnaktige øyne.
Hackere har manipulert flere Tesla-biler til å øke hastigheten med 50 miles per time. Forskerne lurte bilens Mobileye EyeQ3-kamerasystem ved å subtilt endre et fartsgrenseskilt på siden av en vei på en måte som en person som kjører forbi nesten aldri ville legge merke til det.
Dette demonstrasjon fra cybersikkerhetsfirmaet McAfee er den siste indikasjonen på at motstandsdyktig maskinlæring potensielt kan ødelegge autonome kjøresystemer, noe som utgjør en sikkerhetsutfordring for de som håper å kommersialisere teknologien.
Mobileye EyeQ3-kamerasystemer leser fartsgrenseskilt og mater denne informasjonen inn i autonome kjørefunksjoner som Teslas automatiske cruisekontroll, sa Steve Povolny og Shivangee Trivedi fra McAfees Advanced Threat Research-team.
Forskerne satte et lite og nesten umerkelig klistremerke på et fartsgrenseskilt. Kameraet leste skiltet som 85 i stedet for 35, og i testing økte både 2016 Tesla Model X og årets Model S 50 miles per time.
Det endrede fartsgrenseskiltet viser 85 på Teslaens heads-up-skjerm. En talsperson for Mobileye bagatelliserte forskningen ved å antyde at dette tegnet ville lure et menneske til å lese 85 også. McAfee
Dette er det siste i et økende berg av forskning som viser hvordan maskinlæringssystemer kan angripes og lures i livstruende situasjoner.
I en 18 måneder lang forskningsprosess replikerte og utvidet Trivedi og Povolny en rekke motstridende maskinlæringsangrep, inkludert en studie fra UC Berkeley-professor Dawn Song som brukte klistremerker for å lure en selvkjørende bil til å tro at et stoppskilt var et 45-mile-per-time fartsgrenseskilt. I fjor lurte hackere en Tesla til å svinge over i feil kjørefelt i trafikken ved å plassere klistremerker på veien i et motstandsangrep ment å manipulere bilens maskinlæringsalgoritmer.
Hvorfor vi studerer dette på forhånd er fordi du har intelligente systemer som på et tidspunkt i fremtiden kommer til å gjøre oppgaver som nå håndteres av mennesker, sa Povolny. Hvis vi ikke er veldig forutseende om hva angrepene er og veldig nøye med hvordan systemene er utformet, har du en rullende flåte av sammenkoblede datamaskiner som er en av de mest virkningsfulle og fristende angrepsflatene der ute.
Etter hvert som autonome systemer sprer seg, strekker problemet seg til maskinlæringsalgoritmer langt utover kjøretøy: A mars 2019 studere viste medisinske maskinlæringssystemer lurt til å gi dårlige diagnoser.
McAfee-undersøkelsen ble avslørt til både Tesla og Mobileye EyeQ3 i fjor. Tesla svarte ikke på en forespørsel om kommentar fra MIT Technology Review, men anerkjente McAfees funn og sa at problemene ikke ville bli fikset i den generasjonen maskinvare. En talsperson for Mobileye bagatelliserte forskningen ved å antyde at det modifiserte skiltet ville lure til og med et menneske til å lese 85 i stedet for 35. Selskapet anser ikke å lure kameraet som et angrep, og til tross for rollen kameraet spiller i Teslas cruisekontroll, den var ikke designet for autonom kjøring.
Autonom kjøretøyteknologi vil ikke stole på sansing alene, men vil også bli støttet av forskjellige andre teknologier og data, for eksempel crowdsourced kartlegging, for å sikre påliteligheten til informasjonen mottatt fra kamerasensorene og tilby mer robuste redundanser og sikkerhet, sier Mobileye-talspersonen sa i en uttalelse.
Tesla har siden gått over til proprietære kameraer på nyere modeller, og Mobileye EyeQ3 har gitt ut flere nye versjoner av kameraene sine som i foreløpig testing ikke var utsatt for akkurat dette angrepet.
Det er fortsatt et betydelig antall Tesla-biler som opererer med den sårbare maskinvaren, sa Povolny. Han påpekte at Teslaer med den første versjonen av maskinvare ikke kan oppgraderes til nyere maskinvare.
Det vi prøver å gjøre er at vi virkelig prøver å øke bevisstheten for både forbrukere og leverandører om hvilke typer feil som er mulig, sa Povolny Vi prøver ikke å spre frykt og si at hvis du kjører denne bilen, vil den akselerere inn gjennom en barriere, eller for å gjøre den oppsiktsvekkende.