Hackere lurer en Tesla til å svinge over i feil kjørefelt

Kategori: Kunstig intelligens Lagt ut 01. april

Hackere har demonstrert noen bekymringsfulle måter å manipulere og forvirre de forskjellige systemene på en Tesla Model S. Deres mest dramatiske bragd: å sende bilen urolig inn i møtende kjørefelt ved å plassere en rekke små klistremerker på veien.

Angrepsvektor: Dette er et eksempel på et motstridende angrep, en måte å manipulere en maskinlæringsmodell på ved å mate inn en spesiallaget input. Motstridende angrep kan bli mer vanlig ettersom maskinlæring brukes mer utbredt, spesielt i områder som nettverkssikkerhet.

Uklare grenser: Teslas autopilot er sårbar fordi den gjenkjenner kjørefelt ved hjelp av datasyn. Med andre ord er systemet avhengig av kameradata, analysert av et nevralt nettverk, for å fortelle kjøretøyet hvordan det skal holde seg sentrert innenfor kjørefeltet.

Trafikkstopp: Dette er ikke det første motstridende angrepet på et autonomt kjøresystem. Dawn Song, professor ved UC Berkeley, har brukt ufarlig utseende klistremerker for å lure en selvkjørende bil til å tro at et stoppskilt var en fartsgrense på 45 miles per time. En annen studere , publisert i mars, demonstrerte hvordan medisinske maskinlæringssystemer på samme måte kan lures til å gi feil diagnoser.

Feilrettinger: Forskerne bak lane-recognition hack, fra Keen Security Lab av den kinesiske teknologigiganten Tencent, brukte et lignende angrep for å forstyrre kjøretøyets automatiske vindusviskere. De kapret også bilens ratt ved hjelp av en annen metode. En Tesla-talsperson fortalte Forbes at sistnevnte sårbarhet er rettet i sin siste programvareoppdatering. Talsmannen sa at motstandsangrepet var urealistisk gitt at en sjåfør lett kan overstyre autopiloten når som helst.