211service.com
Fatal Tesla Autopilot Crash er en påminnelse om at autonome biler noen ganger vil skrus opp
Mer enn 30 000 mennesker er drept av biler i USA hvert år, og folk som jobber med teknologi for autonom kjøring hos selskaper som Google og Tesla sier at all teknologi som kan redusere dette tallet betydelig fortjener seriøs oppmerksomhet.
Men selv om automatiserte biler kan være mye tryggere enn konvensjonelle, vil de fortsatt være involvert i ulykker. Ingen programvare kan være perfekt. Og etter hvert som selvkjørende teknologi modnes, vil regulatorer og samfunnet som helhet måtte bestemme hvor sikre disse kjøretøyene må være. Faktisk har det blitt hevdet at autonome kjøretøy i noen situasjoner må programmeres til aktivt å velge hvilke personer som skal skades.
Disse vanskelige problemene ble mer konkrete i dag med nyhetene om at Tesla blir undersøkt av U.S. National Highway Traffic Safety Administration etter en dødsulykke som involverer selskapets autopilot automatiserte kjørefunksjon , som kan gjøre ting som å skifte fil og justere hastigheten under motorveikjøring for noen av selskapets biler.
Tesla Motors sin Model S sedan.
I Florida i mai, en Tesla Model S sedan kjørte inn i en traktor-tilhenger som krysset veien foran mens autopiloten hadde kontroll over bilen. Verken Teslas autopilotfunksjon eller sjåføren satte på bilens bremser. I et blogginnlegg torsdag sa Tesla det Autopiloten registrerte ikke den hvite siden av traileren mot den lyse himmelen .
Teslas autopilot kan styre bilen, oppdage hindringer og kjørefeltmarkeringer og bruke bremsene, helt på egen hånd. Men den er langt mindre dyktig enn en menneskelig sjåfør og mangler sofistikerte og høye detaljsensorer som sees i mer modne autonome bilprosjekter som Googles.
Tesla har blitt kritisert for å fremme bekvemmeligheten til Autopilot - et navn som antyder at ingen menneskelig inngripen er nødvendig - samtidig som den har hevdet at sjåførene hele tiden må være klare til å ta over fra programvaren. Lederen for Googles prosjekt for autonome biler, Chris Urmson, har sagt at selskapets eksperimenter har bevist at mennesker ikke kan stole på å gjøre det, fordi de raskt begynner å stole på at bilen vet hva den gjør. Likevel har Tesla-sjef Elon Musk sagt at selskapets data tyder på det Autopiloten er dobbelt så sikker som menneskelige sjåfører .
Vi vet ennå ikke nøyaktig hva som skjedde i Mays dødsulykke. Teslas uttalelse understreker at sjåføren visste at han alltid skulle holde et øye med hva autopiloten gjorde. Men hvis NHTSA finner utformingen av autopiloten skylden, kan Tesla bli tvunget til å utstede en tilbakekalling, eller kanskje føle at den må dumme ned funksjonen. Det kan skade både Tesla og entusiasme for teknologien generelt.
Uansett utfallet av NHTSAs etterforskning, er hendelsen en mulighet til å vurdere standardene som vi holder programvare for autonom kjøring og selskapene som designer den. Hvis den skal brukes mye, må vi akseptere at den er involvert i ulykker – noen dødelige, og noen forårsaket av dens egne feil.
Menneskelige sjåfører setter en lav bar: Omtrent 90 prosent av ulykkene er forårsaket av menneskelige feil, og dumme feil som å kjøre tekstmeldinger eller fylle dreper altfor mange mennesker. Det er lett å se hvordan maskiner kan forbedre seg på det. Men det vil være mye vanskeligere å bestemme hvor mye bedre de trenger å bli.