Hvorfor folk kanskje aldri bruker autonome biler





Automatisert kjøring øker hele tiden, men det mangler fortsatt en kritisk ingrediens: tillit. Verten Jennifer Strong møter ingeniører som bygger et nytt kommunikasjonsspråk mellom automatiserte kjøretøy og deres menneskelige passasjerer, en avgjørende manglende brikke i arbeidet mot en førerløs fremtid.

Vi møtes:

  • Dr. Richard Corey og Dr. Nicholas Giudice, grunnleggerne av VEMI Lab ved University of Maine
  • Ryan Powell, UX Design & Research hos Waymo.
  • Rashed Haq, VP of Robotics på Cruise

Studiepoeng:

Denne episoden ble rapportert og produsert av Jennifer Strong, Tanya Basu, Emma Cillekens og Tate Ryan-Mosley. Vi hadde hjelp fra Karen Hao og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield.

Utskrift av hele episoden:

Jennifer Strong: Førerløse biler har blitt tryllet frem i filmer og snakket om i flere tiår. De første forsøkene på å lage dem var for omtrent et århundre siden. Og visst, de er ikke lenger så utrolige som i Herbie The Love Bug fra 1960-tallet der denne selvkjørende bilen har sitt eget sinn:



[Herbie-klipp]: Jeg tok deg ikke hit. Det er denne stygge lille bilen.

Jennifer Strong: Men selv om den kunstige intelligensen som driver teknologien har kommet store sprang – og vi har nå noen selvkjørende drosjer i USA og Kina – er faktumet at kommunikasjonen mellom bilen og mennesket inni den ikke har kommet så langt siden dagene. av Herbie som kjører av gårde uten sjåførens samtykke.

Og dessuten, pipelydene og biingene som er ment å fortelle oss noe om hva bilen gjør, forteller oss ikke intuitivt hva som skjer.



For å være rettferdig er det ikke bare et problem med automatiserte kjøretøy – det dukker opp i de fleste biler med datastyrte elementer. Bilen min pinger for at passasjeren min skal ta på seg et sikkerhetsbelte når alt som er der er en veske.

Til tross for programmerernes beste innsats er det fortsatt et grunnleggende problem: biler og folk snakker ikke samme språk.

Alt dette betyr noe fordi dette ikke er et videospill eller en telefon som prøver å tolke det matematiske språket 1-er og 0-er på måter som gir mening i menneskelig språk. Dette er en bevegelig ting som bærer kroppene våre fra sted a til sted b. Når ting går galt, kan de gå veldig galt.



Jeg er Jennifer Strong, og denne episoden dykker vi ned i noen vanskelige spørsmål om brukervennlighet og tillit.

Tenk deg at du er i ferd med å forlate huset - du strever etter å komme til et møte med noen kunder. Du vil snakke med sjefen din på forhånd, men du må også få barna dine til skolen. Du og ungene strever ut døren og går til bilen, kaffe og toast i hånden, ryggsekker og vannflasker på slep. Det ville vært fint å stille inn en autopilot. Men ville du stole på det? Kan du virkelig tenke deg å slippe rattet?

Og hvordan vet du hvilket scenario som er mindre trygt? Den uunngåelige multitasking og barneadministrasjon mens du kjører? Eller overlate litt kontroll til en maskin?



Teknologien vi har nå, som Teslas autopilot, er ikke avansert nok til å virkelig være autonom. Folk i felten omtaler det som automatisert kjøring – det krever at et menneske overvåker hva bilen gjør – vi vet at minst fem personer har omkommet i kollisjoner med automatisert kjøring når noen bak rattet ikke fulgte nøye med.

Men distraherte sjåfører er farlige i alle typer biler, og USA ser fortsatt at mellom 30 og 40 tusen mennesker dør i ulykker hvert år.

Jennifer Strong: Når jeg går en tur i nabolaget mitt, vil jeg ofte se bestevenninnen min på bukten hennes med det tretten år gamle barnet hennes. Det er en typisk urban scene ... bortsett fra denne neste delen.

Hannah : Du går inn i kontroller ... dette vil ikke lastes inn ...

Jennifer Strong: Hannah bruker en app på morens iPhone for å trekke elbilen deres inn på en parkeringsplass der de kan koble den til.

Hannah : Vel, dette er en brukervennlighet... den vil ikke lastes.

Camelle : Det skjer flere ganger når vi først begynner å distribuere innkallingsfunksjonen...

Jennifer Strong: Barn vokser opp med apper, og det er ofte mer intuitivt for dem hvordan disse tingene fungerer enn det er for foreldrene deres. De blir heller ikke så lett frustrerte av ny teknologi.

Hannah: Her går vi. Greit. Så den viser deg et bilde av bilen. Du trykker bare hvilken vei du vil gå og holder den, og den skal bevege seg. Men det gjorde det ikke... [fnise] ...

Jennifer Strong: Bilprodusenten Tesla har en autopilotfunksjon som lar sjåfører tilkalle biler på parkeringsplasser for å komme og hente dem, blant en rekke andre ting.

Åh! Der går det.

Hannah : Så lysene slår seg på og du kan se rattet bevege seg inne i bilen ... og det tror også sykkelstativet vårt er en annen bil, så vi kan ikke reversere det med dette.

Jennifer Strong: Autopilot tilbyr også en mer avansert versjon av cruisekontroll ... selv om den heller ikke er perfekt.

Camelle : Men jeg har begynt å sette pris på at det vil stoppe opp eller senke farten basert på personen foran deg. Hvis du ikke kan gå inn i forbikjøringsfeltet. Du må imidlertid fortsatt være på vakt fordi den stopper dødt på en motorvei i rask bevegelse. Av grunner ... ingen grunn. Ikke det jeg kan si. Så jeg er veldig skeptisk. Det lar meg ikke slappe mye av. Bare lar foten min ta en pause.

Camelle : Og når den vil snakke med meg om sikkerhetstiltakene sine, skulle jeg ønske den snakket rett ut. I stedet for å pip pip... prøver å bla gjennom... hva [pip] betyr det? Jeg vet ikke. [ler]

Hannah : Når vi gjør programvareoppdateringer, gir det oss en oversikt over hva som er gjort. Men som mamma sa, det er ikke på vanlig engelsk. Det er veldig vanskelig å forstå. Så du må egentlig bare finne ut hva som har endret seg mens du går, noe som kan være farlig. Hvis det er noe stort, vet du ikke hvordan du slår på varmen eller slår på autopiloten. Og jeg vet også at ettersom jeg har begynt å sykle i forsetet, har jeg blitt en slags co-pilot, og det er ingen åpenbar måte å justere skriftstørrelsen på. Moren min kan ikke lese klokken eller navigasjonen. Hun har veldig godt syn, men det er fortsatt vanskelig for henne. Og jeg må ta øynene vekk fra veien. Hadde jeg kjørt bil hadde jeg nok ikke klart det heller. Så det er ikke veldig brukervennlig.

Jennifer Strong: Det er ingen tvil om at vi har reelle problemer i dette forholdet - det er bare et spørsmål om hvordan de blir adressert, ettersom forskere som fokuserer på det ved University of Maine er altfor klar over.

Richard Corey : Det er veldig lite diskusjon fra menneskelig side. Og, og jeg vil være den første til å si dette... Bra! Fordi nummer én vil jeg sørge for at bilen holder seg på veien. Det vil si, det er vår nummer én ting. Sørg for at ingeniørarbeidet er riktig og at de holder seg på veien...men vi kommer snart til et punkt her hvor vi må komme inn i dem, og vi må finne ut hva det betyr fra den menneskelige siden, hva trenger vi?

Jennifer Strong: Richard Corey er direktør for VEMI Lab ved University of Maine, som fokuserer på interaksjoner mellom menneskelige maskiner.

Richard Corey : Vi begynte å se dypere på det, innså at varslingen på en Tesla, som alle liksom anser som den ledende innen autonome kjøretøy akkurat nå, varslingen for å fortelle deg at Teslaen ikke lenger har kontroll er fire pip. Og vi tenkte at det ikke virker som nok informasjon [ler] med tanke på nevroprosesseringen og, og ting vi går gjennom når vi kjører bil og er oppmerksomme på ting rundt oss og...

Nicholas Giudice : Sammenhengende fra det innså vi at...

Jennifer Strong: Og det er laboratoriets medgründer, Nicholas Giudice .

Nicholas Giudice : Mens folk heller ikke egentlig tenker på den menneskelige siden av ting og ser på alle de menneskelige faktorene, har det vært en del forskning, for det meste undersøkelsesforskning som ganske konsekvent har vist at folk liker ideen om autonome kjøretøy. Og så når du sier, vil du gjerne gå ut og sette deg inn i en? Vi har en rett utenfor laboratoriet. De er sånn: Å nei, absolutt ikke. Jeg mener det er at de viser denne typen frykt for teknologien, frykt for hvordan den fungerer. Frykt for å ikke vite, på en måte å miste kontrollen. Fordi kjøring gir deg denne følelsen av, du vet, du har handlefrihet over prosessen, du har kontroll over hva som skjer. Og når du setter deg inn i et autonomt kjøretøy, ser det ut til at folk ikke bare er bekymret for det, de har ikke kontroll, men de vet ikke hvorfor kjøretøyet gjør det det gjør.

Jennifer Strong: Og så, for å hjelpe til med å forstå hvordan dette tillitsforholdet kan fungere, studerer de hvordan mennesker gjør det.

Nicholas Giudice: Når mennesker stoler på hverandre, er det fordi de har lært å samarbeide. De lærte å forstå hva de trenger av hverandre. Og så denne ideen om menneskelig kjøretøysamarbeid, det er på en måte dette underliggende rammeverket for forskningen vår. Delvis får vi tillit ved å si om vi kan bygge en samarbeidsprosess der mennesket kan forstå hvordan det skal samhandle med og hva kjøretøyet trenger, og kjøretøyet forstår mer om hva mennesket gjør og, og hva de trenger. Den prosessen, den samarbeidsprosessen, bygger tillit. Og så bygger vi i hovedsak tillit gjennom bedre kommunikasjon.

Jennifer Strong: Tillit er ikke håndgripelig. Så hvordan måler forskere, fokusert på brukeropplevelse, det?

Nicholas Giudice : Er de avslappet? Vi kan se på dette fra fysiologiske mål. Så du kan se på hjertefrekvens eller eh, hudledning. Se på hvordan oppmerksomheten deres endrer seg, og på en måte få tillit gjennom disse forskjellige verktøytypene vi tror er en innovativ måte å gjøre dette på. For så langt har man sett på dette gjennom undersøkelser, ikke sant? Så du har folk til å ta disse undersøkelsene, og det er en god måte å se på aspekter ved tillit, men det er egentlig ikke på langt nær så direkte. Og så når vi kombinerer de kvalitative og kvantitative og atferdsmessige og fysiologiske målene, får vi virkelig en mye større, slags mer robust måte å se på tillit fra forskjellige nivåer på.

Jennifer Strong: Deres personlige testing har blitt holdt opp av koronaviruset. Men egentlig det de håpet å gjøre er dette:

Richard Corey : Vi skulle bruke et autonomt kjøretøy i løpet av et år på offentlig sted. Og vi skulle begynne å se på hva vi kan legge inn der. Kan vi sette inn kameraer der inne? Kan vi ha folk der inne for å gjøre observasjonsstudier? Kan vi sette sensorer i setet for å finne ut, jeg vet ikke, hvor mye folk vrir seg rundt om de er nervøse eller noe. Alle data vi kan samle inn for å starte prosessen med å finne ut hvem som er komfortabel og hvem som ikke er det.

Jennifer Strong: Forskere ønsker å spore om folk blir mer komfortable og tillitsfulle etter hvert som biler utvikler seg, og til slutt få muligheten til å forklare hva de gjør og hvorfor.

Men selv når du kan måle tillit, er den ikke lik. Og det er ikke gitt av alle på samme måte.

Nicholas Giudice : Folk er mer villige på noen måter, spesielt noen som meg selv som er medfødt blind, jeg er mer villig til å ta noen av de ukjente risikoene som folk er opptatt av med autonome kjøretøy. For jeg er sånn, ja! Dette vil tillate meg å komme dit jeg vil når jeg vil. Du vet, og du kan ha bussruter, du kan ha paratransit, men da er du bundet til veldig spesifikke tidsplaner. Dette er en økonomisk levedyktig og virkelig frigjørende måte å komme seg rundt på. Og slik at forbindelsen til uavhengighet, den forbindelsen til livskvalitet er knyttet til tillit, å sette en del av tilliten er også bare å vite at det er jevnt, de stoler på at det er noe som kan fungere fordi akkurat nå, så mange av systemene som er der ute fungerer ikke.

Jennifer Strong: Det samme gjelder de som blir eldre, eller har problemer som kan hindre dem i å kjøre bil.

Så hva kan vi lære av å se hvordan folk stoler på noen bak rattet – og hvordan gjenskaper du det forholdet når det kommer til mennesker og førerløse biler?

Richard Corey : Vi som mennesker kan fysisk se om noen er nervøse.

Jennifer Strong: Richard Corey.

Richard Corey : De tar tak i dashbordet, spikrer i det, den typen ting, og de er nervøse, og så kan du justere hvordan du kjører. Du kan til og med si, hei, det er greit. Jeg mener, jeg kjørte en gang i en skikkelig snøstorm, og alle i bilen ble skremt. Og jeg tenkte, se, du vet, det er greit. Jeg har fortsatt kontroll på dette. Og det er de små menneskelige tingene du gjør som forbinder. Hva kan bilen eller datamaskinen, uansett hva den er, si til deg som sier: Hei, det er greit. Det er derfor jeg gjør dette. Vi kommer til å trekke over til høyre kjørefelt fordi det er veldig vanskelig og vi må bremse litt, men vi ser egentlig ikke noe av den eksisterende teknologien som skjer i dag. Og det trenger vi som mennesker.

Jennifer Strong: Og hans kollega Nicholas Giudice sier at dette er hvordan kommunikasjon kan fungere...

Nicholas Giudice : Det kan være en avatar, bare ting som du faktisk kan begynne å tenke på, kjøretøyet i form av å ha menneskelignende egenskaper som det ikke bare er denne svarte boks-automatiseringen du bare... i .

Jennifer Strong: Den mangeårige frontløperen i dette løpet for å bygge selvkjørende kjøretøy er et selskap kalt Waymo, som tidligere var kjent som Googles selvkjørende bilprosjekt.

Den ble verdens første robo-taxi i 2018, etter å ha satt en flåte av selvkjørende drosjer på veien i Phoenix, Arizona. Og til tross for at de må suspendere personturer under den globale pandemien, kjører bilene deres fortsatt 20 millioner virtuelle mil om dagen i simulatorer.

Det er også blant en håndfull selskaper som nå tester selvkjørende lastebiler i Texas.

Hos Waymo ser kommunikasjon ut som TV-skjermer, lydeffekter ... og menneskelignende stemmer ...

Ryan Powell : Og så vi vet i dag at når du er passasjer i en bil som kjøres av et menneske, er det mye kommunikasjon som skjer mellom deg og den sjåføren som bidrar til å etablere tillit.

Jennifer Strong: Ryan Powell leder forsknings- og designteamet for brukeropplevelse.

Ryan Powell : ...så det kan være direkte kommunikasjon. Som du kanskje spør en sjåfør hvilken rute vi tar, eller hvorfor beveger du deg ikke, er lyset grønt, men det kan også være indirekte. Som du kan legge merke til at den menneskelige sjåføren kan flytte hendene på rattet rett før han er klar til å ta en venstresving. Men vi visste fra et veldig tidlig tidspunkt at vi trengte en eller annen metode for kommunikasjon i kjøretøyene våre for å bygge tillit slik at syklistene kunne føle seg trygge og trygge og informert ... til det formål bruker vi mye tid på å tenke på det visuelle grensesnittet i bilen vår. vi prøver å visualisere hva bilen kan se, du vet, hvordan kommuniserer vi bilens hensikt i hvilke situasjoner trenger ryttere tilleggsinformasjon, hva er riktig informasjonsnivå.

Jennifer Strong: For på den annen side prøver de også å ikke overbelaste ryttere med for mye informasjon.

Ryan Powell : Så det du hører når du samhandler med et produkt eller en tjeneste bør få like mye designbetraktning som det du ser. Så når vi tenker på brukeropplevelsen vår, er det derfor vi har bestemt oss for å designe ikke bare for det du kan se, men også det du kan høre.

Og så dette er det vi på en måte refererer til som en slags velkomstspor som du vil høre når dørene åpnes og når du er på vei inn i kjøretøyet, men stemmetilbakemelding lar oss formidle mer kompleks informasjon og også for å tilpasse meldinger også. Så dette er et eksempel på hva, når bilen begynner å bevege seg, dette er hva en rytter vil høre. Så desert breeze park, selvfølgelig, er målet som rytteren legger inn der. Og vi er i stand til, igjen, å personliggjøre den stemmen ved å ta destinasjonen de skrev inn i appen og bare forsterket for rytteren at vi vet hvor destinasjonen er, hvor vi er på vei når vi, som bilen til å faktisk flytte.

Jennifer Strong: Noe jeg har lurt på, er hva som skjer hvis du sovner i en førerløs taxi? Hvordan vekker bilen – eller hjelperen som Waymo kaller den – deg?

Ryan Powell : Vi gir deg beskjed når, um, når du er omtrent et minutt unna din, din, destinasjon og ideen om det på en måte, hvis du på en måte har nikket eller døset av, er det der vi bruke en stemme. Så en stemme kommer på og lar deg vite at du ankommer om omtrent et minutt. Og den andre tingen er at det fungerer som en påminnelse om å samle tingene dine, hvis du har lagt noe på de andre setene og slik at du ikke legger igjen det, det bak, for igjen, Ikke ha den menneskelige sjåføren til å se seg rundt og si: Hei, du glemte jakken din. Eller, du vet, du glemte din, din, um, telefonen din eller vesken din. Og så bruker vi stemme i så fall. Og vi tror også, hm, du vet, at det ville hjelpe noen til å våkne hvis de på en måte hadde døset mens de var på tur.

Jennifer: Mye forskning gikk på å velge en stemme for det autonome kjøretøyet som ryttere ville stole på.

Ryan Powell : Vi blir ofte bedt om å like hvorfor en kvinnestemme versus en mannlig stemme, men egentlig handlet ikke avgjørelsen for oss om kjønn. Det handlet mer om å finne den beste stemmen som matchet disse prinsippene. Og så til slutt ble det bare en kvinnestemme for oss du vet, en stemme som høres kompetent og gjennomtenkt og vennlig ut, du vet, igjen går langt for å hjelpe folk til å få en positiv opplevelse. Og det var veldig det vi gikk etter da vi tenkte på stemmen du hører i bilen.

Jennifer Strong: Og i tillegg produserer Waymo alle lydene i en bestemt toneart, i håp om å påvirke hvordan vi føler oss inne i bilen.

[Lyd]

Ryan Powell : Det er denne ideen om at nøkkelen til E er en veldig slags briljant eller optimistisk nøkkel. Og så vil du legge merke til at hele lydbildet vårt igjen, er, spilles rundt denne, denne tonearten til E. Og så vil jeg, jeg skal spille en lyd her i tonearten til E.

[Lyd]

Som forskere, det er det vi bruker mye tid på å gjøre med syklistene våre, er at vi prøver å avdekke de øyeblikkene der folk liksom trenger tilleggsinformasjon for å forstå hva som skjer i kjøretøyet. Og igjen, det går på en måte tilbake til ideen om å bygge tillit. Så, det kan være et enkelt eksempel hvor bilen, du kanskje bare kjører langs og bilen liksom plutselig bremser ned og vi ser dette hele tiden. Du på en måte, du vet, du er ikke det, selvfølgelig er det ikke et engstelig øyeblikk eller et alarmerende øyeblikk, men du, du ser opp fra telefonen din og du lurer på en måte, Å, hva er det som skjer, vet du, det er ingen foran oss, men vi kjører på en måte mye saktere enn vi var. Og så det er et eksempel på hvor vi i så fall har gått inn i en skolesone, men igjen, fordi du ikke kjører, kommer du sannsynligvis ikke til å vite det umiddelbart. Og så vi, det er der vi stoler på det visuelle grensesnittet eller i noen tilfeller bruker lyd eller stemme for å fortelle deg hva som skjedde.

Jennifer Strong: En av Waymos primære konkurrenter heter Cruise. Vi møter dens sjef for robotikk, etter pause.

[midroll]

Jennifer Strong: Selvkjørende bilselskapet Cruise er en del av General Motors. San Francisco-oppstarten bygger elbiler og fokuserer på samkjøring og levering i tette urbane miljøer.

Rashed Haq er visepresidenten for robotikk.

Rashad Huck : Selvkjørende biler må lære den sosiale atferden til andre sjåfører eller andre deltakere i trafikken som fotgjengere. Og samtidig må de innrette seg etter menneskelignende sosiale forventninger til andre sjåfører og, og passasjerene. Og de må gjøre dette samtidig som de oppnår overmenneskelige sikkerhetsnivåer.

Jennifer Strong: En del av jobben hans er å lære autonome kjøretøy å være mer menneskelige, fordi det er mange ting vi gjør mens vi kjører bare for vår egen komfort. Vi foretrekker jevnere svinger, og vi kjører ikke akkurat midt i et kjørefelt ved siden av parkerte biler.

Han og teamet hans studerer vanene våre ikke bare for å etterligne dem i visse scenarier, men også for å tilpasse seg dem. For eksempel sier han at de bruker datasynsalgoritmer for å analysere hensikten til fotgjengere ut fra deres atferd.

Rashad Huck : Så for eksempel, hvis det er noen som står ved et fotgjengerfelt, men ser ned på telefonen sin, kan AV-en antyde at enten er det usannsynlig at de krysser med en gang, eller at de er distrahert og at de faktisk begynner å gå og ikke ser opp .

Vi har sensorer som kan se 360 ​​grader ganske langt ut, vanligvis mer enn mennesker kan. Og på en gitt dag kjører vi mer enn et menneske ville gjort i løpet av livet. Så det gir deg en slags grenser for hvordan, hvor raskt algoritmene kan fange opp. Åpenbart trenger den ennå ikke å ha dommen til mennesker.

Jennifer Strong: Og før vi kommer dit, må vi vite hvordan vi vil automatisere bort fra menneskelig kjøring.

Kan vi realistisk forvente at folk tar kontrollen når som helst når de har gitt fra seg den kontrollen for det meste av turen? Flyingeniører innså for lenge siden at piloter ikke kan gjøre dette trygt, så navigasjonssystemer holder dem alltid i gang med en slags oppgave for å holde seg engasjert i å fly.

Kanskje det betyr at biler bør holde tilbake med hvor mye de tar rattet til de kan være virkelig autonome.

Denne typen teknologi krever en ny type menneskelig tillit. Selv om vi ikke kan kvantifisere det, vet vi at nivåene av tillit folk føler øker med åpenhet, personlig erfaring og sikkerhetstiltak. Så når vi kjører våre egne biler, tviler vi aldri på at de stopper når vi tråkker på bremsen. Når vi outsourcer beslutningstaking til maskiner, må denne tilliten fortjenes. Uten det vil flere tiår gå, og noen av disse teknologiene vil kanskje aldri se dagens lys.

Neste episode: teknologi for følelsesgjenkjenning antyder en fremtid der bilene, telefonene og andre enhetene våre reagerer på følelsene våre.

Rana al-Kaliouby : Så vi bygger algoritmer som kan forstå ansiktsuttrykkene dine, som smilene dine eller rynkene dine eller løfter øyenbrynene, og kartlegger det til en forståelse av hva din følelsesmessige og mentale tilstand er.

Jennifer Strong: Kan vi til og med kodifisere følelser? Og bør vi? Bli med oss ​​på en miniserie om emotion AI, mens vi utforsker hvordan du kan forvandle smarte verktøy til empatiske.

Denne episoden ble rapportert og produsert av meg og Tanya Basu, med Emma Cillekens og Tate Ryan-Mosely. Vi hadde hjelp fra Karen Hao og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield.

Takk for at du lyttet, jeg heter Jennifer Strong.

gjemme seg