Når enhetene våre kan lese følelsene våre: Affectivas Gabi Zijderveld

Følelsessporende AI begynner å hjelpe maskiner med å gjenkjenne humøret vårt. Er vi klare?

Av

• TR-ansatte arkivside

28. februar 2019

Personlige assistenter som Siri, Alexa, Cortana eller Google Home kan analysere de talte ordene våre og (noen ganger) svare riktig, men de kan ikke måle hvordan vi har det – delvis fordi de ikke kan se ansiktene våre. Men i det nye feltet av emosjonssporing AI, studerer selskaper ansiktsuttrykkene som fanges opp av enhetenes kameraer for å la programvare av alle slag bli mer lydhør for humøret og kognitive tilstander.

Hos Affectiva, et oppstartsselskap i Boston grunnlagt av MIT Media Lab-forskerne Rosalind Picard og Rana El Kaliouby, har programmerere trent maskinlæringsalgoritmer for å gjenkjenne ansiktssignalene våre og avgjøre om vi nyter en video eller blir døsige bak rattet. Gabi Zijderveld, Affectivas markedssjef og leder for produktstrategi, sier til Business Lab at slik programvare kan strømlinjeforme markedsføringen, beskytte sjåfører og til slutt gjøre all vår interaksjon med teknologi dypere og mer givende. Men for å beskytte seg mot potensialet for misbruk, sier hun, lobbyer Affectiva også for bransjestandarder for å gjøre følelsessporingssystemer opt-in og samtykkende.

Business Lab-lyttere inviteres til å søke om å bli med i MIT Technology Review Global Panel , vårt eksklusive forum av tankeledere, innovatører og ledere. Som medlem av det globale panelet kan du undersøke dagens teknologitrender, se undersøkelses- og studieresultater, si din mening og bli med jevnaldrende på forretningssamlinger over hele verden.

VIS MERKNADER OG LENKER:

MIT Media Lab Affective Computing Group

Affektive

FULLSTENDIG TRANSKRIPT:

Elizabeth Bramson-Boudreau: Fra MIT Technology Review heter jeg Elizabeth Bramson-Boudreau, og dette er Business Lab, showet som hjelper bedriftsledere å forstå nye teknologier som kommer ut av laboratoriet og inn på markedet.

Elizabeth: Før vi setter i gang vil jeg invitere lyttere til å bli med i MIT Technology Review Global Panel, vårt eksklusive forum med tankeledere, innovatører og ledere. Og som medlem av det globale panelet kan du undersøke dagens teknologitrender, se undersøkelses- og studieresultater, si din mening og bli med jevnaldrende på forretningsmøter over hele verden. Søk om å bli med i panelet på TechnologyReview.com/globalpanel. Det er TechnologyReview.com/globalpanel.

Elizabeth: Nå, ville det ikke vært kult om telefonen din kunne fortelle at du er i et surt humør etter alle dagens avbrudd og holde samtalene dine slik at du får gjort litt arbeid? Eller ville det ikke vært flott om datterens nettbrett kunne fortelle når hun kjeder seg med det pedagogiske spillet sitt og øke utfordringsnivået for å holde henne engasjert?

Elizabeth: Vel, før enhetene våre kan tjene oss bedre på måter som dette, må de forstå hva vi faktisk føler. Og det er det jeg snakker om i dag med min gjest Gabi Zijderveld. Hun er markedssjef og leder for produktstrategi hos Affectiva, en oppstart i Boston som er ledende innen det nye feltet av emotion-tracking AI. Det er en spinoff fra MIT Media Labs Affective Computing Group. That's Affective with a A. Affectiva bygger algoritmer som leser folks ansikter for å oppdage deres følelser og andre kognitive tilstander.

Elizabeth: Teknologien hjelper allerede store selskaper med å teste hvordan publikum reagerer følelsesmessig på annonsene deres. Og nå leder Gabi et prosjekt for å utstyre biler med programvare som vil overvåke sjåførenes kognitive og emosjonelle tilstander og bidra til å holde dem trygge og våkne. Det hele kan utgjøre et stort sprang fremover i måten vi samhandler med dataenheter på. Men selvfølgelig reiser det også noen tøffe spørsmål om hvordan man kan forhindre at algoritmer som kan lese våre følelsesmessige tilstander utnytter oppmerksomheten vår eller invaderer privatlivet vårt.

Elizabeth: Gabi, velkommen, og tusen takk for at du besøker oss.

Natt: Tusen takk for at jeg fikk komme.

Elizabeth: Navnet på bedriften din, Affectiva, er en lek med ord, og det er lek med begrepet affektiv databehandling. Kan du definere hva affektiv databehandling er?

Natt: Affective computing er i utgangspunktet designet for å bygge bro mellom menneskelige følelser og teknologi. Og affektiv databehandling gjør det mulig for teknologi å forstå menneskelige følelser og deretter tilpasse og reagere på disse følelsene.

Elizabeth: Så Affectiva, slik jeg forstår det, spunnet ut av Media Lab i, hva, om 2009?

Natt: Ja riktig. For snart 10 år siden.

Elizabeth: OK. Og og medgründerne er Rosalind Picard som er leder for Media Labs Affective Computing Group, og Rana El Kaliouby – jeg er ikke sikker på om jeg sier det riktig.

Natt: Rana El Kaliouby.

Elizabeth: Så hun var postdoktor på det tidspunktet i gruppen, ikke sant?

Natt: Riktig.

Elizabeth: Hva var de store ideene de to kom med på bordet i 2009, og etter deres syn, hva manglet fra databehandling, og hva håpet de å endre?

Natt: Dr. Rosalind Picard startet faktisk feltet for affektiv databehandling. Hun skrev den banebrytende boken for omtrent to tiår siden, kalt Affective Computing. Så dette feltet er virkelig hennes hjernebarn. Og i dag driver hun fortsatt gruppen ved MIT Media Lab. Så Rana, Dr. Rana El Kaliouby, ble med i Ros Picards gruppe som postdoktor, og sammen bygde de ut ideen om at teknologi kunne ha evnen til å forstå og svare på menneskelige følelser, for å i utgangspunktet forbedre menneskelig interaksjon med teknologi for å gjøre dem mer relevant, mer hensiktsmessig, men også kanskje for å hjelpe mennesker til å få et bedre grep eller bedre kontroll over følelser. Spesielt i de tidlige dagene var det mye fokus på anvendelser innen mental helse, spesielt å hjelpe barn på autismespekteret, å bruke teknologi for å lære dem å gjenkjenne eller forstå følelser og deretter veilede dem om hvordan de kan uttrykke sine egne følelser på riktig måte . Slik at der, egentlig, denne ideen startet i de tidlige dagene.

Natt: Og så begynte Rana og Ros å få stor interesse for industrien. Så på MIT Selvfølgelig er det mange arrangementer og konferanser hvor bransjemedlemmer kommer for å få en følelse av hva som er nytt innen teknologi og hva som utvikler seg, og i disse demodagene begynte de å få mye kommersiell interesse for teknologien deres. Av en rekke forskjellige bransjer, faktisk, inkludert bilindustrien, er det interessant nok hvor vi er veldig aktive i dag. På det tidspunktet gikk de til direktøren for Media Lab, og sa: Hei, vi trenger mer budsjett for å ansette flere forskere, og passende rådet han dem: Vel, det er på tide at du slår av og starter ditt eget selskap. Og det var slik de i 2009 var med å grunnlegge Affectiva. Ros Picard leder nå gruppen ved MIT Media Lab, så på daglig basis er hun ikke lenger involvert i selskapet. Men Dr. Rana El Kaliouby i dag er vår administrerende direktør.

Elizabeth: Slik jeg forstår det har du to hovedprodukter. Du har ett produkt som er fokusert på markedsundersøkelser og et annet – du nevnte bil – det handler om førersikkerhet. Kan du si mer om de to produktene? Kanskje start med den som er fokusert på markedsundersøkelser. Heter det Affdex?

Natt: Så faktisk er det forskjellige, mer enn bare disse to produktene vi har. Så det er forskjellige måter vi har pakket inn teknologien vår. Men de to markedene du beskrev er virkelig nøkkelmarkedene vi går etter i dag. Så den første, der vi har teknologien vår, Affdex, for markedsundersøkelser, er et produkt. Det er en skybasert løsning som i utgangspunktet gjør det mulig for media og annonsører, inkludert de store merkevarene i verden, å teste innholdet deres, for eksempel videoannonser og TV-programmer, med målgrupper. Og i det markedet har vi vært markedsleder i en god del år, vi har hatt det kommersielle produktet der ute i nærmere åtte år på dette tidspunktet. Og i dag bruker omtrent en fjerdedel av Fortune Global 500 teknologien vår til å teste alle annonsene deres rundt om i verden. Jeg tror at vi denne måneden sannsynligvis har testet mer enn 40 000 annonser i 87 land, og vi har analysert mer enn syv og en halv million ansikter. Så store mengder data vi har. Og det har gjort oss i stand til å bygge et produkt som også kan hjelpe disse annonsørene å forutsi nøkkelresultatindikatorer i annonsering. Så følelsesdata, eller følelsesanalyse, kan faktisk hjelpe dem å forutsi sannsynligheten for at innhold blir viralt, eller kjøpsintensjon eller salgsløft.

Elizabeth: Ok. Hjelp meg nå å forstå, hvordan fungerer det hvordan dette faktisk fungerer. Så er dette for eksempel å ta en video av noen mens de ser på en annonse? Og så analyserer den reaksjonene fra ansiktet på øynene?

Natt: Ja i hovedsak, det er slik det gjøres. Når det gjelder hvordan vi vanligvis jobber, jobber vi med store innsiktsfirmaer eller markedsundersøkelsesfirmaer, selskaper som Kantar Millward Brown. De har enorme forskningsprosesser der de engasjerer seg med sine merkevarekunder for å forstå hvordan deres annonsering og go-to-market må finne sted. Nå er vi en del av deres forskningsmetodikk, noe som betyr at teknologien vår er integrert i deres overordnede plattformer. Og typisk er hvordan det ville fungere, de har betalte paneldeltakere som er rekruttert til å delta i disse forbrukerinnsiktsstudiene. En del av disse studiene kan være en undersøkelseskomponent, men det er også en komponent som sier: OK, vi vil gjerne at du, på nettet, skal se et innhold, som kan være TV-programmering eller en videoannonse, og vi ber deg å melde deg på og samtykke til at vi tar opp og analyserer ansiktet ditt mens du ser på innholdet. Og det er her teknologien vår kommer inn.

Natt: Det er en skybasert løsning. Alt vi trenger er i utgangspunktet å ta, med tillatelse, tilgang til noens kamera, og mens de ser på dette innholdet, sittende hjemme eller hvor de måtte være, på enheten deres, tar vi opp litt diskret i bakgrunnen, deres øyeblikk for øyeblikk reaksjoner på innholdet. Så ramme for ramme analyserer vi disse svarene. Og interessant nok har forskningen vår vist at folk ganske raskt glemmer at det er et kamera der. De reagerer naturlig på det de ser på. Og det er en slags objektiv og ufiltrert reaksjon du ønsker. For med den innsikten, hvis du deretter samler det i stor skala, kan du ta virkelig viktige beslutninger om innholdet ditt og til og med innholdsplasseringen din eller hvordan du bruker annonseringspengene dine.

Natt: Så det er egentlig de første markedene der Affective startet. I dag er vi fortsatt veldig aktive i dette markedet. Et annet marked for å gå etter med full kraft akkurat nå er faktisk bilindustrien. Og i det siste året, for nesten et år siden, lanserte vi en ny løsning for det markedet kalt AffectivA Automotive AI. I utgangspunktet er dette kjerneteknologien vår pakket og innstilt til bilindustrien, fordi brukstilfellene der er svært forskjellige. De er todelt. På den ene siden i bilindustrien, som vi alle vet, er trafikksikkerhet et sentralt tema. Det er bare mange dødsulykker og tragiske ulykker som finner sted på veiene hver eneste dag på grunn av distrahert kjøring og døsig kjøring. Nå, hva om du kunne oppdage at en sjåfør ble distrahert eller blir døsig og få bilen til å gripe inn på en relevant og hensiktsmessig måte? At det er én ting disse bilprodusentene alle går etter. Og det er her teknologien vår kommer inn, for igjen bare ved å bruke kameraer som er i biler allerede i dag, kan vi ganske enkelt og diskret forstå folks emosjonelle tilstander og komplekse kognitive tilstander, som døsighet og distraksjon, ved å analysere ansiktet deres. Så det er en brukssak i bilindustrien. I utgangspunktet førerovervåking for å bidra til å forbedre trafikksikkerheten.

Elizabeth: Du må ha ganske mye data som du må bruke for å trene systemene dine for å kunne lese ansiktene til et stort antall mennesker. Kan du snakke om hvor treningsdataene dine kommer fra, og hva slags løft du har fått fra revolusjonen innen maskinlæring og dyp læring de siste fem, 10 årene? Kan du fortelle oss litt om dataprosessene dine?

Natt: Ja absolutt. Så kanskje jeg burde begynne med maskinlæring og dyp læring og hvorfor vi faktisk bruker det. Så når du tenker på menneskelige følelser og hvordan disse utvikler seg og manifesterer seg, er menneskelige følelser faktisk veldig komplekse, ofte ekstremt subtile og nyanserte. Og så når du tenker på komplekse kognitive tilstander, som teknisk sett ikke er følelser, ting som du kjenner døsighet og distraksjon, er det også ting som utvikler seg over tid. Og det er sjelden prototypisk. Sjelden i den virkelige verden ser du det overdrevne smilet eller noen som sovner med en gang. Det er tidsmessig. Og å kunne modellere for disse kompleksitetene, kan du ikke gjøre det med en regelbasert heuristisk tilnærming. Du må virkelig bruke maskinlæring for å kunne oppdage den typen kompleksitet.

Natt: Så det er grunnen til at vår FoU for en god del år siden virkelig endret seg til å ha all teknologien vår bygget med maskinlæringsmetoder. Nå må maskinlæring og dyplæringsarkitekturer drives av enorme mengder data. I tillegg til det, for oss, igjen når du tenker på å modellere menneskelige tilstander, ser åpenbart ikke folk like ut avhengig av alder, kjønn og etnisitet. Og så er det også kulturelle påvirkninger og kulturelle normer som noen ganger endrer uttrykket av følelser i menneskelige tilstander. Så i tillegg til å være i stand til å gi næring til dyp læring, trenger vi også store mengder data for å forklare nettopp mangfoldet som finnes i menneskeheten, mangfold som finnes rundt om i verden. Så for Affectiva er data avgjørende for alt vi gjør. Og vi har analysert enorme mengder data og vi har samlet inn enorme mengder data. Faktisk har vi analysert over 7,6 millioner ansikter i 87 land.

Elizabeth: Og hvor får du disse dataene fra?

Natt: På en rekke forskjellige måter. Så først og fremst det jeg vil si, fordi dette er så viktig for oss, samles alle disse dataene inn med opt-in og samtykke. Vi rekrutterer alltid folk for å få dataene deres samlet inn, eller det er gjennom elektroniske mekanismer der vi eksplisitt forteller folk at vi samler inn data og ber dem om tillatelse til å gjøre det. Også at data er for det meste anonymisert. Så, Elizabeth, hvis du deltok i en av studiene våre, er det bare ingen måte jeg kunne finne ansiktet ditt tilbake. Fordi du egentlig er et ansikt. Du er ikke en navngitt person. Så vi føler sterkt for det.

Natt: Vi samler inn disse dataene på en rekke forskjellige måter. Som jeg nevnte før, er vi veldig aktive innen media og reklame, og gjennom våre partnerskap i den bransjen, har vi gjort et stort antall medietester, og det er gjennom det vi har samlet inn enorme mengder data. Det er andre klientforhold der vi i utgangspunktet har avtaler om datadeling. Ikke alle våre kunder ønsker å dele dataene sine, men noen av dem gjør det. Så det er en annen vei som vi får data gjennom. Og så når du for eksempel tenker på bilindustrien, og la oss bruke eksempelet med døsig kjøring, så har vi dette enorme grunnleggende datasettet som lar oss bygge disse algoritmene. Men vi har ikke nødvendigvis store mengder døsighet. For å modellere for det og bygge algoritmer for det, trenger du ikke bare døsige data, men du trenger absolutt et visst lag med disse dataene på toppen av det du allerede har, så du kan justere algoritmene dine for det.

Elizabeth: Så du kan skille mellom et døsig utseende og, jeg vet ikke, et kjedelig utseende.

Natt: Nøyaktig, nøyaktig eller distrahert rett fordi de manifesterer seg annerledes.

Elizabeth: Og de har ulike konsekvenser som sjåfør.

Natt: Å absolutt. Absolutt. Og også når det gjelder hvordan du samler inn disse dataene i kjøretøyet, er det også en slags driftsutfordringer, avhengig av kameraplassering, kameravinkler. Og nå må vi selvfølgelig støtte nær-infrarøde kameraer som brukes, for når du kjører om natten eller i en tunnel, er ikke lysforholdene så gode. Så dette er alle miljøforhold som vi ville ha hatt vi måtte trene våre algoritmer for. Men når du tenker på det, å fange døsige kjøredata, er det ikke så lett. For det er ikke slik at vi kan holde folk oppe i 48 timer i et av våre fantastiske søvnlaboratorier rundt Boston og deretter sende dem nedover Memorial Drive i en bil og se om de sovner. Det er noe vi ikke nødvendigvis ønsker å gjøre.

Natt: Så det er også et spørsmål om å samle inn enorme mengder data, utvinne dataene våre for naturlige forekomster av disse statene, og så også gjøre veldig spesifikke studier rettet mot demografi som er tilbøyelige til å være søvnige når de kjører. For eksempel har vi gjort en rekke studier med skiftarbeidere – folk som kan jobbe lange skift på, for eksempel, la oss si en fabrikk, og så må kjøre hjem midt på natten. Du har større sannsynlighet for å fange døsige data på den måten. Så det er en rekke forskjellige måter vi samler inn dataene våre på. Det gir oss et massivt datalager, og deretter brukes en delmengde av disse dataene til å modellere maskinlæringsklassifikatorene dine. Og så lager du ut et annet delsett som du bruker til trening og validering. Så du holder dem på en måte adskilt. Og vi samler kontinuerlig inn data, og merker kontinuerlig disse dataene. Det er bare et pågående aspekt av vår FoU-innsats og å utvide depotet på den måten.

Natt: Ikke sant. Så det du nettopp har snakket om er måtene du har utviklet lesingen av følelser på. Nå, hva med behovet for å programmere datamaskinene til å tolke og bruke den informasjonen. Er ikke det mye vanskeligere å gjøre?

Natt: Det kommer an på. Hvorvidt det er vanskeligere å gjøre avhenger litt av hva interaksjonene er. Og vanligvis er det den ultimate designbeslutningen til kunden vår, men det er i stor grad også en samarbeidsprosess. For at vi skal utvikle disse algoritmene som kan oppdage og analysere menneskelige følelser, er det også kritisk viktig å forstå, hva er brukssakene? Hvordan vil de bruke den teknologien? For du kan ikke bare bygge disse algoritmene i et vakuum. Så det er i høy grad en samarbeidsprosess.

Natt: Så jeg sa tidligere at vi er ganske aktive i bilindustrien akkurat nå. Så det er en pågående dialog med bilprodusenter om hvordan de bruker dataene våre for deretter å designe tilpasninger eller inngrep i et kjøretøy. Og noe av dette er i høy grad en prosess i utvikling. Hvis du kan se at noen blir distrahert i et kjøretøy, vil du ikke nødvendigvis at alle disse varslene og alarmene skal utløses, hvis det bare er en liten distraksjon, ikke sant? Det kan irritere folk eller forverre dem enda mer og forårsake enda farligere kjøreatferd. Du vil være i stand til å forstå nivåer og intensiteter og frekvens av distraksjon, og deretter utforme svært subtile, relevante og passende intervensjoner.

Natt: Og det er også en fremtidig statlig visjon, og vi er absolutt ikke der fra et teknologiperspektiv, men jeg tror vi er på vei dit i fremtiden. Hva om du kunne tilpasse det til den enkelte? Så kanskje når du blir døsig vil du gjerne høre på hardrockmusikk. Kanskje til og med jeg er døsig, jeg vil bare absolutt gå ut av bilen og strekke på bena og gå rundt. Og måten bilen min eller en fremtidig robottaxi dekker behovene mine på...

Elizabeth: Er tilpasset.

Natt: Er tilpasset mine personlige behov i øyeblikket, ikke sant. Så løftet om potensielt å bygge dette på en personlig måte, jeg tror vi er på vei dit i fremtiden, men ennå ikke der i dag, og jeg tror ikke vi vil se det på biler på veien snart. .

Elizabeth: Jeg er interessert i i hvilken grad dere alle tenker på bakskuddspotensialet ved dette. Så akkurat nå snakker vi selvfølgelig mye om Facebook. Vi snakker mye om valget i 2016. Vi snakker om manipulasjonen som vi føler oss ganske sikre på har skjedd gjennom sosiale medieplattformer som Facebook. Og jeg lurer på i hvilken grad du bekymrer deg for hva som kan gjøres med Affectivas teknologi og gjennom lesingen av måten folk reagerer på visse ting og derfor justeringen av meldingene for å gjøre den mer virkningsfull. Er du bekymret for hva slags uforutsette konsekvenser av denne teknologien kan være, hvis den ikke administreres riktig.

Natt: Selvfølgelig bekymrer vi oss for det. Men jeg tror hvert eneste teknologiselskap trenger å bekymre seg for potensielle uønskede anvendelser av produktene de designer. For ærlig talt kan hver eneste bit av teknologien som vi bruker på daglig basis brukes til ondsinnede eller ondsinnede formål. Tenk på lastebilen. Det er den foretrukne transportmåten for terrorister. Eller google maps. Ikke sant. Så disse teknologiene og systemene var ikke designet for disse brukstilfellene. Så jeg tror først og fremst som teknologiselskaper at du alltid må være oppmerksom på det, spesielt nå som teknologien har blitt så tilgjengelig, og datakraften er så sterk, og den er tilgjengelig for enhver forbruker. Det må du være oppmerksom på.

Elizabeth: Men når du har et verktøysett, bekymrer du deg for hva som skjer hvis det verktøysettet kan brukes på måter som dere ikke nødvendigvis vil være i stand til å beskytte mot?

Natt: Ja absolutt. Så det er ting som bedrifter kan gjøre og ting som vi har gjort. Så jeg snakket akkurat nå generelt om hva jeg skulle ønske at teknologiselskaper kontinuerlig skulle tenke på. Men til det tidligere spørsmålet ditt, tilbake til det opprinnelige spørsmålet, bekymrer vi oss for det? Absolutt ja. Og hva gjør vi med det? En rekke forskjellige ting. Så først og fremst, teknologien vår, er vi veldig forsiktige med hvem vi lisensierer den til. Og vi blir mye strengere når det gjelder hvor vi var for kanskje noen år siden. Så det er ikke slik at noen der ute bare kan ta tak i teknologien vår og bygge noe med den.

Natt: Det er også lisensavtaler eller juridiske dokumenter som vi har på plass som sikrer mot det. Vi har også uttalt som selskap at det er visse typer brukstilfeller som vi bare ikke vil selge teknologien vår til. Vi tror på opt-in og samtykke, fordi når du analyserer ting som menneskelige følelser, er følelser ekstremt private, og vi ønsker ikke å engasjere oss i sikkerhet eller overvåking der folk ikke har muligheten til å velge eller samtykke til deres ansikter som analyseres. Og vi har faktisk avslått virksomhet som ville ha ført oss ned på den veien.

Elizabeth: Vi ville ikke engang vært der vi er akkurat nå hvis vi ikke er det, vi følte ikke alle en stor form for kynisme eller skepsis rundt teknologiens evne til å bli utnyttet, eller holdt fra uforutsette negative konsekvenser. Ikke sant? Så på en måte gir det alle, alle dere blir undersøkt nærmere, fordi vi føler oss sky for teknologi. Og vi vet at regulatoriske myndigheter i Washington er ineffektive i denne forbindelse.

Natt: De er fordi de ikke forstår det riktig. Hvis du har senatorer som spør ledelsen i Facebook om hvordan de tjener penger, fordi de ikke forstår kjernekonseptene for personlig tilpasset annonsemålretting, så har vi et problem. Det er også et utdanningsspørsmål. Men på toppen av det, en interessant friksjon, ikke sant? Fordi det er også, tror jeg, bortsett fra et stort ansvar som teknologiselskaper har, og hvor noen kanskje har vært etterslep eller uaktsom, hva med forbrukeren, ikke sant? Fordi det er denne oppfattede verdien å ha. Vi liker å bruke sosiale medieplattformer, og vi deler livene våre der, fordi vi oppfatter å få verdi ut av det. Og vi som forbrukere stiller ikke så mange spørsmål, og det bekymrer meg også. Spesielt når du vet at jeg har en datter som er i ferd med å fylle 13 og jeg mistenker at vil bruke mye mer tid på enheter og sosiale medier. Hvordan utdanner du deg til det? Selv som forbruker har nettopp disse systemene også blitt enormt komplekse. Bare gå inn i iPhone-innstillingene og prøv å finne ut hvor data går, og hvordan de flyter, og hva vil du slå av når, og hvordan og hvordan gjør du det?

Elizabeth: Det er veldig vanskelig å tyde.

Natt: Det er ikke veldig intuitivt, ikke sant? Det med vilje. Og du må gjøre et poeng av å gå ut og finne informasjon og gjøre det og reversere det, i stedet for omvendt, hvor kanskje data holdes private hele tiden og du går inn og du tillater tilgang. Så det er en enorm friksjon der, tror jeg, mellom verdi forbrukere oppfatter for å få kontra verdi teknologiselskapene faktisk får med dataene. Åpenhet i det. Så for oss som selskap bekymrer vi oss absolutt for det.

Elizabeth: Du har disse samtalene.

Natt: Å ja. Kontinuerlig. Og også i offentlige fora. Vi ble med i Partnership on AI, som er et industrikonsortium designet for å realisere rettferdig, ansvarlig, transparent og etisk AI. Og vi var en av få oppstartsbedrifter som ble invitert til å være en del av det. Men det er en måte vi håper å drive for endring. Og vi er også heldige ved at Rana, vår administrerende direktør, er en tankeleder innen AI, i høy grad en offentlig person. Hun har muligheter til å være der ute og snakke i offentlige omgivelser. Og hun ønsker å være veldig vokal om disse spørsmålene fordi vi har en sterk mening om det. Og vi føler også at vi har et samfunnsansvar for å være transparente om dette og gå inn for endring. I den grad en startup på 50 personer kan gjøre det. Men vi må alle bidra med vår del.

Elizabeth: Så når jeg tenker på hva virkningen av emosjonell AI eller emotion AI kan være på veien, betyr det at, Siri vil få, vil Alexa bli bedre til å forstå følelsene mine og svare på meg i samsvar med følelsene mine? Og i så fall, hva betyr det for fremtiden? Hva betyr det hvis enhetene våre er smarte på denne måten om oss som emosjonelle vesener?

Natt: Så i dag, selvfølgelig, hvor vi er forbundet med hyper avanserte systemer og teknologier. Avansert AI. Mange kognitive evner. Men det som egentlig mangler er denne følelsesbevisstheten. Disse systemene forstår for det meste ikke våre tilstander, våre reaksjoner, vårt velvære. Og vi i Affectiva tror absolutt at det gir svært ineffektive og overfladiske interaksjoner med teknologi. Så hva om disse systemene kunne forstå våre følelser og våre kognitive tilstander og våre reaksjoner og vår atferd? Hvor mye mer effektivt ville vår interaksjon med disse teknologiene være?

Natt: Så i fremtiden ser jeg absolutt for meg en verden der vår type teknologi, emotion AI, er inngrodd i stoffet av teknologier som er tilgjengelig hver dag. Det er diskret i bakgrunnen, forstår og reagerer på vårt følelsesmessige velvære. Jeg har også alltid hatt denne visjonen som vi som mennesker kanskje ville bære med oss, la oss kalle det vårt følelsespass. Det er vårt emosjonelle digitale fotavtrykk vi kontrollerer. Vi eier disse dataene. Det klarer vi. Og vi tillater, med våre tillatelser og ønsker, å ta det med oss ​​fra enhet til digital opplevelse til hvor enn vi bruker teknologi. Enten vi sitter på kontoret og jobber på den bærbare datamaskinen for å sette oss inn i bilen eller bruker en delt bil eller på hjemmesystemene våre, som et Google-hjem eller i Alexa, alt mulig. Enhver type teknologi vi samhandler med. Det ville være denne konsekvente forståelsen av vårt velvære, og det ville veilede og gi råd og hjelpe oss. Og jeg tror det er den kritiske delen. Og det er derfor jeg tror det også er så viktig at alt dette gjøres med vår egen opt-in og samtykke og kontroll.

Elizabeth: Det er så fascinerende, fordi du kan tenke på at denne teknologien brukes til på en måte å skape empati i enhetene vi bruker, og erfaringene vi har, ikke sant? Og svare på måten vi leser eller reagerer på en annonse for eksempel og justere den. Og du kan også tenke på at denne teknologien brukes som en måte å håndtere følelsene vi føler på. Så når du snakket om et følelsespass, kan du på en måte si at jeg føler meg sur, jeg føler meg i været, og jeg vil at enhetene mine og teknologien min skal svare på det. Eller du kan se på det som at min av disse enhetene på en eller annen måte trenger å styre meg ut av den følelsen. Og det er ganske interessant å tenke på. Det kan gå begge veier. Og du vet at jeg antar at jeg har min egen stemme på hvilken vei jeg vil være mest komfortabel med at det går.

Natt: Og ideelt sett ville systemene forstå deg godt nok, hva som ville være passende i øyeblikket. Fordi her tillater vi at disse dataene kan spores i lengderetningen, og kanskje om morgenen kan en hjemmeenhet jeg bruker si som, Hei Gabi, virker som om du ikke er like fornøyd som du var i går morges. Jeg kan også fortelle at du egentlig ikke sov de 7 timene som er optimale for deg. Vil du at jeg noen gang skal slå på denne musikkspillelisten? Og kanskje du ikke vil at kjøreturen skal fungere i dag. Hvorfor bestiller jeg ikke en turdeling for deg? Eller kaffemaskinen har nettopp startet på kjøkkenet. Eller vice versa. Så du kommer hjem fra jobb og det er som, hei du hadde en veldig tøff dag på jobben. Jeg bestilte en restaurant for deg, og barnevakten kommer for å hente barnet ditt. Ja. Og ideen er at disse som med, la oss kalle det et følelsespass, som gir systemene våre og teknologiene vi bruker, gir dem innsikt i vår personlige tilstand og velvære, ideen er at det kan hjelpe oss med å veilede og gi råd og i hovedsak prøve å gjøre livene våre bedre eller mer effektive. Selvfølgelig vil jeg personlig at det alltid skal være i min kontroll og min opt-in og mitt samtykke. Kanskje jeg ikke vil ha helsedataene mine sendt til legen min eller, gud forby, forsikringsselskapet mitt. Men kanskje i noen situasjoner er det nyttig. Og det å kunne la teknologiene våre få en dypere forståelse av vårt velvære og vår tilstand kan være kritisk verdifullt.

Elizabeth: Herlig. Vel takk, Gabi, dette har vært veldig interessant. Dette er et spennende utviklingsområde, og vi ønsker deg lykke til.

Natt: Tusen takk og takk for at du snakker med meg. De var så store spørsmål. Jeg likte virkelig å snakke med deg. Takk skal du ha.

Elizabeth: Det var det for denne episoden av Business Lab. Jeg er verten din Elizabeth Bramson-Boudreau. Jeg er administrerende direktør og utgiver av MIT Technology Review. Vi ble grunnlagt i 1899 ved Massachusetts Institute of Technology. Du kan finne oss på trykk, på nettet, på dusinvis av live-arrangementer hvert år, og nå i lydform. På nettstedet vårt, TechnologyReview.com, kan du finne ut mer om oss. Og ikke glem å søke om å bli med i MIT Technology Review Global Panel, en gruppe av tankeledere, innovatører og ledere, hvor du kan lære av dine jevnaldrende og dele ekspertisen din om dagens teknologi- og forretningstrender. Søk på TechnologyReview.com/globalpanel. Dette programmet er tilgjengelig uansett hvor du får podcastene dine. Hvis du likte denne episoden, håper vi at du tar deg tid til å vurdere og anmelde oss på Apple Podcasts. Business Lab er en produksjon av MIT Technology Review. Produsenten er Wade Roush med redaksjonell hjelp fra Mindy Blodgett. Spesiell takk til vår gjest Gabi Zijderveld. Takk for at dere hørte på. Vi kommer snart tilbake med en ny episode.

gjemme seg