Podcast: Når AI blir en barnelek

Til tross for deres popularitet blant barn, er nettbrett og andre tilkoblede enheter bygget på toppen av systemer som ikke er laget for at de enkelt skal forstå eller navigere. Men å tilpasse algoritmer for å samhandle med et barn er ikke uten komplikasjoner - ettersom ingen barn er nøyaktig som andre. De fleste gjenkjennelsesalgoritmer ser etter mønstre og konsistens for å lykkes med å identifisere objekter. Men barn er notorisk inkonsekvente. I denne episoden undersøker vi forholdet AI har til barn.

Vi møtes:

• Judith Danovitch, førsteamanuensis i psykologi og hjernevitenskap ved University of Louisville.
• Lisa Anthony, førsteamanuensis i informatikk ved University of Florida.
• Tanya Basu, seniorreporter ved MIT Technology Review.

Studiepoeng:

Denne episoden ble rapportert og produsert av Jennifer Strong, Anthony Green og Tanya Basu med Emma Cillekens. Vi er redigert av Michael Reilly.

Jennifer: Det er ikke lenge siden det var normen for barn å spille hopscotch, brettspill eller arrangere teselskaper med dukker....

Litt TV her og der ... en dag i parken ... sykler.

Men ... vi har sett hopscotch gå til TikTok ... brettspill blir videospill ... og dukker på teselskap ... gjør mer enn å bare snakke tilbake

[Upsot: Barbie ad Barbie.. Dette er min digitale makeover.. Jeg setter inn min egen Ipad og åpner appen min.. og speilet lyser.. Jeg lager øyenskygge-leppestiften og rødmen.. Hvor fantastisk er det?]

Jennifer: Barn blir eksponert for enheter nesten fra fødselen, og vet ofte hvordan de skal bruke en berøringsskjerm før de kan gå.

Saken er at disse systemene egentlig ikke er laget for barn.

Så... hva betyr det å invitere Alexa til festen?

[ Upsot.. 1'30-1'40 Hei og velkommen til Amazon storytime. Du kan velge alt fra pirater til prinsesser. Har lyst på det!]

Jennifer: Og... Hva skjer når leker er koblet til internett og barna kan spørre dem om hva som helst... og de vil ikke bare svare tilbake... men også lære av barna dine og samle inn dataene deres.

Jennifer: Jeg heter Jennifer Strong, og denne episoden utforsker forholdet AI har til barn.

Judith: Jeg heter Judith Danovitch. Jeg er førsteamanuensis i psykologi og hjernevitenskap ved University of Louisville. Så jeg er interessert i hvordan barn tenker, og spesifikt er jeg interessert i hvordan barn tenker om informasjonskilder. For eksempel, når de har et spørsmål om noe, hvordan går de fram for å finne ut hvor de skal finne svaret og hvilke svar de skal stole på.

Jennifer: Så da hun fant sønnen sin sittende alene og snakket med Siri en ettermiddag... vakte det interessen hennes med en gang. Hun sier at han var fire år gammel da han begynte å stille spørsmål.

Judith: Som, hva heter jeg? Og det virket som om han på en måte testet henne for å se hva hun ville si som svar. Visste hun faktisk, vet du, disse tingene om ham? Det morsomme var at enheten tilhørte mannen min, som heter Nick. Og så da han sa, hva heter jeg? Hun sa, Nick. Og han sa: Nei, dette er David. Så du vet, det var plausibelt. Det var ikke engang det at hun bare sa, jeg vet ikke, hun sa faktisk noe, men det var feil.

Jennifer: Så... begynte han å stille spørsmål som var det ikke bare om seg selv...

Judith: Noe som var veldig interessant fordi det virket som om han virkelig prøvde å finne ut, ser denne enheten på meg på en eller annen måte og kan den se meg akkurat nå? Og så gikk han videre til å stille det jeg bare kan beskrive som et veldig bredt spekter av spørsmål. Noen av dem kjenner jeg igjen som temaer vi hadde snakket om. Så han spurte henne for eksempel, spiser ørner slanger? Og jeg antar at han og mannen min hadde snakket om ørner og slanger nylig, men da stilte han henne også noen virkelig dype spørsmål som han egentlig ikke hadde stilt oss. Så på et tidspunkt spurte han hvorfor ting dør? Som du vet er en ganske tung ting for en fireåring å spørre Siri.

Jennifer: Og mens dette fortsatte... hun begynte å filme ham i hemmelighet .

David: Hvordan kommer du deg ut av Egypt?

Er bakdel et dårlig ord?

... Og hvorfor dør ting?

Judith: Senere samme dag etter at jeg sluttet å ta opp ham og han hadde mistet interessen for denne aktiviteten, spurte jeg ham litt mer, og han fortalte meg at han trodde det virkelig var en liten person der inne. Det var den Siri var. Hun var en bitteliten person inne i iPaden. Og det var den som svarte på spørsmålene hans. Han hadde ikke så god innsikt i hvor hun fikk svarene sine fra. Så han var ikke i stand til å si: Å, de kommer fra internett. Og det er en av tingene jeg har blitt veldig interessert i er, vel, når barn hører disse enhetene, hva, hvor tror de at denne informasjonen kommer fra? Er det en liten person eller er det, du vet, noe annet. Og, og det knytter seg til spørsmål om, tror du det? Ikke sant? Så, bør du stole på hva enheten forteller deg som svar på spørsmålet ditt?

Jennifer: Det er den typen tillit små barn har til foreldrene og lærerne sine.

Judith: Anekdotisk tror jeg foreldre tenker som, å, barn er godtroende og de vil stole på alt de ser på internett. Men det vi faktisk har funnet både med forskning i USA og med forskning med barn i Kina er at små barn i førskolealder rundt fire til seks faktisk er veldig skeptiske til internett og gitt valget de heller vil konsultere en person .

Jennifer: Men hun sier at det kan endre seg ettersom stemmeaktiverte enheter blir mer og mer vanlig.

Judith: Og vi har prøvd å finne ut om barn har lignende typer intuisjoner om enhetene som de har om internett generelt, men vi ser lignende mønstre med små barn, hvor igjen små barn som får valget sier, jeg vil heller spør en person om informasjon i det minste når informasjonen har med fakta å gjøre. Som, du vet, hvor bor noe, hvor, hvor kommer disse tingene fra? Og det meste av forskningen vår har fokusert på fakta.

Jennifer: Hun ser et skifte rundt 7 eller 8 når barna begynner å stole mer på internett og stemmeassistenter. Men hun vil være tydelig - dette er tidlig forskning... Og det er ikke slik at barn tror på enheter hundre prosent av tiden når de blir eldre, tror de bare på dem mer ofte.

Men hvorfor er de yngste barna... de med stor fantasi... mer skeptiske enn eldre barn?

Judith: Yngre barn tror jeg er skeptiske ærlig talt, fordi dette er ganske merkelige gjenstander, ikke sant? På noen måter er de som mennesker, ikke sant? Den snakker til deg. Den har en slags frem og tilbake samtale. Men på andre måter er disse enhetene ikke som en person i det hele tatt, ikke sant? Det er denne merkelige boksen. Den har ikke et ansikt eller øyne eller noe sånt, at det antyder at det er et animert objekt, og det er det selvfølgelig ikke, ikke sant? Så du vet, for små barn burde det faktisk være ganske vanskelig å finne ut av, og det er fornuftig at de kan være forsiktige med det, at de kan si, vel, ja, kanskje du kan gjøre noen ting, men jeg Jeg vil gå med det sikre alternativet er å spørre moren min eller læreren min om denne typen merkelige ukjente ting.

Jennifer: Alexa har mer enn 80 000 ferdigheter i USA ... og det er utviklerstøtte for ferdigheter rettet mot barn.

[Skoleklokken ringer. Lyder av barn som skravler som mumling under neste VO.]

Jennifer: Sesame Street designet en for barn å leke gjemsel med Elmo...

Elmo: På tide å gjette hvor Elmo gjemmer seg!

Jennifer: Nickelodeon har en måte å legge dem under havet med Svampebob Firkant...

[Svampebob Firkant-temamusikk]

Jennifer: Og så er det et spill som heter Kids Court. Det er en app utviklet av Pretzel Labs for foreldre som lar oss Alexa være dommer over barnas krangel.

Alexa: Velkommen til barnedomstolen hvor alt urettferdig til slutt blir stilt for retten. Alle reiser seg for den ærede dommeren, Lexi. Ønsker du å forlike en sak eller høre om tidligere rettssaker?

Barn: Avgjør en sak.

Alexa: Aktor, vennligst fortell retten hva som skjedde.

Barn: Brianna leste dagboken min!

Alexa: Kids Court ble opprettet for saker som dette. Er tiltalte tilstede eller fraværende?

Barn: tilstede.

Alexa: Tiltalte du er i trøbbel. Hva ber du om? Si skyldig hvis du gjorde det eller ikke skyldig hvis du gjorde det.

Brianna: Ikke skyldig!

[Musikkovergang]

Jennifer: Det er mange selskaper som tilbyr tilkoblede opplevelser designet for barn. Blant dem talespill rettet mot foreldre som er forsiktige med skjermtid. Ett system heter Yoto, men det har mye mer til felles med en kassettspiller enn en smart høyttaler. Nytt innhold som musikk eller historier kan legges til systemet via kort som, når de settes inn i høyttaleren, utløser en nedlasting fra Yotos servere.

Det er ikke mye ved det. Det er ingen stemmeassistent, intet kamera, ingen mikrofon... og den pikselerte skjermen er egentlig bare ment å vise klokkeslettet eller et tegneserieaktig bilde relatert til det som spilles.

Kate Daniels: Det beste med det er at det er så enkelt. Jeg mener, vår yngste fylte to i går, og han har visst hvordan han skal bruke det det siste året. Du vet? Jeg tror ikke det trenger å være helt fancy.

Jennifer: Kate og Brian Daniels har nettopp flyttet fra New York City til Boston med sine tre barn på slep - som alle er ivrige brukere av Yoto.

Parker Daniels: Et sangalbum faren min la på er Hamilton. Um, jeg liker det veldig godt.

Jennifer: Det er deres 6 år gamle sønn Parker. Han går gjennom en perm fylt med kort ... som brukes til å betjene enheten.

Parker Daniels: Um, og jeg er nå... Jeg leter etter resten, og jeg har som en hel bok.

Charlotte Daniels: Og på noen kort er det mange sanger og noen er det mange historier, men forskjellige kapitler.

Jennifer: Og det er hans yngre søster, Charlotte.

Brian Daniels: Så vi kan også, eh, ta opp historier og sette dem på, eh, tilpassede kort slik at barna kan spille historiene jeg finner på. Og de elsker når jeg forteller dem historier, men jeg er ikke alltid tilgjengelig, vet du, jobber hjemmefra og har det travelt. Så dette lar dem spille disse historiene når som helst.

Jennifer: Skjermløse underholdningsalternativer er nøkkelen for denne familien... Som ... bortsett fra fredagskveldspizza og en film ... ikke bruker mye tid samlet rundt TV-en. Men utover å begrense skjermtiden (mens de fortsatt kan), sier mor og far at de også nyter tryggheten over at barna ikke har en direktelinje til Google.

Kate Daniels: Vi har full kontroll over hva de har tilgang til, noe som er en annen stor ting. Vi hadde en Alexa en stund noen hadde gitt oss, og den fungerte ikke bra for oss fordi de kunne si, Alexa, fortelle oss om, og de kunne velge hva de ville, og vi visste ikke hva som skulle komme tilbake slik at vi virkelig kan kurere hva de har lov til å lytte til og oppleve.

Jennifer: Likevel innrømmer de at de ikke helt har funnet ut hvordan de skal navigere ved å introdusere mer avansert teknologi når den tid kommer.

Kate Daniels: Jeg synes det er et veldig vanskelig spørsmål. Du vet, vi, som foreldre, ønsker virkelig å kurere alt de blir utsatt for, men til syvende og sist vil vi ikke være i stand til å gjøre det. Selv med all programvaren der ute til [00:18:06] Storebror, sine egne telefoner og se hver tekstmelding og alt de surfer på. Det har jeg ikke, det er et stort spørsmål og jeg tror ikke vi har svaret ennå.

--

Spørre: Så en annen grunn til at disse stemmespillene blir mer populære er at de er skjermfrie, noe som er veldig interessant og viktig. Gitt det faktum at barn vanligvis anbefales å ikke ha mer enn to timer skjermtid per dag. Og det er da de er rundt fire eller fem.

Hei mitt navn er Tanya Basu, jeg er seniorreporter ved MIT Technology Review og jeg dekker mennesker og teknologi.

Spesielt yngre barn bør ikke utsettes for så mye skjermtid. Og lydbasert underholdning virker ofte sunnere for foreldre fordi det gir dem den muligheten til å bli underholdt, til å bli utdannet, til å tenke på ting på en annen måte som i utgangspunktet ikke krever en skjerm foran ansiktet deres og potensielt skape problemer senere på veien som vi bare ikke vet om akkurat nå.

Jennifer: Men å designe disse systemene ... er ikke uten komplikasjoner.

Spørre: Mye av det er at barn lærer å snakke, vet du, du og jeg har denne samtalen akkurat nå, vi har en forståelse av hva en dialog er på en måte som barn ikke gjør. Så det er åpenbart det. Det er også det faktum at barn egentlig ikke sitter stille. Så du vet, man kan være langt unna eller skrike eller si et ord annerledes. Og det påvirker åpenbart måten utviklere kan lage disse spillene på. Og en stor ting som mange jeg snakket med nevnte, var det faktum at barn ikke er et universelt publikum. Og jeg tror mange glemmer det, spesielt de som utvikler disse spillene...

Jennifer: Likevel sier hun at barnas evne til å forstå kompleksitet ikke bør undervurderes.

Spørre: Jeg er ærlig talt overrasket over at det ikke er flere spill for barn. Og jeg er mest overrasket over at spillene som er der ute pleier å være historiespill og ikke, du vet, et brettspill eller noe som er visuelt representativt. Vi ser med roblox og mange av de mer populære videospillene som kom ut under pandemien, hvor komplekse de er, og det faktum at barn kan håndtere komplekse historielinjer, komplekse spill, komplekse bevegelser. Men mange av disse stemmespillene er så enkle. Og mye av det er fordi teknologien bare ikke er der. Men jeg er overrasket over at fantasien når det gjelder å se hvor disse spillene går er ganske begrenset så langt. Så jeg er veldig nysgjerrig på å se hvordan disse spillene utvikler seg i løpet av de neste årene.

Jennifer: Vi kommer tilbake rett etter dette.

[MIDROLL]

Legg til: Det er alltid denne utfordringen med å kaste teknologi på barn og bare forvente at de skal tilpasse seg. Og jeg tror det er en toveis gate.

Jennifer: Lisa Anthony er førsteamanuensis i informatikk ved University of Florida. Forskningen hennes fokuserer på å utvikle interaktive teknologier designet for å brukes av barn.

Legg til: Vi ønsker ikke nødvendigvis systemer som bare hindrer vekst. Du vet, vi vil at barn skal fortsette å vokse og utvikle seg og ikke nødvendigvis bruke AI som en krykke for hele den prosessen, men vi vil at AI kanskje skal hjelpe. Det kan fungere som en bedre støtte underveis. Hvis vi vurderer barns utviklingsbehov, forventninger og evner når vi designer disse systemene.

Jennifer: Hun jobber med barn for å forstå hvordan de oppfører seg annerledes med enheter enn voksne.

Legg til: Så når de berører berøringsskjermen eller når de tegner på berøringsskjermen, hvordan ser det ut fra et programvaresynspunkt som vi kan tilpasse algoritmene våre for å gjenkjenne og tolke disse interaksjonene mer nøyaktig. // Så noen av utfordringene du ser er virkelig å forstå barnas behov, forventninger og evner med hensyn til teknologi, og det hele kommer til å bli drevet mye av deres motoriske ferdigheter, utviklingsfremgangen, du vet, deres kognitive ferdigheter Sosio-emosjonelle ferdigheter og hvordan de samhandler med verden vil bli brukt transitivt til hvordan de kan samhandle med teknologi.

Jennifer: For eksempel mangler de fleste barn rett og slett nivået av fingerferdighet og motorkontroll som trengs for å trykke på en liten knapp på en berøringsskjerm – til tross for de små fingrene.

Legg til: Så en voksen kan sette fingeren til berøringsskjermen, tegne en firkant og ett jevnt slag, alle fire sider og løfte det opp, et barn, spesielt en ung gutt, la oss si at fem, seks år kommer til å plukke opp fingeren i hvert hjørne. Kanskje til og med midt i et slag og så legge den ned igjen for å rette seg opp og fullføre. Og disse typene små variasjoner i hvordan de lager den formen kan faktisk ha stor innvirkning på om systemet kan gjenkjenne den formen hvis den typen data aldri ble brukt som en del av treningsprosessen.

Jennifer: Å programmere dette inn i AI-modeller er kritisk, fordi håndskriftgjenkjenning og intelligente veiledningssystemer i økende grad dukker opp i klasserommene.

De fleste gjenkjennelsesalgoritmer ser etter mønstre og konsistens for å identifisere objekter. Og barn ... er notorisk inkonsekvente. Hvis du skulle gi et barn i oppgave å tegne fem firkanter på rad, vil hver enkelt se annerledes ut enn en algoritme.

Behovene til barn endrer seg etter hvert som de vokser ... det betyr at algoritmer også må endres.

Så, forskere er ute etter å inkludere lærdom fra barneshow... som hvordan barn etablerer sosiale tilknytninger til animerte karakterer som ser ut som mennesker.

Legg til: Det betyr at de sannsynligvis tilskriver sosiale forventninger til deres interaksjoner med den karakteren. De føler seg varme mot karakteren. De føler at karakteren kommer til å reagere på forutsigbare sosiale måter. Og dette kan være en fordel hvis systemet ditt er klart til å håndtere det, men det kan også være en utfordring. Hvis systemet ditt ikke er klart til å håndtere det, fremstår det som tre. Det fremstår som unaturlig. Barna kommer til å bli slått av av det.

Jennifer: Hun sier at forskningen hennes også har vist at barn reagerer på AI-systemer som er gjennomsiktige og kan løse problemer sammen med barnet.

Legg til: Så barna ville at systemet skulle kunne gjenkjenne at det ikke visste svaret på spørsmålet deres, eller det visste ikke nok informasjon til å svare på spørsmålet ditt eller fullførte en interaksjon og bare si, jeg vet ikke, eller fortell meg , du vet, denne informasjonen som vil hjelpe meg å svare. Og jeg tror det vi så, vel, vi har fortsatt en tendens til å se faktisk er en designtrend for AI-systemer der AI-systemet prøver å komme seg på en elegant måte fra feil eller mangel på informasjon uten anførselstegn, noe som plager brukeren, ikke sant. Uten egentlig å involvere dem eller avbryte dem, prøver å liksom grasiøst eksistere i bakgrunnen. Barn var mye mer tolerante for feil og, og ønsket å behandle det som et samarbeidsproblem, løsning, opplevelse

Jennifer: Likevel innrømmer hun at det er en lang vei foran å utvikle systemer med kontekstuell bevissthet om samhandling med barn.

Legg til: Ofte returnerer Google Home på en måte som et utdrag fra Googles søkeresultater, og det kan være hva som helst som kommer tilbake, ikke sant. Og barna må da på en eller annen måte lytte til dette lange og slags obskure avsnittet og så finne ut om svaret deres noen gang har vært inneholdt i det avsnittet noe sted. Og de måtte få foreldrenes hjelp til å tolke informasjonen og et tema som du ser mye i denne typen arbeid og generelt barn og teknologier, de ønsker å kunne gjøre det selv. De ønsker egentlig ikke å be foreldrene sine om hjelp fordi de ønsker å være uavhengige og engasjerte i verden på egenhånd.

Jennifer: Men hvor mye vi lar AI spille en rolle i å utvikle den uavhengigheten … er opp til oss.

Legg til: Vil vi at AI skal gå i retning av biler, for eksempel, hvor mange av oss for det meste eier en bil, har ingen anelse om hvordan det fungerer under panseret, hvordan vi kan fikse det, hvordan vi kan forbedre det. Hva er implikasjonene av denne designbeslutningen eller den designbeslutningen? Eller vil vi at kunstig intelligens skal være noe der folk... de virkelig er bemyndiget og de har et potensial til å forstå disse store forskjellene, disse store avgjørelsene. Så jeg tror det er grunnen til at barn og AI-utdanning er veldig viktig for meg fordi vi vil sørge for at de føler at dette ikke bare er et mystisk element av teknologi i livene deres, men noe de virkelig kan forstå, tenk kritisk til affektendring og kanskje bidra til å bygge også.

[KREDITTER]

Jennifer: Denne episoden ble rapportert og produsert av meg, Anthony Green og Tanya Basu med Emma Cillekens. Vi er redigert av Michael Reilly.

Takk for at du lyttet, jeg heter Jennifer Strong.

gjemme seg