211service.com
Hvorfor barn trenger spesiell beskyttelse mot AIs påvirkning
Ludovic Toinel / Unsplash
Algoritmer kan endre forløpet til barns liv. Barn samhandler med Alexas som kan ta opp stemmedataene deres og påvirke deres tale og sosiale utvikling. De binging videoer på TikTok og YouTube presset til dem av anbefalingssystemer som ender opp med å forme deres verdenssyn.
Algoritmer brukes også i økende grad for å bestemme hvordan utdanningen deres er, om de vil motta helsehjelp, og til og med om foreldrene anses skikket til å ta seg av dem . Noen ganger kan dette ha ødeleggende effekter: i sommer, for eksempel tusenvis av studenter mistet universitetsopptaket etter algoritmer – brukt i stedet for pandemi-kansellerte standardiserte tester – spådde unøyaktig deres akademiske ytelse.
Barn er med andre ord ofte i forkant når det gjelder bruk og bruk av AI, og det kan gjøre dem i en posisjon til å bli skadet. Fordi de utvikler seg intellektuelt og følelsesmessig og fysisk, er de veldig formbare, sier Steve Vosloo, en policyspesialist for digital tilkobling ved Unicef, FNs barnefond.
Vosloo ledet utformingen av en nytt sett med retningslinjer fra Unicef designet for å hjelpe myndigheter og selskaper med å utvikle AI-politikk som tar hensyn til barns behov. Utgitt 16. september, er de ni nye retningslinjene kulminasjonen av flere konsultasjoner holdt med beslutningstakere, barneutviklingsforskere, AI-utøvere og barn over hele verden. De tar også hensyn til FNs barnekonvensjon, en menneskerettighetstraktat ratifisert i 1989.
Retningslinjene er ikke ment å være enda et sett med AI-prinsipper, hvorav mange allerede sier de samme tingene. I januar i år, en anmeldelse fra Harvard Berkman Klein Center av 36 av de mest fremtredende dokumentene som veileder nasjonale og selskaps AI-strategier, fant åtte vanlige temaer – blant dem personvern, sikkerhet, rettferdighet og forklarbarhet.
Snarere er Unicef-retningslinjene ment å utfylle disse eksisterende temaene og skreddersy dem til barn. For eksempel skal AI-systemer ikke bare kunne forklares – de skal kunne forklares for barn. De bør også vurdere barns unike utviklingsbehov. Barn har tilleggsrettigheter til voksne, sier Vosloo. De anslås også å utgjøre minst en tredjedel av nettbrukerne. Vi snakker ikke om en minoritetsgruppe her, påpeker han.
I tillegg til å redusere AI-skader, er målet med prinsippene å oppmuntre til utvikling av AI-systemer som kan forbedre barns vekst og velvære. Hvis de er utformet godt, for eksempel, har AI-baserte læringsverktøy vist seg å gjøre det forbedre barns kritiske tenkning og problemløsningsferdigheter , og de kan være nyttige for barn med lærevansker. Emosjonelle AI-assistenter, selv om de er relativt begynnende, kan gi mental helsestøtte og har vist seg å forbedre de sosiale ferdighetene til autistiske barn. Ansiktsgjenkjenning, brukt med forsiktige begrensninger, kan bidra til å identifisere barn som har blitt kidnappet eller handlet.
Barn bør også læres om AI og oppmuntres til å delta i utviklingen. Det handler ikke bare om å beskytte dem, sier Vosloo. Det handler om å styrke dem og gi dem byrået til å forme fremtiden deres.
Når vi snakker om vanskeligstilte grupper, så er selvfølgelig barn de mest vanskeligstilte.
Yi Zeng
Unicef er ikke den eneste som tenker på problemet. Dagen før disse utkastene til retningslinjene kom ut, slapp Beijing Academy of Artificial Intelligence (BAAI), en organisasjon støttet av det kinesiske departementet for vitenskap og teknologi og Beijing kommunestyre, ut. et sett med AI-prinsipper for barn også.
Kunngjøringen følger et år etter at BAAI ble utgitt Beijing AI-prinsippene , forstått å være retningsgivende verdier for Kinas nasjonale AI-utvikling. De nye prinsippene som er skissert spesifikt for barn er ment å være en konkret implementering av de mer generelle, sier Yi Zeng, direktøren for AI Ethics and Sustainable Development Research Center ved BAAI som ledet utkastet deres. De er tett på linje med Unicefs retningslinjer, og berører også personvern, rettferdighet, forklarbarhet og barns velvære, selv om noen av detaljene er mer spesifikke for Kinas bekymringer. En retningslinje for å forbedre barns fysiske helse inkluderer for eksempel bruk av AI for å hjelpe til med å takle miljøforurensning.
Selv om de to innsatsene ikke er formelt relatert, er timingen heller ikke tilfeldig. Etter en flom av AI-prinsipper de siste årene, sier begge hovedforfatterne å lage mer skreddersydde retningslinjer for barn var et logisk neste skritt. Når vi snakker om vanskeligstilte grupper, er selvfølgelig barn de mest vanskeligstilte, sier Zeng. Dette er grunnen til at vi virkelig trenger [å gi] spesiell omsorg til denne gruppen mennesker. Teamene konfererte med hverandre mens de utarbeidet sine respektive dokumenter. Da Unicef holdt en konsultasjonsworkshop i Øst-Asia, deltok Zeng som foredragsholder.
Unicef planlegger nå å kjøre en serie pilotprogrammer med ulike partnerland for å observere hvor praktiske og effektive deres retningslinjer er i ulike sammenhenger. BAAI har dannet en arbeidsgruppe med representanter fra noen av de største selskapene som driver landets nasjonale AI-strategi, inkludert utdanningsteknologiselskapet TAL, forbrukerelektronikkselskapet Xiaomi, datasynsselskapet Megvii og internettgiganten Baidu. Håpet er å få dem til å begynne å følge prinsippene i produktene sine og påvirke andre selskaper og organisasjoner til å gjøre det samme.
Både Vosloo og Zeng håper at ved å artikulere de unike bekymringene AI utgjør for barn, vil retningslinjene øke bevisstheten om disse problemene. Vi kommer inn i dette med vidåpne øyne, sier Vosloo. Vi forstår at dette er et slags nytt territorium for mange myndigheter og selskaper. Så hvis vi over tid ser flere eksempler på at barn blir inkludert i AI- eller policyutviklingssyklusen, mer bryr seg om hvordan dataene deres samles inn og analyseres – hvis vi ser at AI blir gjort mer forklarlig for barn eller for deres omsorgspersoner – vil det være en seier for oss.