211service.com
Harvard-forskere ønsker å undervise kongressen om AI
Bilde av Harvard Square Chensiyuan/Wikimedia commons
Da Facebook-sjef Mark Zuckerberg vitnet foran den amerikanske kongressen, skjønte teknologieksperter raskt hvor dårlig informert spørsmålsstillerne hans var. Så mye som kongressen ønsket å regulere teknologien, var det tydelig at de ikke hadde noen anelse om hvordan. I stedet lot de ham slippe unna med grandiose påstander om hvordan AI ville løse alle selskapets problemer.
For Dipayan Ghosh, en stipendiat ved Harvard Kennedy School (HKS), understreket høringen det presserende behovet for å bringe amerikanske beslutningstakere oppdatert på store teknologispørsmål – og AI spesielt.
AI er en enorm teknologi, men det er virkelig fremtredende problemer som vi har sett ta sitt eget liv i samfunnet, sier Ghosh, som var teknologipolitisk rådgiver i Obama-administrasjonen. Vi må informere folk i maktposisjoner om hvordan disse systemene faktisk fungerer, så neste gang de starter en reguleringsinnsats, vil de ikke være dårlig informert.
Ghosh er medregissør for en nytt AI-politisk initiativ , lansert i dag, med Tom Wheeler, seniorforsker ved HKS og styreleder for US Federal Communications Commission under Obama.
Finansiert av HKSs Shorenstein-senter for medier, politikk og offentlig politikk, vil initiativet fokusere på å utvide det juridiske og akademiske stipendet rundt AI-etikk og regulering. Det vil også være vertskap for en oppstartsleir for amerikanske kongressmedlemmer for å hjelpe dem å lære mer om teknologien. Håpet er at med denne kombinerte innsatsen vil Kongressen og andre beslutningstakere være bedre rustet til å effektivt regulere og beskytte den økende effekten av AI på samfunnet.
I løpet av det siste året har en rekke høyprofilerte teknologiskandaler tydeliggjort konsekvensene av dårlig implementert AI. Dette inkluderer bruk av maskinlæring for å spre desinformasjon gjennom sosiale medier og automatisering av partiske og diskriminerende praksiser gjennom ansiktsgjenkjenning og andre automatiserte systemer.
I oktober, på det årlige AI Now Symposium, understreket teknologer, menneskerettighetsaktivister og juridiske eksperter gjentatte ganger behovet for systemer for å holde AI ansvarlig.
Regjeringen har den lange utsikten, sa Sherrilyn Ifill, president og direktør for NAACP Legal Defense Fund. De har på mange måter ansvaret for å formidle historien til selskapene og andre selskaper som utvikler disse teknologiene.
Men regjeringen mangler kunnskap til å bære dette ansvaret, sier Ghosh. Hvis du spør et medlem av kongressen om AI er en del av desinformasjonsproblemet, kan de si 'Jeg tror ikke det' eller 'Jeg vet ikke,' sier han.
Som en del av initiativet ba Ghosh og Wheeler omtrent 30 ledende eksperter innen informatikk, filosofi, økonomi og andre felt om å veie inn spørsmål som diskriminering, rettferdighet, åpenhet og ansvarlighet.
Disse perspektivene vil bli publisert i løpet av de følgende månedene, som begynner med tre denne uken: Catherine Tucker, professor ved MIT Sloan School of Management, om den økonomiske konteksten til algoritmisk skjevhet; M.C. Elish og Danah Boyd, henholdsvis forskningsleder og grunnlegger av Data & Society Research Institute, om etikken for når og hvordan man bruker AI-systemer uten å forverre eksisterende urettferdighet; og Joseph Turow, professor ved Annenberg School for Communication, om de diskriminerende konsekvensene av hyperpersonlig markedsføring.
Initiativet vil være vertskap for en oppstartsleir i Washington, DC, neste februar for medlemmer av Kongressen og deres teknologipolitiske ansatte for å hjelpe til med å oversette artiklene til produktive politiske diskusjoner. Leiren vil utforske hva det betyr å designe AI etisk og hvilke regulatoriske tiltak som kan tas for å redusere skaden og fremme fordelene.
Ghosh erkjenner at det nåværende politiske klimaet gjør det vanskelig å samkjøre begge parter mot ethvert mål, men han håper de vil finne felles grunnlag om hvor presserende saken er.