211service.com
Fem måter å gjøre AI til en større kraft for godt i 2021
En ballong er bundet til en metallvekt. En saks klipper snoren som fester den på plass. Getty
For et år siden var ingen desto klokere på hva 2020 ville bringe, jeg reflektert på det sentrale øyeblikket som AI-fellesskapet var i. Året før, 2018, hadde man sett en rekke høyprofilerte automatiserte feil, som f.eks. selvkjørende bilulykker og diskriminerende rekrutteringsverktøy . I 2019 svarte feltet med mer snakk om AI-etikk enn noen gang før. Men prat, sa jeg, var ikke nok. Vi måtte ta konkrete handlinger. To måneder senere stengte koronaviruset verden.
I vår nye sosialt distanserte virkelighet med fjerntliggende alt, ble disse samtalene om algoritmiske skader plutselig oppløst. Systemer som hadde vært i utkanten, som HireVues ansiktsskanningsalgoritmer og verktøy for overvåking av arbeidsplassen , gikk mainstream. Andre liker verktøy for å overvåke og evaluere studenter , snurret opp i sanntid. I august, etter en spektakulær fiasko av den britiske regjeringen for å erstatte personlige eksamener med en algoritme for universitetsopptak, samlet hundrevis av studenter seg i London for å synge, Fuck the algoritme. Dette blir kampropet i 2020, twitret AI ansvarlighetsforsker Deb Raji, da en demonstrant fra Stanford ropte det igjen som svar på en annen debakel noen måneder senere.
Samtidig var det virkelig mer action. I en stor seier forbød eller suspenderte Amazon, Microsoft og IBM deres salg av ansiktsgjenkjenning til rettshåndhevelse, etter at drapet på George Floyd ansporet til globale protester mot politibrutalitet. Det var kulminasjonen av to år med kamp av forskere og borgerrettighetsaktivister for å demonstrere de ineffektive og diskriminerende effektene av selskapenes teknologier. En annen endring var liten, men likevel bemerkelsesverdig: For første gang noensinne krevde NeurIPS, en av de mest fremtredende AI-forskningskonferansene, at forskere sende inn en etikkerklæring med papirene deres.
Så her er vi ved starten av 2021, med mer offentlig og regulatorisk oppmerksomhet på AIs innflytelse enn noen gang før. Mitt nyttårsforsett: La oss få det til å telle. Her er fem forhåpninger jeg har for AI i det kommende året.
Redusere bedriftens innflytelse i forskning
Teknologigigantene har uforholdsmessig kontroll over retningen til AI-forskning. Dette har endret retningen på feltet som helhet mot stadig mer store data og store modeller, med flere konsekvenser. Det sprenger klimapåvirkningen av AI-fremskritt, utelukker ressursbegrensede laboratorier fra å delta i feltet, og fører til latere vitenskapelige undersøkelser ved å ignorere utvalget av andre mulige tilnærminger. Som Googles utsetting av Timnit Gebru avslørt , vil teknologigiganter lett begrense muligheten til å undersøke andre konsekvenser også.
Men mye av bedriftens innflytelse kommer ned til penger og mangel på alternativ finansiering. Som jeg skrev i fjor min profil til OpenAI , forsøkte laboratoriet i utgangspunktet kun å stole på uavhengige, velstående givere. Satsingen viste seg å være uholdbar, og fire år senere signerte OpenAI en investeringsavtale med Microsoft. Mitt håp er at vi vil se flere regjeringer gå inn i dette tomrommet for å tilby ikke-forsvarsrelaterte finansieringsmuligheter for forskere. Det vil ikke være en perfekt løsning, men det vil være en start. Regjeringer er avhengige av offentligheten, ikke bunnlinjen.
Fokuser på sunn fornuft forståelse
Den overveldende oppmerksomheten på større og dårligere modeller har overskygget et av de sentrale målene for AI-forskning: å lage intelligente maskiner som ikke bare samsvarer med mønster, men som faktisk forstår betydningen. Mens bedriftens innflytelse er en stor bidragsyter til denne trenden, er det også andre skyldige. Forskningskonferanser og fagfellevurderingspublikasjoner legger stor vekt på å oppnå toppmoderne resultater. Men toppmoderne er det ofte dårlig målt ved tester som kan slås med mer data og større modeller.
Relatert historie
Vi leste avisen som tvang Timnit Gebru ut av Google. Her er hva det står. Selskapets etikk-stjerneforsker fremhevet risikoen ved store språkmodeller, som er nøkkelen til Googles virksomhet.
Det er ikke slik at modeller i stor skala aldri kunne oppnå sunn fornuft. Det er fortsatt et åpent spørsmål. Men det er andre forskningsveier som fortjener større investeringer. Noen eksperter har satset på nevrosymbolsk AI , som kombinerer dyp læring med symbolske kunnskapssystemer. Andre eksperimenterer med mer sannsynlige teknikker som bruker langt mindre data, inspirert av et menneskebarns evne til å lære fra svært få eksempler.
I 2021 håper jeg at feltet vil justere sine insentiver for å prioritere forståelse fremfor prediksjon. Ikke bare kan dette føre til mer teknisk robuste systemer, men forbedringene vil også ha store sosiale implikasjoner. Tilbøyeligheten til dagens dyplæringssystemer for å bli lurt, undergraver for eksempel sikkerheten til selvkjørende biler og utgjør farlige muligheter for autonome våpen . Systemers manglende evne til å skille mellom korrelasjon og årsakssammenheng er også roten til algoritmisk diskriminering .
Styrke marginaliserte forskere
Hvis algoritmer kodifiserer verdiene og perspektivene til sine skapere, bør et bredt tverrsnitt av menneskeheten være til stede ved bordet når de utvikles. Jeg så ingen bedre bevis på dette enn i desember 2019, da jeg deltok på NeurIPS. Det året, med et rekordantall kvinner og minoritetsforedragsholdere og deltakere, kunne jeg føle tenoren i saksgangen håndgripelig skifte . Det var flere samtaler enn noen gang om AIs innflytelse på samfunnet.
På den tiden roste jeg samfunnet for fremgangen. Men Googles behandling av Gebru , en av de få fremtredende svarte kvinnene i industrien, viste hvor langt det fortsatt er å gå. Mangfold i antall er meningsløst hvis disse individene ikke er bemyndiget til å bringe sin levde erfaring inn i arbeidet sitt. Jeg er imidlertid optimistisk på at tidevannet er i endring. Flammepunktet preget av Gebrus avfyring ble til et kritisk øyeblikk for refleksjon for bransjen. Jeg håper dette momentumet fører til langvarig, systemisk endring.
Sentrer perspektivene til berørte lokalsamfunn
Det er også en annen gruppe å ta med til bordet. En av de mest spennende trendene fra i fjor var fremveksten av deltakende maskinlæring . Det er en provokasjon å gjenoppfinne prosessen med AI-utvikling for å inkludere de som til slutt blir underlagt algoritmene.
I juli ble første konferanseverksted dedikert til denne tilnærmingen samlet et bredt spekter av ideer om hvordan det kunne se ut. Forslagene inkluderte nye styringsprosedyrer for å be om tilbakemelding fra samfunnet; nye modellrevisjonsmetoder for å informere og engasjere publikum; og foreslåtte redesign av AI-systemer for å gi brukerne mer kontroll over innstillingene sine.
Mitt håp for 2021 er å se flere av disse ideene utforsket og tatt i bruk for alvor. Facebook er allerede i gang: Hvis det følger opp med å tillate det eksterne tilsynsstyret å gjøre bindende endringer i plattformens retningslinjer for innholdsmoderering, kan styringsstrukturen bli en tilbakemeldingsmekanisme som er verdig å etterligne.
Kodifiser rekkverk til forskrift
Så langt har grasrotinnsats ført til at bevegelsen har begrenset algoritmiske skader og holde teknologigigantene ansvarlige. Men det vil være opp til nasjonale og internasjonale regulatorer å sette opp flere permanente rekkverk. Den gode nyheten er at lovgivere over hele verden har fulgt med på og er i ferd med å utarbeide lovgivning. I USA har medlemmer av kongressen allerede introdusert regninger for å adressere ansiktsgjenkjenning, AI-bias og dype forfalskninger. Flere av dem også sendte et brev til Google i desember og ga uttrykk for sin intensjon om å fortsette å følge denne forskriften.
Så mitt siste håp for 2021 er at vi ser noen av disse regningene vedtas. Det er på tide at vi kodifiserer det vi har lært de siste årene, og går bort fra fiksjonen om selvregulering.