211service.com
I 2020, la oss stoppe AI-vaskingen og faktisk gjøre noe
AI etiske valg Getty
I fjor, akkurat da jeg begynte å dekke kunstig intelligens, fikk AI-verdenen en stor vekker. Det var noen utrolige fremskritt innen AI-forskning i 2018 – fra forsterkende læring til generative kontradiktoriske nettverk (GAN) til bedre naturlig språkforståelse. Men året så også flere høyprofilerte illustrasjoner av skaden disse systemene kan forårsake når de utplasseres for raskt.
En Tesla krasjet på autopilot , drepe sjåføren, og en selvkjørende Uber krasjet , drepe en fotgjenger. Kommersielle ansiktsgjenkjenningssystemer presterte forferdelig i revisjoner på mørkhudede mennesker , men teknologigigantene fortsatte å selge dem uansett, til kunder inkludert rettshåndhevelse. I begynnelsen av dette året, etter å ha reflektert over disse hendelsene, skrev jeg en resolusjon for AI-fellesskapet: Slutt å behandle AI som magi, og ta ansvar for å skape, anvende og regulere det etisk.
På noen måter gikk ønsket mitt i oppfyllelse. I 2019 var det mer snakk om AI-etikk enn noen gang før. Dusinvis av organisasjoner produserte AI-etiske retningslinjer; selskaper skyndte seg å etablere ansvarlige AI-team og paradere dem foran media. Det er vanskelig å delta på en AI-relatert konferanse lenger uten at en del av programmeringen er dedikert til et etikkrelatert budskap: Hvordan beskytter vi folks personvern når AI trenger så mye data? Hvordan styrker vi marginaliserte samfunn i stedet for å utnytte dem? Hvordan fortsetter vi å stole på media i møte med algoritmisk opprettet og distribuert desinformasjon?
Men snakk er nettopp det - det er ikke nok. Til tross for all leppetjenesten som er blitt gitt til disse problemene, forblir mange organisasjoners AI-etiske retningslinjer vage og vanskelige å implementere. Få selskaper kan vise konkrete endringer i måten AI-produkter og -tjenester blir evaluert og godkjent. Vi faller i en felle av etikk-vasking, der ekte handling blir erstattet av overfladiske løfter. I det mest akutte eksempelet dannet Google et nominelt AI-etikkstyre uten faktisk vetorett over tvilsomme prosjekter, og med et par medlemmer hvis inkludering provoserte kontrovers. Et tilbakeslag førte umiddelbart til oppløsningen.
I mellomtiden har behovet for større etisk ansvar bare blitt mer presserende. De samme fremskrittene som ble gjort i GAN-er i 2018 har ført til spredning av hyperrealistiske dypforfalskninger, som nå brukes til å målrette kvinner og erodere folks tro på dokumentasjon og bevis. Nye funn har kastet lys over den enorme klimapåvirkningen av dyp læring, men organisasjoner har fortsatt å trene opp stadig større og mer energislukende modeller. Forskere og journalister har også avslørt hvor mange mennesker er bak den algoritmiske gardinen. AI-industrien skaper en helt ny klasse av skjulte arbeidere – innholdsmoderatorer, datamerkere, transkriberere – som sliter unna under ofte brutale forhold.
Men ikke alt er mørkt og dystert: 2019 var året for største grasrottilbakeslag mot skadelig kunstig intelligens fra samfunnsgrupper, beslutningstakere og teknologiansatte selv. Flere byer - inkludert San Francisco og Oakland, California og Somerville, Massachusetts - forbød offentlig bruk av ansiktsgjenkjenning, og foreslått føderal lovgivning kan snart utestenge det fra amerikanske offentlige boliger også. Ansatte i teknologigiganter som Microsoft, Google og Salesforce ble også stadig mer uttalte mot selskapenes bruk av AI for å spore migranter og for droneovervåking.
Innenfor AI-fellesskapet doblet forskere også med å redusere AI-bias og undersøkte på nytt insentivene som fører til feltets løpende energiforbruk. Selskaper investerte flere ressurser i å beskytte brukernes personvern og bekjempe dype forfalskninger og desinformasjon. Eksperter og beslutningstakere jobbet sammen for å foreslå gjennomtenkt ny lovgivning ment å tøyle utilsiktede konsekvenser uten å dempe innovasjon. På den største årlige samlingen i feltet i år ble jeg både rørt og overrasket over hvor mange av keynotene, workshopene og plakatene som fokuserte på problemer i den virkelige verden – både de som ble skapt av AI og de den kunne bidra til å løse.
Så her er mitt håp for 2020: at industri og akademia opprettholder dette momentumet og gjør konkrete nedenfra-og-opp-og ovenfra-ned-endringer som justerer AI-utviklingen. Mens vi fortsatt har tid, bør vi ikke miste synet av drømmen som animerer feltet. For flere tiår siden begynte mennesker søken etter å bygge intelligente maskiner slik at de en dag kunne hjelpe oss med å løse noen av våre tøffeste utfordringer.
AI, med andre ord, er ment å hjelpe menneskeheten til å blomstre. La oss ikke glemme.
For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.