211service.com
Hvorfor AI-forskere ikke bør vende ryggen til militæret
Den amerikanske hæren
Mer enn 2400 AI-forskere signerte nylig en løfte lovet å ikke bygge såkalte autonome våpen – systemer som på egenhånd ville bestemme hvem de skulle drepe. Dette følger av Googles beslutning om ikke å fornye en kontrakt for å forsyne Pentagon med AI for analyse av droneopptak etter at selskapet kom under press fra mange ansatte som var imot arbeidet med et prosjekt kjent som Maven.
Paul Scharre, forfatteren av en ny bok, Army of None: Autonome våpen og krigens fremtid , mener at AI-forskere må gjøre mer enn å melde seg ut hvis de ønsker å få til endring.
Paul Scharre. Vinn McNamee/Getty Images
En Army Ranger i Irak og Afghanistan og nå seniorstipendiat ved Center for a New American Security, Scharre argumenterer for at AI-eksperter bør samarbeide med politikere og militære fagfolk for å forklare hvorfor forskere er bekymret og hjelpe dem å forstå begrensninger av AI-systemer.
Scharre snakket med MED Teknologigjennomgang seniorredaktør Will Knight om den beste måten å stoppe et potensielt farlig AI-våpenkappløp.
paulscharre.com
Hvor opptatt er det amerikanske militæret etter å utvikle AI-våpen?
Amerikanske forsvarsledere har gjentatte ganger oppgitt at deres intensjon er å holde et menneske i sløyfen og ansvarlig for dødelige beslutninger. Nå er forbeholdet at de også har erkjent at hvis andre land bygger autonome våpen, kan de bli tvunget til å følge etter. Og det er den reelle risikoen - at hvis ett land krysser denne grensen, kan andre føle at de må svare i natura bare for å forbli konkurransedyktige.
Men kan disse løftene virkelig stole på?
Jeg tror høytstående amerikanske forsvarstjenestemenn er oppriktige i at de vil at mennesker skal forbli ansvarlige for bruken av dødelig makt. Militære fagfolk vil absolutt ikke at våpnene deres går amok. Når det er sagt, er det fortsatt et åpent spørsmål hvordan man kan oversette et bredt konsept som menneskelig ansvar over dødelig makt til spesifikke tekniske veiledninger om hva slags våpen som er tillatt. Definisjonen av hva som utgjør et autonomt våpen er allerede omstridt, så det kan være ulike syn på hvordan disse prinsippene skal omsettes i praksis.
Hvorfor må teknologer involveres?
AI-forskere må være en del av disse samtalene, siden deres tekniske ekspertise er avgjørende for å utforme politiske valg. Vi må ta hensyn til AI-bias, åpenhet, forklarbarhet, sikkerhet og andre bekymringer. AI-teknologi har disse to funksjonene i dag – den er kraftig, men har også mange sårbarheter, omtrent som datamaskiner og cyberrisiko. Dessverre ser det ut til at regjeringer har fått den første delen av den meldingen (AI er kraftig), men ikke den andre (den kommer med risiko). AI-forskere kan hjelpe regjeringer og militære bedre å forstå hvorfor de er så bekymret for konsekvensene av å bruke denne teknologien til våpen. For å gjøre dette på en effektiv måte, må AI-forskere være en del av en konstruktiv dialog.
Hva mener du om det nylige løftet mot autonome våpen, organisert av Future of Life Institute?
Det er ikke den første oppfordringen til handling fra AI-forskere; den bygger på tidligere åpne brev om autonome våpen i 2015 og 2017 . Men disse bokstavene er en symbolsk gest og har sannsynligvis avtagende avkastning i sin effektivitet. Land har også diskutert autonome våpen i FN siden 2014, og presset fra AI-forskere gir en viktig dimensjon til samtalen, men har ennå ikke fått store militærmakter til å støtte et omfattende forbud. Det ville være mer virkningsfullt å ha flere AI-forskere til å delta på FN-møtene og hjelpe beslutningstakere å forstå hvorfor AI-forskere er så bekymret.
Hva med Googles beslutning om ikke å fornye kontrakten med Pentagon?
Det var litt overraskende fordi Maven faktisk ikke involverte autonome våpen eller målretting og så ut til å være i samsvar med Googles nylig utgitte AI-prinsipper . Men konkurransen om topp AI-talenter er hard, og jeg mistenker at Google ikke kunne risikere at noen av sine beste ingeniører trekker seg i protest.
Tror du slike gester vil bidra til å bremse utviklingen av autonome våpen?
Når det gjelder Maven, var ikke Google involvert i å bygge selv menneskekontrollerte våpen, langt mindre autonome våpen, så det er ingen direkte forbindelse der. Pantbrevet er selvsagt direkte rettet mot autonome våpen. Men jeg tror ikke at noen av dem sannsynligvis vil ha en stor effekt på hvordan militære inkorporerer AI og autonomi i våpnene sine, siden våpen sannsynligvis vil bli bygget av forsvarsentreprenører. Hvis store teknologiselskaper som Google velger bort å jobbe med militære, kan det bremse inkorporeringen av AI-teknologi i viktige støttefunksjoner som dataanalyse, som Maven gjorde. Men etter hvert vil andre selskaper gå inn for å fylle gapet. Allerede, vi har sett annen selskaper si ganske offentlig at de vil jobbe med militæret.
Kan denne innsatsen også ha utilsiktede konsekvenser?
Å male ut mange legitime bruksområder av kunstig intelligens som uakseptable kan ytterligere drive en kile mellom det tekniske og politiske miljøet og gjøre fornuftig diskurs vanskeligere. Ingeniører bør absolutt avstå fra å jobbe med prosjekter de ikke kan støtte, men når de personlige motivasjonene skifter til å presse andre fra å jobbe med viktige og legitime nasjonale sikkerhetsapplikasjoner, skader de offentlig sikkerhet og krenker andre ingeniørers rettigheter til å forfølge sin egen samvittighet. Demokratiske land vil måtte bruke AI-teknologi for en rekke viktige og lovlige nasjonal sikkerhet formål – etterretning, terrorbekjempelse, grensesikkerhet, cybersikkerhet og forsvar.
Er USA allerede i et våpenkappløp med kunstig intelligens med Kina?
Kina har offentlig erklært sin intensjon om å bli global leder innen kunstig intelligens innen 2030 og øker sin forskning og rekrutterer topptalenter fra hele verden. Kinas modell for militær-sivil fusjon betyr også at AI-forskning lett vil strømme fra teknologibedrifter til militæret uten den typen barrierer som noen Google-ansatte har som mål å bygge opp i USA. Kina har allerede begynt å legge grunnlaget for en AI-bemyndiget teknoovervåkingsstat.
Hvis AI-forskernes taktikk bare lykkes med å bremse bruken av AI-verktøy i åpne, demokratiske samfunn som verdsetter etisk atferd, kan deres arbeid bidra til å innlede en fremtid der den mektigste teknologien er i hendene på regimer som bryr seg minst om etikk og rettssikkerheten.
I boken din påpeker du at det kan være vanskelig å definere autonomi. Vil ikke dette komplisere diskusjonen om militær bruk av AI?
Forfatterne av det nylige løftet mot autonome våpen protesterer mot autonome våpen som vil drepe en person, men erkjenner at noen typer autonome systemer vil være nødvendig for å forsvare seg mot andre slike våpen. Det er det grå området der autonomi kan være nødvendig for å forsvare seg mot våpen og en person fortsatt er om bord, som når man målretter et jagerfly eller ubåt, der den virkelige utfordringen ligger. Å balansere konkurrerende mål er ikke enkelt, og beslutningstakere vil stå overfor reelle valg når de tar i bruk denne teknologien.
AI-ingeniører vil være mest effektive når det gjelder å forme disse valgene hvis de deltar i en konstruktiv, kontinuerlig dialog med beslutningstakere, i stedet for å velge bort. AI-forskere som bryr seg om hvordan teknologien brukes, vil bli mer effektive hvis de går utover pressekampanjer og begynner å hjelpe til med å utdanne politikere om AI-teknologi i dag og dens begrensninger.