211service.com
Hvorfor AI-forskere bør revurdere protesterende involvering i militære prosjekter
Jeremy havn
Teknologiindustriarbeidere som protesterte mot kontrakter med militæret bør revurdere sin posisjon, ifølge en rådgiver for forsvarsdepartementet.
Brendan McCord – en AI-ekspert som var involvert i Project Maven, DoDs program for å akselerere kunstig intelligens og maskinlæring for militær bruk – sa at konstruktivt engasjement med de væpnede styrkene var nødvendig for å unngå dårlige beslutninger.
I juni, Google sa det ville ikke lenger fungere med Project Maven etter mer enn 4000 ansatte signerte et brev som anklaget selskapet for å drive krigsvirksomhet.
Men når han snakket på EmTech Digital, MIT Technology Reviews AI-konferanse, sa McCord at det ville være bedre for samfunnet som helhet å se slike samarbeid fortsette, og for de uenige ansatte som er involvert i AI-prosjekter å revurdere holdningen sin.
De fleste her i dag vil være enige om at militære og deres rolle i avskrekking, krenkelser og forsvar er en del av verden, og de vil være det i overskuelig fremtid, sa han. En strategi med konstruktivt engasjement versus en med å velge bort er en langt mer optimal strategi.
Å jobbe med AI for forsvar gjør deg ikke mindre prinsipiell, la han til.
Den hemmelighetsfulle naturen til Project Maven, som ble sagt å være fokusert på å forbedre analyser av opptak fanget av militære droner, hadde skapt bekymring hos en bred gruppe AI-forskere. Men de amerikanske væpnede styrkene er fortsatt en mektig styrke for å fremme fred og stabilitet i verden, sa McCord, og reflekterer argumentene om at AI-forskere som avviser militæret på prinsippet, faktisk gir fordelen til de med mindre strenge etiske standarder, inkludert andre nasjoner.
Mens McCord sa at han ikke ville forvente at antikrigspasifister skulle ombestemme seg, ba han forskere vurdere hva som ville skje hvis andre land gjorde sine egne fremskritt på fremvoksende felt. En mer positiv holdning til militæret var spesielt viktig, la han til, siden regjeringer nå spiller en mindre rolle i utviklingen av nye teknologiske funn enn de en gang gjorde.
På slutten av den kalde krigen flyttet innovasjonsstedet til privat sektor, sa han. Verden har forandret seg. Kapasiteten for regjeringen, og rollen til regjeringen, har blitt redusert til et punkt hvor den aldri har vært så lav etter mitt syn. Nettoeffekten er at store teknologiselskaper har tatt på seg kappen – enten de ville eller ikke – å være dommerne. De er ofte selvregulerende.
Mange store teknologiske utviklinger, inkludert internett, GPS og virtuelle assistenter, har kommet som et resultat av investeringer fra forsvarsdepartementet. Men siden slutten av den kalde krigen har DoDs forsknings- og utviklingsutgifter sunket. På midten av 1980-tallet var offentlige og private FoU-budsjetter omtrent like - rundt 55 milliarder dollar årlig. Siden den gang har regjeringen doblet investeringene sine, mens private selskaper, inkludert Google, Microsoft, Facebook og Amazon, har dramatisk økt private budsjetter til mer enn 350 milliarder dollar hvert år.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (årsserie)
Men selv om store teknologiselskaper kanskje ikke er transparente om arbeidet sitt, har regjeringen fått kritikk av sine egne. Det ble rapportert tidligere denne uken av Intercept at Pentagon har avvist forespørsler om frihet til informasjon om data om Project Maven , og hevder at dokumentene deres er unntatt offentlig gransking.
McCord beholder en rådgivende rolle i forsvarsdepartementet, men han forlot nylig heltidsjobben der for å bli med i privat sektor. Han har nå en ledende stilling i Tulco Labs, et nytt selskap med fokus på innovasjon på jobben grunnlagt av underholdningsmilliardæren Thomas Tull.
Han avsluttet med å si at det er viktig for industriansatte å hjelpe til med å holde arbeidsgiverne i sjakk, siterer biologen og teoretikeren E.O. Wilson.
Det virkelige problemet med menneskeheten, sa han, er at vi har paleolittiske følelser, middelalderske institusjoner og gudelignende teknologi.