Forsvarsdepartementet utsteder AI-etiske retningslinjer for tekniske kontraktører

Ms Tech | Getty

I 2018, da Google-ansatte fant ut om selskapets engasjement i Prosjekt Maven , en kontroversiell amerikansk militær innsats for å utvikle AI for å analysere overvåkingsvideo, var de ikke fornøyde. Tusenvis protesterte. Vi mener at Google ikke bør være i krigsbransjen, skrev de i en brev til selskapets ledelse . Rundt et dusin ansatte sa opp. Google fornyet ikke kontrakten i 2019.

Project Maven eksisterer fortsatt, og andre teknologiselskaper, inkludert Amazon og Microsoft, har siden overtatt Googles plass. Likevel vet det amerikanske forsvarsdepartementet at det har et tillitsproblem. Det er noe den må takle for å opprettholde tilgang til den nyeste teknologien, spesielt AI – som vil kreve samarbeid med Big Tech og andre ikke-militære organisasjoner.

Relatert historie

Amerikanske offentlige etater planlegger å øke bruken av ansiktsgjenkjenningsteknologi

En ny undersøkelse viser at de kontroversielle systemene er klar til å spille en enda større rolle i føderal virksomhet.

I et forsøk på å fremme åpenhet har Defence Innovation Unit, som tildeler DoD-kontrakter til selskaper, gitt ut det den kaller retningslinjer for ansvarlig kunstig intelligens som det vil kreve at tredjepartsutviklere bruker når de bygger AI for militæret, enten den AI er for et HR-system eller målgjenkjenning.

Retningslinjene gir en trinn-for-trinn-prosess for bedrifter å følge under planlegging, utvikling og distribusjon. De inkluderer prosedyrer for å identifisere hvem som kan bruke teknologien, hvem som kan bli skadet av den, hva disse skadene kan være, og hvordan de kan unngås – både før systemet bygges og når det er oppe og går.

Det er ingen andre retningslinjer som eksisterer, verken innen DoD eller, ærlig talt, USAs regjering, som går inn på dette detaljnivået, sier Bryce Goodman ved Defense Innovation Unit, som var medforfatter av retningslinjene.

Arbeidet kan endre hvordan AI utvikles av den amerikanske regjeringen, hvis DoDs retningslinjer blir vedtatt eller tilpasset av andre avdelinger. Goodman sier at han og kollegene hans har gitt dem til NOAA og Department of Transportation og snakker med etiske grupper innen Justisdepartementet, General Services Administration og IRS.

Hensikten med retningslinjene er å sørge for at tekniske entreprenører holder seg til DoDs eksisterende etiske prinsipper for AI , sier Goodman. DoD kunngjorde disse prinsippene i fjor, etter en toårig studie bestilt av Defense Innovation Board, et rådgivende panel av ledende teknologiforskere og forretningsfolk som ble opprettet i 2016 for å bringe gnisten fra Silicon Valley til det amerikanske militæret. Styret ble ledet av tidligere Google-sjef Eric Schmidt frem til september 2020, og dets nåværende medlemmer inkluderer Daniela Rus, direktøren for MITs Computer Science and Artificial Intelligence Lab.

Likevel stiller noen kritikere spørsmål om verket lover noen meningsfull reform.

Under studien konsulterte styret en rekke eksperter, inkludert vokale kritikere av militærets bruk av AI, som medlemmer av Campaign for Killer Robots og Meredith Whittaker, en tidligere Google-forsker som hjalp til med å organisere Project Maven-protestene.

Whittaker, som nå er fakultetsdirektør ved New York Universitys AI Now Institute, var ikke tilgjengelig for kommentar. Men ifølge Courtney Holsworth, en talsperson for instituttet, deltok hun på ett møte, der hun kranglet med seniormedlemmer av styret, inkludert Schmidt, om retningen det tok. Hun ble aldri meningsfullt konsultert, sier Holsworth. Å hevde at hun var det kan leses som en form for etikk-vasking, der tilstedeværelsen av avvikende stemmer i løpet av en liten del av en lang prosess brukes til å hevde at et gitt utfall har bred støtte fra relevante interessenter.

Hvis DoD ikke har bred buy-in, kan retningslinjene fortsatt bidra til å bygge tillit? Det kommer til å være mennesker som aldri vil være fornøyd med et sett med etiske retningslinjer som DoD produserer fordi de finner ideen paradoksal, sier Goodman. Det er viktig å være realistisk med hensyn til hva retningslinjer kan og ikke kan gjøre.

Retningslinjene sier for eksempel ingenting om bruken av dødelige autonome våpen, en teknologi som noen forkjempere hevder bør forbys. Men Goodman påpeker at forskrifter som regulerer slik teknologi bestemmes høyere opp i kjeden. Målet med retningslinjene er å gjøre det enklere å bygge AI som oppfyller disse forskriftene. Og en del av den prosessen er å gjøre eksplisitt eventuelle bekymringer som tredjepartsutviklere har. En gyldig anvendelse av disse retningslinjene er å bestemme seg for ikke å følge et bestemt system, sier Jared Dunnmon ved DIU, som var medforfatter av dem. Du kan bestemme at det ikke er en god idé.

Relatert historie

Hvorfor AI-forskere bør revurdere protesterende involvering i militære prosjekter En rådgiver i forsvarsdepartementet antyder at konstruktivt engasjement vil være mer vellykket enn å velge bort.

Margaret Mitchell, en AI-forsker ved Klemende ansikt , som medleder Googles Ethical AI-team med Timnit Gebru før begge var tvunget ut av selskapet , er enig i at etiske retningslinjer kan bidra til å gjøre et prosjekt mer oversiktlig for de som jobber med det, i hvert fall i teorien. Mitchell hadde et sete på første rad under protestene mot Google. En av de viktigste kritikkene ansatte hadde var at selskapet overlot kraftig teknologi til militæret uten rekkverk, sier hun: Folk endte opp med å forlate spesielt på grunn av mangelen på noen form for klare retningslinjer eller åpenhet.

For Mitchell er problemene ikke klare. Jeg tror noen personer i Google definitivt følte at alt arbeid med militæret er dårlig, sier hun. Jeg er ikke en av de menneskene. Hun har snakket med DoD om hvordan den kan samarbeide med selskaper på en måte som opprettholder deres etiske prinsipper.

Hun tror det er et stykke igjen før DoD får den tilliten den trenger. Et problem er at noen av ordlydene i retningslinjene er åpne for tolkning. For eksempel sier de: Avdelingen vil ta bevisste skritt for å minimere utilsiktet skjevhet i AI-evner. Hva med tiltenkt skjevhet? Det kan virke som tull, men forskjeller i tolkning avhenger av denne typen detaljer.

Det er vanskelig å overvåke bruken av militær teknologi fordi det vanligvis krever sikkerhetsklarering. For å løse dette vil Mitchell gjerne se at DoD-kontrakter sørger for uavhengige revisorer med nødvendig godkjenning, som kan forsikre selskaper om at retningslinjene virkelig blir fulgt. De ansatte trenger en viss garanti for at retningslinjer blir tolket slik de forventer, sier hun.

gjemme seg