211service.com
Ikke vær AI-vil: Google sier at algoritmene deres ikke vil skade
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (The Noun Project)
Google har laget en etikkkode for kunstig intelligens som forbyr utvikling av autonome våpen. Men prinsippene gir tilstrekkelig slingringsmonn til at Google kan dra nytte av lukrative forsvarsavtaler.
Kunngjøringen kommer i kjølvannet av betydelig intern protest over bruken av Googles AI-teknologi av et initiativ fra forsvarsdepartementet kalt Algorithmic Warfare Cross-Functional Team. Målet med denne satsingen, kjent internt som Prosjekt Maven , er å forbedre nøyaktigheten av droneangrep, blant annet.
Forrige måned sluttet et dusin Google-arbeidere på grunn av skandalen, og mange flere signerte et åpent protestbrev.
Oppstyret fanger opp frykten mange har om hvordan teknologi kan bidra til å automatisere krigføring i fremtiden. Situasjonen er imidlertid ikke enkel.
Kunstig intelligens kan bidra til å gjøre enkelte våpensystemer sikrere og mindre utsatt for feil. Det er også mange verdslige anvendelser av AI på tvers av forsvarsindustrien. Google ønsker ikke å avvise dette enorme potensielle markedet for sin sky AI-teknologi.
Googles administrerende direktør, Sundar Pichai, kunngjorde den nye koden i et blogginnlegg i dag. Den foreslår syv prinsipper for å veilede Googles bruk av AI, og sier at det bør være til nytte for samfunnet; unngå algoritmisk skjevhet; respekter personvernet; bli testet for sikkerhet; være ansvarlig overfor offentligheten; opprettholde vitenskapelig strenghet; og gjøres tilgjengelig for andre i samsvar med de samme prinsippene.
Men Pichai tok også tid på å si at Google ikke ville tillate at AI-teknologien deres ble brukt til å utvikle noe som kan forårsake skade, inkludert våpen eller andre teknologier hvis hovedformål eller implementering er å forårsake eller direkte lette skade på mennesker.
Pichai sa at Google også ville unngå å utvikle overvåkingsteknologi som bryter med internasjonalt aksepterte normer for menneskerettigheter, eller teknologi som bryter med internasjonale lover.
Kunstig intelligens utvikler seg raskt, og Google har støtt på andre problemer som involverer AI-prosjekter. Et av datasynsystemene deres, for eksempel, feilidentifiserte gjentatte ganger mennesker med afrikansk arv som gorillaer. Selskapet forlot Don't be evil-mottoet i april, men det beholder en idealistisk kultur.
Militær bruk av kunstig intelligens kan bli stadig mer omstridt ettersom teknologien tas i bruk på nye måter og selskaper søker å selge sin sky-AI-teknologi så bredt som mulig.
Maskinlæring og kunstig intelligens vil uunngåelig bli viktigere for etterretnings- og forsvarsarbeid. Andre amerikanske teknologiselskaper, inkludert Amazon og Microsoft, har budt på et multimilliard-dollar cloud computing-prosjekt med Pentagon.