AI-våpenkontroll er kanskje ikke mulig, advarer Henry Kissinger

Kategori: Kunstig intelligens Lagt ut 01 mars

Henry Kissinger, tidligere amerikansk utenriksminister og en kontroversiell gigant innen amerikansk utenrikspolitikk, mener det kan være mye vanskeligere å kontrollere utviklingen av AI-våpen enn atomvåpen.

Advarselsskudd: Kissinger talte på et arrangement ved MIT i går og advarte om at nye utviklinger innen AI vil medføre alle slags farer. Spesielt bekymrer han seg for at AI-våpnene kan være vanskeligere å kontrollere enn atomvåpen fordi utviklingen av teknologien vil skje i det skjulte: Med AI er den andre sidens uvitenhet et av dine beste våpen – deling vil være mye vanskeligere.

Fredsbevegelse: Han er ikke den eneste som er bekymret for et AI-våpenkappløp. Et betydelig antall akademikere, industriforskere og teknologiske aktører har støttet en kampanje for å forby bruk av autonome våpen .

Våpenhandel: Problemstillingen er imidlertid utfordrende. Som sikkerhetsforsker Paul Scharre skriver i en fersk bok, Army of None , autonomi har sneket seg inn i våpensystemer i flere tiår. Det er ikke alltid lett å trekke en linje rundt autonome systemer, og teknologien er forlokkende fordi den kan brukes til å gjøre våpen mer pålitelig.

Dumme ned: Kissinger har vært noe av en AI-nei i det siste. Etter å ha lært om AlphaGo, skrev han en artikkel i Atlanterhavet og advarte om at teknologien kan endre naturen til menneskelig kunnskap og oppdagelser på måter som til slutt skader menneskeheten ( Hvordan opplysningen ender ).

Ved å mestre visse kompetanser raskere og mer definitivt enn mennesker, kan [AI] over tid redusere menneskelig kompetanse og den menneskelige tilstanden i seg selv når den gjør den til data, skrev Kissinger. Filosofisk, intellektuelt – på alle måter – er menneskesamfunnet uforberedt på fremveksten av kunstig intelligens.