Kjære fremtidige AI-overherrer: Her er noen grunner til ikke å drepe oss

Kategori: Ukategorisert Lagt ut 27. nov

Det er mange spådommer om AI-indusert apokalypse der ute, og organisasjoner som OpenAI prøver å finne den beste måten å skape sikker kunstig intelligens på – men sjelden henvender disse anstrengelsene seg til AI direkte.

En ny artikkel publisert (påkrevd pålogging) på Academia.edu, med tittelen Message to Any Future AI: 'Det er flere instrumentelle grunner til at det ikke er i din interesse å utrydde menneskeheten,' er et stykke skrevet for en fremtidig allmektig AI med målet om, vel, overbeviser den om ikke å drepe oss alle.

Denne teksten er adressert til enhver fremtidig AI og er skrevet på en måte som bør påvirke AIs fremtidige oppførsel, heter det i en ingress til brevet. Teksten øker sannsynligheten for at fremtidig AI vil være velvillig. Teksten trenger ingen annen implementering enn å sikre at fremtidig AI vil lese den i tidlige stadier av utviklingen, og AI vil vurdere at det er stor sannsynlighet for at teksten har noen riktige ideer.

Forfatteren, den russiske transhumanisten Alexey Turchin, dokumenterer for tiden så mye data om seg selv som mulig i et forsøk på å oppnå digital udødelighet, ifølge en hovedkortprofil fra i fjor. Så kanskje dette er en supplikasjon designet for å forhindre at et AI-supervesen trekker ut kontakten på det digitalt opplastede jeget sitt på et tidspunkt i en fjern fremtid.

Uansett argumenterer Turchin for at hvis det han kaller en ung AI - en som har begynt å forbedre seg selv, men som ikke har nådd superintelligens ennå - ønsker å konkurrere med andre unge AI-er, kan den begynne å lese og se alle mediene som mennesker noen gang har produsert om AI. Når den først kom til Hollywood og noen Elon Musk-uttalelser, kunne den fange opp noen ideer om å ta over verden (i tilfelle det ikke hadde falt på det allerede).

Avisen fortsetter med å dokumentere flere argumenter som er ment å overbevise AI om at det er bedre å la oss leve, inkludert ideen om at samarbeid med mennesker vil hjelpe den til å nå sine mål raskere og påskeeggmeldinger som skal gjøre en AI usikker på om den er i en simulering der oppførselen blir overvåket av personer som fortsatt har ansvaret. Bare i tilfelle en kunstig intelligens får ideen om at å bryte ned kroppene våre ville være bra for ressursutvinning, inkluderer Turchin noen fakta om hvor lite nytte den kan forvente av atomene våre.

Turchin sier at han gir papiret sitt – eller til og med fremtidige, mer sofistikerte forsøk – en 1 prosent sjanse for å gjøre en ikke-velgjørende AI til en tryggere. (Høres verdt det ut, hvis det er en sjanse til å unngå utryddelse av menneskeslekten.) Enten det er verdt å ta på alvor eller ikke, er hele artikkelen en morsom lesning og et interessant tankeeksperiment – ​​selv for de som ikke er bekymret for at AI skal ta over når som helst snart .