A Game of Civilization kan hjelpe folk til å forstå AIs eksistensielle trussel

Kategori: Kunstig intelligens Lagt ut januar 08

Forskere ved University of Cambridge bygde en spill-mod for Civilization som lar folk vokse – og temme – en menneskebankende superintelligens.

Spillet: Shahar Avin fra universitetets senter for studier av eksistensiell risiko sier spillet lar spillere bygge AI FoU-kapasitet i deres virtuelle verden. Suksess er en AI som er smartere enn menneskelig. Samtidig bygges falsk AI-risiko og reduseres kun gjennom sikkerhetsforskning.

Målet: Vi ønsket å teste vår forståelse av konseptene knyttet til eksistensiell risiko fra kunstig superintelligens ved å distribuere dem i en begrenset, men rik verdenssimulator, [og også teste hvordan] spillere reagerer … når de får muligheten til å ta AI-beslutninger selv, fortalte Avin meg.

Frykt eller aksept: Prosjektet er også et oppsøkende verktøy som tar alvorlige problemer til et bredere publikum. Avin er klar over at det kan opprettholde frykten for AI. Han argumenterer imidlertid for at spillere ser risikoen, men også ser utvalget av verktøy som de har til rådighet for å redusere den.