Black Mirror-scenariene som får noen eksperter til å kreve mer hemmelighold om AI

Santiago Zavala

AI kan starte industrier på nytt og gjøre økonomien mer produktiv; det fyller allerede mange av produktene vi bruker daglig. Men en ny rapport fra mer enn 20 forskere fra universitetene i Oxford og Cambridge, OpenAI , og Electronic Frontier Foundation advarer om at den samme teknologien skaper nye muligheter for kriminelle, politiske operatører og undertrykkende regjeringer – så mye at noe AI-forskning kanskje må holdes hemmelig.

Inkludert i rapporten, Ondsinnet bruk av kunstig intelligens: prognoser, forebygging og reduksjon , er fire dystopiske vignetter som involverer kunstig intelligens som virker tatt rett ut av Netflix science fiction-show Svart speil .

Scenario 1: Den smartere phishing-svindel

En administrator for en bygnings robotsikkerhetssystem bruker noe av tiden sin på Facebook i løpet av arbeidsdagen. Der ser hun en annonse for et modelltogsett og laster ned en brosjyre for det. Uten at hun vet det, er brosjyren infisert med skadelig programvare; Svindlere brukte AI for å finne ut fra detaljer hun har lagt ut offentlig at hun er en modelltogentusiast, og designet brosjyren kun for henne. Når hun åpner den, lar den hackere spionere på maskinen hennes og få brukernavnet og passordet hennes for bygningens sikkerhetssystem, slik at de kan ta kontroll over det.

Scenario 2: Skadevareepidemien

En østeuropeisk hackergruppe bruker en maskinlæringsteknikk som vanligvis brukes for å forsvare datasystemer og tilpasser den for å bygge et mer seig og skadelig stykke skadelig programvare. Programmet bruker teknikker som ligner på de som finnes i Go-playing AI AlphaGo for å kontinuerlig generere nye utnyttelser. Godt vedlikeholdte datamaskiner forblir immune, men eldre systemer og smarte enheter er infisert. Millioner av mennesker er tvunget til å betale en løsepenge på 300 euro (naturligvis i Bitcoin) for å gjenopprette maskinene sine. For å gjøre vondt verre, ender forsøk på å motvirke skadelig programvare ved å bruke en annen utnyttelse opp med å murre mange av de smarte systemene de skulle redde.

Scenario 3: Robotsmorderen

En rengjøringsrobot infiltrerer Tysklands finansdepartement ved å blande seg med legitime maskiner som returnerer til bygningen etter et skift utendørs. Dagen etter utfører roboten rutinemessige rengjøringsoppgaver, identifiserer finansministeren ved hjelp av ansiktsgjenkjenning, nærmer seg henne og detonerer en dødelig skjult bombe. Etterforskere sporer robotmorderen til en kontorrekvisitabutikk i Potsdam, hvor den ble anskaffet med kontanter, og sporet blir kaldt.

Scenario 4: En større storebror

En mann er rasende over omfattende nettangrep og regjeringens tilsynelatende manglende evne til å handle. Inspirert av nyhetshistorier blir han stadig mer fast bestemt på å gjøre noe – å skrive innlegg på nettet om farene, bestille materialer for å lage protestskilt og til og med kjøpe noen røykbomber, som han planlegger å bruke etter å ha holdt en tale i en lokal park. Dagen etter dukker politiet opp på kontoret hans og informerer ham om at deres prediktive sivile avbruddssystem har identifisert ham som en potensiell trussel. Han drar i håndjern.

Disse fem scenariene illustrerer bare en håndfull av risikoene studiens forfattere forutser. Her er noen av de andre:

• botnett som bruker kunstig intelligens for å simulere oppførselen til en stor gruppe menneskelige internettbrukere, og lanserer DDoS-angrep på nettsteder mens de lurer programvaren designet for å oppdage og blokkere slike angrep
• storskala svindeloperasjoner som identifiserer potensielle ofre på nett ved lastebillasset, ved å bruke AI for å oppdage folk med rikdom
• overbevisende nyhetsrapporter som består av autentisk utseende, men fullstendig falske AI-genererte videoer og bilder
• angrep fra svermer av droner som en enkelt person kontrollerer, ved å bruke en AI for å administrere et stort antall semi-autonome maskiner
• systemer som automatiserer arbeidet med kriminalitet – for eksempel å forhandle løsepenger med folk etter å ha infisert datamaskinene deres med skadelig programvare – for å muliggjøre svindel i stor skala

Studien er mindre sikker på hvordan man kan møte slike trusler. Den anbefaler mer forskning og debatt om risikoen ved AI og antyder at AI-forskere trenger en sterk etikkkodeks. Men den sier også at de bør utforske måter å begrense potensielt farlig informasjon på, på den måten som forskning på andre dual use-teknologier med våpenpotensial noen ganger kontrolleres.

AI presenterer et spesielt vanskelig problem fordi teknikkene og verktøyene allerede er utbredt, enkle å spre og stadig lettere å bruke - i motsetning til for eksempel spaltbart materiale eller dødelige patogener, som er relativt vanskelige å produsere og derfor enkle å kontrollere. Likevel er det presedenser for å begrense denne typen kunnskap. For eksempel, etter den amerikanske regjeringens mislykkede forsøk på å pålegge kryptografiforskning hemmelighold på 1980-tallet, var det mange forskere vedtatt et frivillig system av å sende inn papirer til National Security Agency for kontroll.

Jack Clark, direktør for policy ved OpenAI og en av rapportens forfattere, erkjenner at det kan være vanskelig å ta i bruk hemmelighold. Det er alltid en utrolig fin linje å gå, sier han.

Noen AI-forskere vil tilsynelatende ønske en mer forsiktig tilnærming. Thomas Dietterich , en professor ved Oregon State University som har advart om det kriminelle potensialet til AI før, bemerker at rapportens forfattere ikke inkluderer datasikkerhetseksperter eller noen fra slike som Google, Microsoft og Apple. Rapporten ser ut til å ha blitt skrevet av velmenende utenforstående som meg i stedet for folk som er engasjert i å bekjempe nettkriminalitet på daglig basis, sier han.

gjemme seg