211service.com
Hvorfor AI er en trussel mot demokratiet – og hva vi kan gjøre for å stoppe det
Futurist og NYU-professor Amy Webb om en forestående kunstig intelligens-katastrofe – og hvorfor det fortsatt er håp om at den kan avverges. 26. februar 2019
Amy Webb, fremtidsforsker og NYU-professor Elena Seibert
Amy Webb, fremtidsforsker, NYU-professor og prisvinnende forfatter, har brukt store deler av det siste tiåret på å forske, diskutere og møte mennesker og organisasjoner om kunstig intelligens. Vi har nådd et febernivå i alt som har med AI å gjøre, sier hun. Nå er det på tide å gå tilbake for å se hvor det går.
Dette er oppgaven med hennes nye bok, The Big Nine: How the Tech Titans and their Thinking Machines Could Warp Humanity , der hun tar et fugleperspektiv av trender som, advarer hun, har satt utviklingen av teknologi på en farlig vei. I USA er Google, Microsoft, Amazon, Facebook, IBM og Apple (G-MAFIA) hemmet av de nådeløse kortsiktige kravene til et kapitalistisk marked, noe som gjør langsiktig, gjennomtenkt planlegging for AI umulig. I Kina konsoliderer og utvinner Tencent, Alibaba og Baidu enorme mengder data for å gi næring til regjeringens autoritære ambisjoner.
Hvis vi ikke endrer denne banen, hevder Webb, kan vi være på vei mot en katastrofe. Men det er fortsatt tid til å handle, og en rolle for alle å spille. MIT Technology Review satte seg ned med henne for å snakke om hvorfor hun er bekymret og hva hun tror vi kan gjøre med det.
Følgende spørsmål og svar er komprimert og redigert for klarhet.
Du nevner at vi for tiden ser en konvergens av bekymringsfulle teknologiske, politiske og økonomiske trender. Kan du utdype hva de teknologiske trendene er?
Når du snakker med en forsker som jobber i feltet, vil de fortelle deg at det kommer til å ta veldig lang tid før vi ser mange av løftene som er gitt om AI: ting som full automatisering i kjøretøy, absolutt anerkjennelse, eller kunstig generell intelligens – AGI – systemer som er i stand til erkjennelse og mer menneskelignende tankegang.
Fra mitt utsiktspunkt, når vi ser mot horisonten for dagen har vi en slags gå-, snakkemaskin eller en maskin med en stemmeløs stemme som tar autonome avgjørelser, går litt glipp av poenget. Vi ser allerede milliarder av små fremskritt som vil ha en sammensatt effekt over tid og føre til systemer som autonomt kan ta mange beslutninger samtidig.
DeepMind-teamet, for eksempel, har jobbet hardt med å lære maskiner hvordan man kan slå mennesker som spiller spill. De har hoppet ganske langt foran på områder som hierarkisk forsterkende læring og fleroppgavelæring. Den nyeste versjonen av AlphaGo-algoritmen, AlphaZero, er i stand til å lære å spille tre spill samtidig uten et menneske i løkken. Det er et ganske stort sprang. Det er også det helt nye feltet med generative motstandsnettverk, hvor du med et anstendig bildekorpus nå kan generere menneskeansikter som så veldig, veldig realistiske ut.
Disse fremskrittene er ikke så sexy eller så spennende som det vi har blitt fortalt om AGI. Men hvis du er i stand til å se 40 000 fot, kan du se at vi er på vei inn i en situasjon der systemene vil ta valg for oss. Og vi må stoppe opp og spørre oss selv hva som skjer når disse systemene legger menneskelig strategi til side til fordel for noe totalt ukjent for oss.
Hva med de politiske og økonomiske trendene? Kan du beskrive de som bekymrer deg mest?
I USA kan den frie flyten av ideer spre seg uhindret. Dette er måten Silicon Valley ble grunnlagt på. Det har avlet både konkurranse og innovasjon, og det er hvordan vi kom dit vi er nå med AI blant andre typer teknologier.
The Big Nine: How Tech Titans & Their Thinking Machines Could Warp Humanity av Amy Webb
Men i USA lider vi også av en tragisk mangel på framsyn. I stedet for å lage en storslått strategi for AI eller for vår langsiktige fremtid, har den føderale regjeringen fjernet finansiering fra vitenskapelig og teknologisk forskning. Så pengene må komme fra privat sektor. Men investorene forventer også en slags avkastning. Det er et problem. Du kan ikke planlegge dine FoU-gjennombrudd når du jobber med grunnleggende teknologi og forskning. Det ville vært kjempefint om de store teknologiselskapene hadde den luksus å jobbe hardt uten å måtte produsere en årlig konferanse for å vise frem sin siste og beste whiz-bang-greie. I stedet har vi nå utallige eksempler på dårlige beslutninger som noen i G-MAFIA tok, sannsynligvis fordi de jobbet raskt. Vi begynner å se de negative effektene av spenningen mellom å gjøre forskning som er i menneskehetens beste interesse og å gjøre investorer glade.
Nå ville det vært ille nok som det er, ikke sant? Men alt dette skjer samtidig som det er en enorm mengde makt som blir konsolidert i Kina. Kina har et suverent formuesfond viet til grunnleggende grunnforskning innen AI. De kaster enorme mengder penger på AI. Og de har en helt annen idé enn USA når det kommer til personvern og data. Dette betyr at de har mye mer data som kan utvinnes og foredles. Med en sentral myndighet er det superenkelt for myndighetene å teste og bygge AI-tjenester som inneholder data fra 1,3 milliarder mennesker. Og det er bare innenfor deres eget land.
Så har de Belte- og veiinitiativet, som ser ut som et tradisjonelt infrastrukturprogram, men som delvis også er digitalt. Det handler ikke bare om å bygge veier og broer; det handler også om å bygge 5G-nettverk og legge fiber, og om gruvedrift og raffinering av data i utlandet. Utplasseringen av disse teknologiene er en risiko for folk som bryr seg om ting som ytringsfrihet og vestlige demokratiske idealer.
Hvorfor skal vi strebe etter vestlige demokratiske idealer?
Det er et flott spørsmål. Jeg har bodd i Kina, i Japan og åpenbart i USA. Og du kan se på tilstanden til landet vårt akkurat nå og hva som skjer i Kina og lure på, er det virkelig det verste? Kinas sosiale kredittscoringssystem høres forresten freakish og forferdelig ut for amerikanere, men det mange ikke skjønner er at selvrapportering og overvåking av atferd i landsbyer og lokalsamfunn har vært en del av kinesisk kultur for alltid. Den sosiale kredittscore automatiserer på en måte det. Så ja, det er et fantastisk spørsmål.
Jeg antar at det jeg ville si er at hvis jeg skulle se på den idealiserte versjonen av kinesisk kommunisme og den idealiserte versjonen av vestlig demokrati, ville jeg valgt det vestlige demokratiet fordi jeg tror det er en bedre mulighet for fri flyt av ideer og for hverdagen. mennesker for å lykkes. Jeg tror at det å gi folk insentiver for individuelle og personlige prestasjoner er en fin måte å løfte et samfunn på, hjelper oss å nå vårt individuelle potensial.
Med den retningen verden er på vei med AI i dag, er det en rettferdig sammenligning? Bør vi sammenligne de idealiserte versjonene av kinesisk kommunisme med vestlig demokrati, eller de verste versjonene av de to?
Det er et godt spørsmål fordi du kan argumentere for at deler av AI-økosystemet allerede påvirker våre vestlige demokratiske idealer på en virkelig negativ måte. Det er klart at alt som har skjedd med Facebook fungerer som et eksempel. Men se også hva som skjer med anti-vaxxer-fellesskapet. De sprer helt feil informasjon om vaksiner og grunnleggende vitenskap. Våre amerikanske tradisjoner vil si ytringsfrihet, plattformer er plattformer, vi må la folk uttrykke seg. Vel, utfordringen med det er at algoritmer tar valg om redaksjonelt innhold som får folk til å ta svært dårlige beslutninger og som følge av dette blir barn syke.
Problemet er at teknologien vår har blitt mer og mer sofistikert, men vår tenkning om hva som er ytringsfrihet og hvordan en fri markedsøkonomi ser ut har ikke blitt like sofistikert. Vi har en tendens til å ty til helt grunnleggende tolkninger: Ytringsfrihet betyr at all ytring er fri med mindre den strider mot injurieloven, og det er slutten på historien. Det er ikke slutten på historien. Vi må begynne å ha en mer sofistikert og intelligent samtale om våre nåværende lover, vår nye teknologi, og hvordan vi kan få de to til å møtes på midten.
Med andre ord, du har tro på at vi vil utvikle oss fra der vi er nå til en mer idealisert versjon av vestlig demokrati. Og du vil mye foretrekke det fremfor idealisert kinesisk kommunisme.
Ja, jeg har tro på at det er mulig. Min store bekymring er at alle venter, at vi drar i hælene og det kommer til å ta en sann katastrofe for å få folk til å handle, som om stedet vi har kommet til ikke er katastrofalt. Men det faktum at meslinger er tilbake i staten Washington for meg er et katastrofalt utfall. Så er det som skjedde i kjølvannet av valget. Uansett hvilken side av det politiske spekteret du befinner deg på, kan jeg ikke forestille meg at noen i dag tror at dagens politiske klima er bra for fremtiden vår.
Så jeg tror absolutt at det er en vei videre. Men vi må komme sammen og bygge bro mellom Silicon Valley og DC slik at vi alle kan styre båten i samme retning.
Hva anbefaler du myndigheter, bedrifter, universiteter og individuelle forbrukere å gjøre?
Utviklingssporet til AI er et problem, og hver og en av oss har en eierandel. Du, meg, faren min, naboen min, fyren på Starbucks som jeg går forbi akkurat nå. Så hva bør vanlige mennesker gjøre? Vær mer bevisst på hvem som bruker dataene dine og hvordan. Bruk noen minutter på å lese arbeid skrevet av smarte mennesker, og bruk et par minutter på å finne ut hva det er vi egentlig snakker om. Før du signerer livet ditt og begynner å dele bilder av barna dine, gjør det på en informert måte. Hvis du er ok med hva det innebærer og hva det kan bety senere, greit, men ha i det minste den kunnskapen først.
Bedrifter og investorer kan ikke forvente å forhaste et produkt om og om igjen. Det setter oss opp for problemer på veien. Så de kan gjøre ting som å styrke ansettelsesprosessene sine, øke innsatsen betraktelig for å forbedre inkluderingen og sørge for at de ansatte er mer representative for hvordan den virkelige verden ser ut. De kan også sette på noen bremser. Enhver investering som gjøres i et AI-selskap eller prosjekt eller hva det måtte være, bør også inkludere finansiering og tid til å sjekke ting som risiko og skjevhet.
Universitetene må skape rom i sine programmer for hybride grader. De bør stimulere CS-studenter til å studere sammenlignende litteratur, verdensreligioner, mikroøkonomi, kulturantropologi og lignende kurs i andre avdelinger. De bør forkjempe doble studier i informatikk og internasjonale relasjoner, teologi, statsvitenskap, filosofi, folkehelse, utdanning og lignende. Etikk bør ikke undervises som en frittstående klasse, noe å bare krysse av på en liste. Skoler må motivere selv fastansatte professorer til å flette inn kompliserte diskusjoner om skjevheter, risiko, filosofi, religion, kjønn og etikk i kursene sine.
En av mine største anbefalinger er dannelsen av GAIA, det jeg kaller Global Alliance on Intelligence Augmentation. For øyeblikket har mennesker rundt om i verden svært forskjellige holdninger og tilnærminger når det kommer til datainnsamling og deling, hva som kan og bør automatiseres, og hvordan en fremtid med mer generelt intelligente systemer kan se ut. Så jeg tror vi bør skape en slags sentral organisasjon som kan utvikle globale normer og standarder, en slags autovern for å prege ikke bare amerikanske eller kinesiske idealer i AI-systemer, men verdenssyn som er mye mer representative for alle.
Mest av alt må vi være villige til å tenke på dette mye lengre sikt, ikke bare fem år fra nå. Vi må slutte å si: Vel, vi kan ikke forutsi fremtiden, så la oss ikke bekymre oss for det akkurat nå. Det er sant, vi kan ikke forutsi fremtiden. Men vi kan absolutt gjøre en bedre jobb med å planlegge for det.
En forkortet versjon av denne historien dukket opprinnelig opp i vårt AI-nyhetsbrev The Algorithm. For å få den levert direkte til innboksen din, registrer deg her gratis.