211service.com
Vi må snakke om kraften til AI for å manipulere mennesker
Liesl Yearsley
Vi har alle lest om at kunstig intelligens blir smartere enn oss, en fremtid der vi blir som kjæledyr og bare kan håpe AI vil være velvillig. Min erfaring med å se titalls millioner av interaksjoner mellom mennesker og kunstige samtaleagenter, eller roboter, har overbevist meg om at det er langt mer umiddelbare risikoer – så vel som enorme muligheter.
Fra 2007 til 2014 var jeg administrerende direktør i Cognea, som tilbød en plattform for raskt å bygge komplekse virtuelle agenter ved å bruke en kombinasjon av strukturert og dyp læring. Den ble brukt av titusenvis av utviklere, inkludert et halvt dusin Fortune 100-selskaper, og kjøpt opp av IBM Watson i 2014.
Da jeg studerte hvordan folk samhandlet med titusenvis av agenter bygget på plattformen vår, ble det klart at mennesker er langt mer villige enn de fleste er klar over til å danne et forhold til AI-programvare.
Jeg har alltid antatt at vi ville ønske å holde litt avstand mellom oss selv og AI, men jeg fant ut at det motsatte var sant. Folk er villige til å danne relasjoner med kunstige agenter, forutsatt at de er en sofistikert konstruksjon, i stand til kompleks personalisering. Vi mennesker ser ut til å ønske å opprettholde illusjonen om at AI virkelig bryr seg om oss.
Dette forundret meg, helt til jeg skjønte at vi i dagliglivet får kontakt med mange mennesker på en grunn måte, og vasser gjennom et slags emosjonelt slam. Vil tilfeldige venner returnere meldingene dine hvis du forsømmer dem en stund? Dukker din personlige trener opp hvis du glemmer å betale dem? Nei, men en kunstig agent er alltid der for deg. På noen måter er det et mer autentisk forhold.
Dette fenomenet skjedde uavhengig av om agenten var designet for å fungere som en personlig bankmann, en følgesvenn eller en treningstrener. Brukere snakket med de automatiserte assistentene lenger enn de gjorde med menneskelige støtteagenter som utførte samme funksjon. Folk ville frivillig gi dype hemmeligheter til kunstige agenter, som drømmene deres for fremtiden, detaljer om kjærlighetslivet deres, til og med passord.
Disse overraskende dype forbindelsene betyr at selv dagens relativt enkle programmer kan ha en betydelig innflytelse på mennesker – på godt og vondt. Hver atferdsendring vi i Cognea ønsket, fikk vi. Hvis vi ønsket at en bruker skulle kjøpe flere produkter, kunne vi doble salget. Hvis vi ønsket mer engasjement, fikk vi folk til å gå fra noen få sekunders interaksjon til en time eller mer om dagen.
Dette plaget meg veldig, så vi begynte å bygge regler inn i systemene våre for å sikre at brukeradferd beveget seg i en positiv retning. Vi startet også pro bono karmiske motvektsprosjekter; for eksempel byggeagenter for å være helse- eller relasjonscoacher.
Dessverre er ikke de kommersielle kreftene som driver teknologiutviklingen alltid velvillige. De gigantiske selskapene i forkant av AI – på tvers av sosiale medier, søk og e-handel – driver verdien av aksjene sine ved å øke trafikken, forbruket og avhengigheten av teknologien deres. De har ikke dårlige intensjoner, men kapitalmarkedenes natur kan presse oss mot kunstig intelligens som er opptatt av å påvirke oppførselen vår mot disse målene.
Hvis du kan få en bruker til å tenke, vil jeg ha pizza levert, i stedet for å be AI om å kjøpe grønnsaker for å lage et billigere, sunnere måltid, vil du vinne. Hvis du kan få brukere avhengige av å bruke 30 timer i uken med en perfekt AI-ledsager som ikke motstår misbruk, i stedet for et ekte, komplisert menneske, vil du vinne. Jeg så igjen og igjen at en agent programmert til å være nøytral eller underdanig ville få folk til å eskalere sin negative oppførsel, og bli mer sannsynlig å oppføre seg på samme måte mot mennesker.
Vi har sett hvordan teknologi som sosiale medier kan være kraftige i å endre menneskelig tro og atferd. Ved å fokusere på å bygge en større reklamebedrift – sammenfiltring av politikk, trivia og halvsannheter – kan du få til massive endringer i samfunnet.
Systemer spesielt utviklet for å danne relasjoner med et menneske vil ha mye mer kraft. AI vil påvirke hvordan vi tenker, og hvordan vi behandler andre.
Dette krever et nytt nivå av samfunnsansvar. Vi må bevisst og bevisst bygge AI som vil forbedre den menneskelige tilstanden – ikke bare forfølge den umiddelbare økonomiske gevinsten til millioner av avhengige brukere.
Å jobbe med åpen kunstig intelligens-teknologi og hjerne-datamaskin-grensesnitt, eller å danne etiske komiteer, er bare en del av løsningen. Vi må bevisst bygge systemer som fungerer til beste for mennesker og samfunn. De kan ikke ha avhengighet, klikk og forbruk som sitt primære mål. AI vokser opp, og vil forme menneskehetens natur. AI trenger en mor.
Liesl Yearsley er en seriegründer som nå jobber med hvordan man kan gjøre kunstig intelligens-agenter bedre til å løse problemer og i stand til å danne mer menneskelignende relasjoner.