211service.com
Fremtidige valg kan bli påvirket av intelligente, våpenbaserte chatbots
Magoz
Kampen mot propagandaroboter er et våpenkappløp for vårt demokrati. Det er en vi kan være i ferd med å miste. Bots – enkle dataskript – ble opprinnelig designet for å automatisere repeterende oppgaver som å organisere innhold eller utføre nettverksvedlikehold, og dermed spare mennesker for timer med kjedelighet. Bedrifter og medier bruker også roboter for å betjene sosiale medier-kontoer, for å umiddelbart varsle brukere om siste nyheter eller promotere nylig publisert materiale.
Men de kan også brukes til å drive et stort antall falske kontoer, noe som gjør dem ideelle for å manipulere folk. Vår forskning ved Computational Propaganda Project studerer de utallige måtene politiske roboter som bruker big data og automatisering har blitt brukt til å spre desinformasjon og forvrenge nettbasert diskurs.
Denne historien var en del av utgaven for september 2018
- Se resten av saken
- Abonnere
Bots har vist seg å være en av de beste måtene å kringkaste ekstremistiske synspunkter på sosiale medier, men også for å forsterke slike synspunkter fra andre, genuine kontoer ved å like, dele, retweeting, hearting og følge, akkurat som et menneske ville gjort. Ved å gjøre det spiller de algoritmene, og belønner innleggene de har interagert med ved å gi dem mer synlighet.
Dette vil virke tamt sammenlignet med det som er på vei.
Styrke i tall
I kjølvannet av Russlands innblanding i det amerikanske valget i 2016 kom en bølge av diskusjoner om hvordan man kan skjerme politikk fra propaganda. Twitter har tatt ned mistenkelige kontoer, inkludert roboter, i titalls millioner i år, mens regulatorer har foreslått botforbud og åpenhetstiltak, og etterlyst bedre samarbeid med internettplattformer.
Så det kan se ut som om vi tar overtaket. Og det er delvis sant - robotenes taktikk har mistet nyheten og aldri hatt finesse. Styrken deres pleide å ligge i antall. Propagandister ville mobilisere hærer av dem for å oversvømme internett med innlegg og svar i et forsøk på å overvelde ekte demokratisk diskurs. Ettersom vi har laget tekniske mottiltak som er bedre til å oppdage bot-lignende oppførsel, har det blitt lettere å stenge dem. Folk har også blitt mer våkne og effektive til å oppdage dem. Den gjennomsnittlige boten gjør lite for å skjule sin robotkarakter, og en rask titt på mønstrene for tweeting, eller til og med profilbildet, kan gi det bort.
Den neste generasjonen av roboter er imidlertid i rask utvikling. I stor grad på grunn av fremskritt innen naturlig språkbehandling – den samme teknologien som muliggjør stemmestyrte grensesnitt som Amazons Alexa, Google Assistant og Microsofts Cortana – vil disse robotene oppføre seg mye mer som ekte mennesker.
Riktignok er disse samtalegrensesnittene fortsatt humpete, men de blir bedre, og fordelene ved å kunne dekode menneskelig språk er enorme. Digitale assistenter er bare én bruk av dem – merker driver samtalechatboter for kundeservice, og utgivere som CNN bruker dem til å distribuere personlig tilpasset medieinnhold.
Slike chatboter erklærer seg åpent for å være automatiserte, men propagandarobotene vil ikke. De vil presentere seg selv som menneskelige brukere som deltar i nettsamtaler i kommentarseksjoner, gruppechatter og oppslagstavler.
I motsetning til hva mange tror, skjer ikke dette ennå. De fleste roboter reagerer bare på søkeord som utløser en standardrespons, som sjelden passer inn i konteksten eller syntaksen til en gitt samtale. Disse svarene er ofte enkle å få øye på.
Men det blir vanskeligere. Allerede har noen enkle forhåndsprogrammerte bot-skript vært vellykkede med å villede brukere. Etter hvert som roboter lærer hvordan de skal forstå kontekst og intensjoner, blir de flinkere til å delta i samtaler uten å skyve dekningen.
Om noen år kan samtaleroboter oppsøke mottakelige brukere og henvende seg til dem via private chattekanaler. De vil veltalende navigere i samtaler og analysere en brukers data for å levere tilpasset propaganda. Bots vil peke folk mot ekstremistiske synspunkter og motarbeide argumenter på en samtale måte.
I stedet for å kringkaste propaganda til alle, vil disse robotene rette sin aktivitet mot innflytelsesrike personer eller politiske dissidenter. De vil angripe enkeltpersoner med skriptede hatytringer, overvelde dem med spam eller få kontoene deres stengt ved å rapportere innholdet deres som støtende.
Flott for Google, flott for roboter
Det er verdt å ta en titt på nøyaktig hvordan AI-teknikkene som driver denne typen roboter blir bedre, fordi metodene som brukes av teknologiselskaper tilfeldigvis også er gode for å øke mulighetene til politiske roboter.
For å fungere krever behandling av naturlig språk betydelige mengder data. Teknologiselskaper som Google og Amazon får slike data ved å åpne sine språkbehandlingsalgoritmer for publikum via applikasjonsprogrammeringsgrensesnitt eller APIer. Tredjeparter – som for eksempel en bank – som ønsker å automatisere samtaler med kundene sine, kan sende rådata, for eksempel lyd- eller tekstskript for telefonsamtaler, til disse API-ene. Algoritmer behandler språket og returnerer maskinlesbare data klare til å utløse kommandoer. Til gjengjeld får teknologiselskapene som leverer disse APIene tilgang til store mengder samtaleeksempler, som de kan bruke til å forbedre maskinlæringen og algoritmene sine.
I tillegg gjør nesten alle store teknologiselskaper åpen kildekode-algoritmer for naturlig språkbehandling tilgjengelig for utviklere. Utviklerne kan bruke disse til å bygge nye, proprietære applikasjoner – for eksempel programvare for en stemmestyrt robot. Ettersom utviklere avanserer og foredler de originale algoritmene, tjener teknologiselskapene på tilbakemeldingene deres.
Problemet er at slike tjenester er allment tilgjengelige for nesten alle – inkludert folk som bygger politiske roboter. Ved å tilby et verktøysett for å automatisere samtaler, lærer teknologiselskaper uforvarende propaganda å snakke.
Det verste er ennå ikke kommet
Bots som er bevandret i menneskelig språk forblir ekstreme foreløpig. Det krever fortsatt betydelig ekspertise, datakraft og treningsdata for å utstyre roboter med toppmoderne språkbehandlingsalgoritmer. Men det er ikke utenfor rekkevidde. Siden 2010 har politiske partier og regjeringer brukt mer enn en halv milliard dollar på manipulasjon av sosiale medier, og gjort det til en svært profesjonalisert og godt finansiert sektor.
Det er fortsatt en lang vei å gå før en robot vil være i stand til å forfalske et menneske i en-til-en-samtale. Men etter hvert som algoritmene utvikler seg, vil disse egenskapene dukke opp.
Som med enhver annen innovasjon, når disse AI-teknikkene er ute av esken, vil de uunngåelig bryte fri fra det begrensede settet med applikasjoner de opprinnelig ble designet for å utføre.
Lisa-Maria Neudert er doktorgradskandidat ved Oxford Internet Institute og forsker ved Computational Propaganda Project.