Vi kjemper mot falske nyheter AI-roboter ved å bruke mer AI. Det er en feil.

Foto av bokomslaget

• Samuel Woolley er assisterende professor ved Moody School of Communication ved University of Texas-Austin. Dette er et tilpasset utdrag fra hans kommende bok Reality Game .

Hver gang du logger på Twitter og ser på et populært innlegg, vil du sannsynligvis finne botkontoer som liker eller kommenterer det. Hvis du klikker deg gjennom, kan du se at de har tweetet mange ganger, ofte på kort tid. Noen ganger selger innleggene deres søppel eller sprer digitale virus. Andre kontoer, spesielt robotene som legger ut forvansket vitriol som svar på bestemte nyhetsartikler eller offisielle uttalelser, er helt politiske.

Det er lett å anta at hele dette fenomenet er drevet av avansert informatikk. Faktisk har jeg snakket med mange mennesker som tror maskinlæringsalgoritmer drevet av maskinlæring eller kunstig intelligens gir politiske roboter muligheten til å lære av omgivelsene og samhandle med mennesker på en sofistikert måte.

Under hendelser der forskere nå mener politiske roboter og desinformasjon spilte en nøkkelrolle – Brexit-avstemningen, Trump-Clinton-konkurransen i 2016, Krim-krisen – er det en utbredt oppfatning at smarte AI-verktøy tillot datamaskiner å posere som mennesker og hjelpe til med å manipulere den offentlige samtalen.

Pundits og journalister har drevet dette: Det har vært ekstremt provoserende historier om fremveksten av en bevæpnet AI-propagandamaskin, og historier hevde at kunstig intelligens erobret demokratiet. Til og med min egen forskning på hvordan sosiale medier brukes til å forme opinionen, hacke sannhet og stille protest – det som er kjent som beregningsmessig propaganda – har blitt sitert i artikler som antyder at robotoverherrene våre allerede er her.

Realiteten er imidlertid at komplekse mekanismer som kunstig intelligens spilte liten rolle i beregningspropagandakampanjer til dags dato. Alle bevisene jeg har sett på Cambridge Analytica tyder på at firmaet aldri lanserte de psykografiske markedsføringsverktøyene det hevdet å ha under det amerikanske valget i 2016 - selv om det sa at det kunne målrette mot enkeltpersoner med spesifikke meldinger basert på personlighetsprofiler hentet fra den kontroversielle Facebook-databasen.

Da jeg var på Oxford Internet Institute, undersøkte vi i mellomtiden hvordan og om Twitter-roboter ble brukt under Brexit-debatten. Vi fant ut at mens mange ble vant til å spre meldinger om Leave-kampanjen, var det store flertallet av de automatiserte kontoene veldig enkle. De ble laget for å endre nettsamtaler med roboter som var bygget ganske enkelt for å øke likes og følgere, for å spre lenker, til spilltrender eller for å trolle motstand. Det ble spilt av små grupper av menneskelige brukere som forsto magien med memer og viralitet, med å så konspirasjoner på nettet og se dem vokse. Samtaler ble blokkert av grunnleggende bot-generert spam og støy, målrettet knyttet til bestemte hashtags for å demobilisere nettsamtaler. Lenker til nyhetsartikler som viste en politiker i et spesielt lys ble hypet av falske kontoer eller proxy-kontoer laget for å poste og reposte det samme søppelet om og om igjen og igjen. Disse kampanjene ble brukt ganske rett ut: disse robotene var ikke designet for å være funksjonelt samtale. De utnyttet ikke AI.

Ikke dum lenger

Det er imidlertid signaler om at AI-aktivert beregningspropaganda og desinformasjon begynner å bli brukt. Hackere og andre grupper har allerede begynt å teste effektiviteten til farligere AI-roboter over sosiale medier. Et 2017-stykke fra Gizmodo rapporterte at to dataforskere lærte en kunstig intelligens å designe sin egen phishing-kampanje: I tester var den kunstige hackeren betydelig bedre enn sine menneskelige konkurrenter, komponerte og distribuerte flere phishing-tweets enn mennesker, og med en betydelig bedre konverteringsrate.

Problematisk innhold spres ikke bare av maskinlæringsaktiverte politiske roboter. Problematisk bruk eller design av teknologi genereres heller ikke kun av sosiale mediefirmaer. Forskere har påpekt at maskinlæring kan være tilsmusset av giftangrep – ondsinnede aktører som påvirker treningsdata for å endre resultatene av en gitt algoritme – før maskinen i det hele tatt blir offentliggjort.

Kalev Leetaru, seniorstipendiat ved George Washington University, antyder at de første angrepene drevet av AI-roboter kanskje ikke er rettet mot sosiale medier, men i stedet vil involvere det som er kjent som et distribuert tjenestenektangrep, som innebærer å stenge målrettede webservere. ved å oversvømme dem med trafikk.

Tenk deg et øyeblikk at du overlot det botnettet til kontrollen av et dypt læringssystem og ga den AI-algoritmen full kontroll over hver knott og ratt på det botnettet, Leetaru skriver .

Denne innsatsen er ikke rettet mot å hjelpe nyhetsorganisasjoner med å vurdere mengden av innhold. Snarere hjelper de et selskap på flere milliarder dollar med å holde sitt eget hus rent.

Du gir den også live-feeder med global internettstatusinformasjon fra store cybersikkerhets- og overvåkingsleverandører rundt om i verden, slik at den sekund for sekund kan observere hvordan offeret og resten av internett reagerer på angrepet. Kanskje alt dette kommer etter at du har fått algoritmen til å bruke flere uker på å overvåke målet i utsøkte detaljer for å forstå helheten og nyansen av trafikkmønstrene og atferden og grave seg gjennom de ytre lagene av forsvar.

Utenfor forsvar

I april 2018 dukket Mark Zuckerberg opp for kongressen: han var under det politiske mikroskopet for feilhåndtering av brukerinformasjon under valget i 2016. I sitt todelte vitnesbyrd nevnte han kunstig intelligens mer enn 30 ganger, og antydet at AI kom til å være løsningen på problemet med digital desinformasjon ved å tilby programmer som ville bekjempe det store volumet av beregningsmessig propaganda. Han spådde at AI i det neste tiåret ville være redningen for de enorme stordriftsproblemene som Facebook og andre møter når de håndterer den globale spredningen av søppelinnhold og manipulasjon.

Så er det en måte vi kan bruke AI eller automatisert bot-teknologi for å takle manipulering av opinionen på nettet? Kan vi bruke AI til å bekjempe AI?

Observatoriet for sosiale medier ved Indiana University har bygget offentlige verktøy som utnytter maskinlæring for å oppdage roboter ved å se på 1200 funksjoner for å finne ut om det er mer sannsynlig at det er et menneske eller en bot.

Og Facebook-produktsjef Tessa Lyons sa i en kunngjøring fra 2018 at maskinlæring hjelper oss med å identifisere duplikater av avkreftede historier. For eksempel avkreftet en faktasjekker i Frankrike påstanden om at du kan redde en person som får hjerneslag ved å bruke en nål til å stikke fingeren og ta blod. Dette tillot oss å identifisere over 20 domener og over 1400 lenker som sprer den samme påstanden.

I slike tilfeller kan sosiale medier-firmaer bruke maskinlæring for å fange opp, og til og med verifisere, faktasjekker fra hele verden og bruke disse bevisdrevne rettelsene til å flagge falskt innhold.

Det er imidlertid en stor debatt i det akademiske miljøet om hvorvidt passiv identifisering av potensielt falsk informasjon for brukere av sosiale medier faktisk er effektivt. Noen forskere tyder på at faktasjekking både online og offline ikke fungerer veldig effektivt i sin nåværende form. Tidlig i 2019, faktasjekkingsnettstedet Snopes, som hadde samarbeidet med Facebook i slike korrigerende tiltak, brøt forholdet . I en intervju med Poynter Institute, sa Snopes sin driftsdirektør Vinny Green: Det virker ikke som om vi streber etter å gjøre tredjeparts faktasjekking mer praktisk for utgivere – det virker som om vi streber etter å gjøre det enklere for Facebook.

Organisasjoner som Facebook fortsetter å stole på små, vanligvis ideelle organisasjoner, for å behandle innhold. Potensielt falske artikler eller videoer sendes ofte til disse gruppene uten bakgrunnsinformasjon om hvordan eller hvorfor de ble flagget i utgangspunktet.

Denne innsatsen er ikke rettet mot å hjelpe nyhetsorganisasjoner med å vurdere mengden av innhold eller kundeemner de mottar hver dag for å hjelpe journalister med lite ressurser til å gjøre et bedre arbeid. Snarere hjelper de et selskap på flere milliarder dollar med å holde sitt eget hus rent på en post hoc-måte. Det er på tide at Facebook tar ansvar internt for faktasjekking, i stedet for å overlate oppgaven med å verifisere eller avkrefte nyhetsrapporter til andre grupper. Facebook og andre sosiale medier-selskaper må også slutte å stole på faktasjekker i ettertid – det vil si først etter at en falsk artikkel har blitt viralt. Disse selskapene må generere et slags tidlig varslingssystem for beregningsmessig propaganda.

Facebook, Google og andre som dem bruker folk til å finne og fjerne innhold som inneholder vold eller informasjon fra terrorgrupper. De er imidlertid mye mindre nidkjære i sine forsøk på å kvitte seg med desinformasjon. Overfloden av forskjellige kontekster der falsk informasjon flyter på nettet – overalt fra et valg i India til en stor sportsbegivenhet i Sør-Afrika – gjør det vanskelig for AI å operere på sin egen, fraværende menneskelige kunnskap. Men i løpet av de kommende månedene og årene vil det ta horder av mennesker over hele verden for å effektivt undersøke de enorme mengder innhold i de utallige omstendighetene som vil oppstå.

Det er rett og slett ingen enkel løsning på problemet med beregningsmessig propaganda på sosiale medier. Det er imidlertid selskapenes ansvar å finne en måte å fikse det på. Så langt virker Facebook langt mer fokusert på PR enn på å regulere flyten av databasert propaganda eller grafisk innhold. Ifølge The Verge , bruker selskapet mer tid på å feire sin innsats for å kvitte seg med spesielle biter av vitrioel eller vold enn på å systematisk overhale moderasjonsprosessene.

Utover faktasjekking

Det vil være en kombinasjon av menneskelig arbeidskraft og AI som til slutt lykkes med å bekjempe beregningsmessig propaganda, men hvordan dette vil skje er rett og slett ikke klart. AI-forbedret faktasjekking er bare én vei fremover. Maskinlæring og dyp læring, i samarbeid med menneskelige arbeidere, kan bekjempe beregningsmessig propaganda, desinformasjon og politisk trakassering på flere andre måter.

Jigsaw, den Google-baserte teknologiinkubatoren der jeg tjente en ettårsperiode som stipendiat, designet og bygde et AI-basert verktøy kalt Perspective for å bekjempe online trolling og hatefulle ytringer. Dette verktøyet (som jeg ikke jobbet med selv) er et API som lar utviklere automatisk oppdage giftig språk.

Det er kontroversielt fordi det ikke bare risikerer falske positiver – flagging av innlegg som faktisk ikke inneholder trolling eller misbruk – men også modererer tale. I følge Kablet , verktøyet ble opplært ved hjelp av maskinlæring, men ethvert slikt verktøy trenes også ved hjelp av input fra mennesker, som har sine egne skjevheter. Så kan et verktøy bygget for å oppdage rasistisk eller hatefullt språk mislykkes på grunn av mangelfull opplæring?

I 2016 lanserte Facebook Deeptext, et AI-verktøy som ligner på Googles Perspective. sier selskapet det hjalp til med å slette over 60 000 hatefulle innlegg i uken. Facebook innrømmet imidlertid at verktøyet fortsatt var avhengig av en stor gruppe menneskelige moderatorer for å faktisk bli kvitt skadelig innhold. Twitter tok i mellomtiden endelig grep på slutten av 2017 for å jobbe mer nøye med å forby lignende truende eller voldelige innlegg. Men mens den har begynt å dempe dette problematiske materialet – og også sletter horder av politiske bot-kontoer – har Twitter ikke gitt noen klare indikasjoner på hvordan den oppdager og sletter kontoer. Mine forskningssamarbeidspartnere og jeg fortsetter å finne massive manipulerende botnett på Twitter nesten hver måned.

Utenfor horisonten

Det er ikke overraskende at en teknolog som Zuckerberg vil foreslå en teknologisk løsning, men AI er ikke perfekt alene. Det nærsynte fokuset til teknologiledere på databaserte løsninger gjenspeiler naiviteten og arrogansen som førte til at Facebook og andre gjorde brukere sårbare i utgangspunktet.

Det er ennå ikke hærer av smarte AI-roboter som jobber med å manipulere opinionen under omstridte valg. Vil det være i fremtiden? Kanskje. Men det er viktig å merke seg at selv hærer av smarte politiske roboter ikke vil fungere på egen hånd: De vil fortsatt kreve menneskelig tilsyn for å manipulere og lure. Vi står ikke overfor en nettversjon av The Terminator her. Armaturer fra feltene informatikk og kunstig intelligens, inkludert Turing-prisvinneren Ed Feigenbaum og Geoff Hinton, gudfaren til dyp læring, har argumentert sterkt mot frykten for at singulariteten – den ustoppelige tidsalderen for smarte maskiner – kommer når som helst snart. I en undersøkelse fra American Association of Artificial Intelligence-stipendiater sa over 90 % at superintelligens er utenfor den forutsigbare horisonten. De fleste av disse ekspertene var også enige om at når og hvis supersmarte datamaskiner kommer, vil de ikke være en trussel mot menneskeheten.

Stanford-forskere jobber med å spore toppmoderne innen AI foreslå at maskinoverherrene våre for øyeblikket fortsatt ikke kan vise sunn fornuft eller den generelle intelligensen til engang en 5-åring. Så hvordan vil disse verktøyene undergrave menneskelig styre eller, for eksempel, løse ekstremt menneskelige sosiale problemer som politisk polarisering og mangel på kritisk tenkning? Wall Street Journal si det kort i 2017 : Uten mennesker er kunstig intelligens fortsatt ganske dumt.

Grady Booch, en ledende ekspert på AI-systemer, er også skeptisk til fremveksten av supersmarte useriøse maskiner, men av en annen grunn. I en TED-tale i 2016 , sa han at å bekymre seg nå om fremveksten av en superintelligens er på mange måter en farlig distraksjon fordi fremveksten av databehandling i seg selv bringer oss en rekke menneskelige og samfunnsmessige problemer som vi nå må ta hensyn til.

Enda viktigere, understreket Booch, kan nåværende AI-systemer gjøre alle slags fantastiske ting, fra å snakke med mennesker på naturlig språk til å gjenkjenne objekter - men disse tingene bestemmes av mennesker og kodes med menneskelige verdier. De er ikke programmert, men de blir lært hvordan de skal oppføre seg.

I vitenskapelige termer er dette det vi kaller grunnsannhet, sier Booch, og her er det viktige poenget: Når vi produserer disse maskinene, lærer vi dem derfor en følelse av våre verdier. Til det formål stoler jeg på en kunstig intelligens på samme måte, om ikke mer, som et menneske som er godt trent.

Jeg ville tatt Boochs idé enda lenger. For å løse problemet med beregningsmessig propaganda, må vi fokusere på menneskene bak verktøyene.

Ja, teknologi i stadig utvikling kan automatisere spredning av desinformasjon og trolling. Det kan la gjerningsmenn operere anonymt og uten frykt for oppdagelse. Men denne pakken med verktøy som en modus for politisk kommunikasjon er til syvende og sist fokusert på å oppnå det menneskelige målet om kontroll. Propaganda er en menneskelig oppfinnelse, og den er like gammel som samfunnet. Som en ekspert på robotikk en gang fortalte meg, bør vi ikke frykte maskiner som er smarte som mennesker, så mye som mennesker som ikke er smarte om hvordan de bygger maskiner.

Utdrag fra The Reality Game: How the Next Wave of Technology Will Break the Truth, av Samuel Woolley. Copyright 2020. Tilgjengelig fra PublicAffairs, et avtrykk fra Hachette Book Group, Inc.

gjemme seg