211service.com
Facebooks tidligere sikkerhetssjef: Å be Big Tech om å politi hatefulle ytringer er en farlig vei
Josh Edelson | Med tillatelse fra Stanford University
Inntil for noen uker siden var Alex Stamos Facebooks sikkerhetssjef. Han ledet jakten på russisk politisk desinformasjon på plattformen etter det amerikanske valget i 2016. Nå ved Stanford University kunngjorde han nylig opprettelsen av Stanford Internet Observatory – et prosjekt for å takle hatytringer, propaganda og manipulasjon ved å bringe sammen akademiske forskere, samfunnsvitere, beslutningstakere og teknologigigantene selv.
Som mange andre, mener Stamos teknologiske plattformer som Facebook og Google har for mye makt. Men han er ikke enig i oppfordringene om å bryte dem opp. Og han argumenterer for at de som sier Facebook og Google er for mektige gir dem mer makt ved å insistere på at de gjør mer for å kontrollere hatytringer og propaganda.
Det er en farlig vei, advarer han. Hvis demokratiske land får teknologibedrifter til å pålegge begrensninger på ytringsfriheten, vil autokratiske land også gjøre det. Om ikke lenge vil teknologien muliggjøre maskinhastighet, sanntidsmoderering av alt vi sier på nettet. Når vi forsøker å tøyle Big Tech, risikerer vi å skape Big Brother. Så hva er løsningen? Jeg snakket med Stamos på Stanford-kontoret hans for å finne ut av det. (Intervjuet er komprimert og redigert for klarhet.)
Du sa nylig at det allerede er for sent å redde mellomperiodene i 2018 fra utenlandsk innblanding. Hvem er skyld i å la det skje, gitt alt vi lærte i 2016?
Tre ting skjedde i 2016. Det var en desinformasjons- og propagandakampanje av [Russias] Internet Research Agency og relaterte grupper. Det var lekkasjekampanjen der GRU [russisk militær etterretning] brøt seg inn i e-posten til DNC [Den demokratiske nasjonale komiteen] og deretter plantet historier [i media]. Og det var en utforskende penetrasjon av valgsystemene til 21 stater.
Det første problemet har hatt mest arbeid [gjort på det] fordi det faller fullstendig innenfor plattformenes ansvar. De har definert hva som er en politisk annonse og hva som er en problemannonse, skapt annonsegjennomsiktighet, definert hva som er upassende koordinering og begynt å håndheve disse reglene.
Russerne var i stand til å sende B-laget sitt for å hacke seg inn i DNC. Jeg er ikke sikker på at folk er klare for A-laget.'
På GRU hack and lekk-kampanjen har det skjedd veldig lite. Det har vært oppgraderinger i sikkerheten ved DNC. Jeg forventer at de fleste kampanjer er mer forsiktige. Men det ser ikke ut til å være en engrosoppgradering av sikkerheten blant kampanjer og kandidater. Russerne kunne sende B-laget sitt for å hacke seg inn i DNC. Jeg er ikke sikker på at folk er klare for A-laget.
På den tredje har vi nesten ikke gjort noe. Du har fortsatt 10 000 valgmyndigheter [i USA] som kjører valg. Vi har en rekke stater uten papirsikkerhet [for stemmesedler]. Det er alt for mange myndigheter som er ansvarlige for sin egen sikkerhet til at vi kan sikre [valg] uten at den føderale regjeringen gir en enorm mengde ressurser. Det er der jeg tror vi har noe av det mest sårbare.
Så er desinformasjon/propagandaproblemet stort sett løst?
I et fritt samfunn vil du aldri eliminere det problemet. Jeg tror det viktigste [i USA] er gjennomsiktighet for reklame. Med eller uten utenlandsk innblanding deler partiene, kampanjene, PAC-ene [politiske aksjonskomiteer] her i USA opp velgerne i bittesmå bøtter, og det er en dårlig ting. Åpenhet er en god start.
Det neste trinnet vi trenger er føderal lovgivning for å sette en grense for annonsemålretting. Det er tusenvis av selskaper i økosystemet for internettannonsering. Facebook, Google og Twitter er de eneste som har gjort noe, fordi de har fått mest pressedekning og mest press fra politikere. Så uten lovgivning kommer vi bare til å presse alle angriperne inn i den lange halen av reklame, til selskaper som ikke har dedikerte team som leter etter russiske desinformasjonsgrupper.
Facebook har blitt kritisert over russisk politisk innblanding både i USA og i andre land, folkemordet i Myanmar , og mye annet. Føler du at Facebook fullt ut har forstått omfanget av sin innflytelse og sitt ansvar?
Jeg tror selskapet absolutt forstår virkningen. Den vanskelige delen er å løse det. Nitti prosent av Facebook-brukere bor utenfor USA. Godt over halvparten bor i enten ikke-frie land eller demokratier uten beskyttelse for ytring. Et av problemene er å komme opp med løsninger i disse landene som ikke umiddelbart går til et veldig mørkt sted [dvs. sensur].
«Jeg tror [Facebook] absolutt forstår virkningen. Den vanskelige delen er å løse det.'
En annen er å finne ut hvilke problemer som skal legges bak ingeniørressurser. Uansett hvor stort et selskap er, er det bare et visst antall problemer du [kan takle]. Et av problemene selskapene har hatt, er at de er i en brannslokkingsmodus der de hopper fra nødstilfelle til nødstilfelle.
Så når de bemanner blir det bedre, men vi trenger også en mer informert ekstern diskusjon om de tingene vi vil at selskapene skal fokusere på – hva er problemene som absolutt må løses, og hva som ikke er det. Du nevnte en haug med problemer som faktisk er veldig forskjellige, men folk uskarp dem alle sammen.
Synes du teknologiselskapene har for mye makt? Bør Facebook tvinges til å avhende seg fra Instagram og WhatsApp, for eksempel?
Hvis antitrust-folk mener det er hensiktsmessig å tvinge avhending av individuelle plattformer, er det opp til dem. Jeg tror ikke det løser disse problemene eller gjør dem verre. Det som vil gjøre ting verre er å bryte opp spesifikke produkter. Ti WhatsApp-er er verre enn én WhatsApp, og ti Facebook-er er verre enn én Facebook, fordi du mister stordriftsfordelene [og] muligheten til å ha godt bemannede team som er eksperter på denne typen overgrep [hatfulle ytringer, propaganda osv. .].
Sannheten er at de store selskapene har vært responsive. Alle ignorerer de små selskapene fordi det ikke gir gode overskrifter. Facebook har gjort mer enn de aller fleste andre selskaper.
Hvordan regulerer du i en verden der teknologien går så raskt frem mens reguleringen går så sakte? Hvordan bør et samfunn sette fornuftige grenser for hva teknologiselskaper gjør?
Men akkurat nå ber ikke samfunnet om grenser for hva de gjør. Det spør om at teknologiselskaper gjør det mer . Og jeg tror det er en farlig vei. I alle problemene du nevnte – russisk desinformasjon, Myanmar – er det du forteller disse selskapene: Vi vil at du skal ha mer makt til å kontrollere hva andre mennesker sier og gjør.
'Om fem eller ti år kan det være... maskinhastighet, sanntidsmoderering av alt vi sier på nettet.'
Det er veldig farlig, spesielt med fremveksten av maskinlæring. Fem eller ti år fra nå, kan det være maskinlæringssystemer som forstår menneskelige språk så vel som mennesker. Vi kan ende opp med maskinhastighet, sanntidsmoderering av alt vi sier på nettet. Så kreftene vi gir teknologiselskapene akkurat nå er kreftene disse maskinene kommer til å ha om fem år.
Hva er det grunnleggende problemet Stanford Internet Observatory prøver å løse?
Det er ikke noe spesifikt akademisk felt som studerer misbruk av teknologi, utenom svært tekniske feil. Informatikkavdelinger forsker på nye typer utnyttelser, nye typer feil, esoteriske kryptografiske løsninger, men du kan ikke få en doktorgrad som studerer mobbing og trakassering og de tekniske løsningene på dem. Du kan ha statsvitere som studerer virkningen av sosiale nettverk på demokrati, og folk i psykologiavdelingen som studerer virkningen av bruken av Instagram på tenåringer som er suicidale, men de mangler tekniske ferdigheter og infrastruktur.
Så Stanford Internet Observatory vil være et permanent program, bemannet med dataforskere, programvareingeniører, etterforskere og analytikere som forstår hvordan man samhandler med teknologiplattformene og hvordan man gjør dataanalyser i veldig stor skala. Den gruppen kan deretter tilby tjenester til akademiske grupper over hele og gjøre sin egen forskning. Da kan vi katalysere arbeid som sannsynligvis ikke ville skje fordi det ikke faller rent inn i en akademisk sfære.
Hva er noen av løsningene du jobber med?
Hvis du ser på 2016, er det du ser etterretningssvikt mellom den amerikanske regjeringen [og] allierte regjeringer, og mellom disse regjeringene og de tekniske plattformene. Vi må tenke på ansvaret for disse ulike gruppene og hvordan du tilpasser det faktum at teknologiselskapene opptrer på en kvasi-statlig måte. Hva slags kontroller skal de ha på plass, og på hvilket tidspunkt begynner og slutter deres ansvar? Vi jobber med anbefalinger for kongressen for neste år.
Vi bygger også muligheten til å overvåke bruken av desinformasjon i ulike valg. Målet vårt er å ha det oppe og gå til det indiske og europeiske valget neste år.
Demokrater vil uunngåelig være mer mottakelige enn republikanere for denne typen løsninger. Hvordan gjør du dette partipolitisk?
Tanken om at valginnblanding bare hjelper republikanerne er galskap. Den russiske lekeboken er der ute. Svakhetene i systemet vårt er påvist. Vi har signalisert til våre motstandere at de kan blande seg inn i valget vårt, og vi vil ikke gjøre noe for å virkelig straffe det.
'Mitt budskap til republikanerne er: 'La oss fikse dette problemet før dere må ha ditt eget 2016.''
Så jeg forventer fullt ut at andre motstandere vil bli involvert i fremtidige valg. Kina, Iran, Nord-Korea – ideen om at alle disse landene skal støtte republikanerne er latterlig. Så mitt budskap til republikanerne er: La oss fikse dette problemet før dere må ha deres eget 2016.
Denne diskusjonen må gå forbi Trump. Republikanerne ender opp med en hjernefrysing hvis du antyder at Trump ikke ble valgt rettferdig. Så vi må bare snakke om sårbarhetene og hvilken mulig effekt det har i 2020. Når jeg snakker privat med republikanere er de mye mer mottakelige for dette.
Et relatert problem er mangelen på teknologisk kompetanse blant politikere. Hvordan løser du det?
Disse folkene har generelt ganske smarte medarbeidere, men de fleste ansatte har ikke jobbet med teknologi. Så vi må oppmuntre folk som har jobbet i teknologien til å jobbe i DC. Det finnes eksempler som Chris Soghoian [en teknologiaktivist, jobber nå for senator Ron Wyden] der teknikere går til kongressen og har stor innflytelse individuelt.
Og det går begge veier. Vi må lære informatikere om historie og etikk, og vi må lære liberale kunstfag om det grunnleggende innen teknologi, slik at de har evnen til å være innflytelsesrike. Evnen til å snakke med nerder på en måte de respekterer er enormt sterk, og det er noe som mangler fra kongressen akkurat nå.