EmTech Stage: Twitters CTO for feilinformasjon

I det andre av to eksklusive intervjuer satte Technology Reviews sjefredaktør Gideon Lichfield seg ned med Parag Agrawal, Twitters teknologisjef for å diskutere fremveksten av feilinformasjon på den sosiale medieplattformen. Agrawal diskuterer noen av tiltakene selskapet har tatt for å slå tilbake, mens han innrømmer at Twitter prøver å tre en nål av begrensende skade forårsaket av falskt innhold uten å bli en sannhetsdommer. Denne samtalen er fra EmTech MIT virtuelle konferanse og har blitt redigert for klarhet.

For mer dekning om dette emnet, sjekk ut denne ukens episode av Deep Tech og dekningen vår for teknologipolitikk.

Studiepoeng:

Denne episoden fra EmTech MIT ble produsert av Jennifer Strong og Emma Cillekens, med spesiell takk til Brian Bryson og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield.

Transkripsjon:

Sterk: Hei alle sammen, det er Jennifer Strong tilbake med del to av samtalen vår om feilinformasjon og sosiale medier. Hvis Facebook er et møtested der du går for å finne fellesskapet ditt, YouTube en konsertsal eller backstage for noe du er fan av, så er Twitter litt som det offentlige torget hvor du går for å finne ut hva som blir sagt om noe. Men hvilket ansvar har disse plattformene når disse samtalene utspiller seg? Twitter har sagt at en av dens ansvar er å sikre at den offentlige samtalen er sunn. Hva betyr det og hvordan måler du det?

Det er et spørsmål vi stilte til Twitters teknologisjef Parag Agrawal. Her er han, i samtale med Tech Reviews sjefredaktør Gideon Lichfield. Den ble tatt opp på vår EmTech-konferanse og har blitt redigert for lengde og klarhet.

Lichfield: For et par år siden var det et prosjekt du begynte å snakke om beregninger som ville måle hva en sunn offentlig samtale er. Jeg har ikke sett så mye om det siden den gang. Så hva skjer med det? Hvordan måler du dette?

Agrawal: For to år siden, da vi faktisk jobbet med noen mennesker på MITs medialab og inspirert av tenkningen, satte vi i gang et prosjekt for å jobbe med akademikere utenfor selskapet, for å se om vi kunne definere noen få enkle beregninger eller målinger for å indikere helsen til den offentlige samtalen. Det vi innså i samarbeid med eksperter fra mange steder er at det er veldig, veldig utfordrende å koke ned nyansene og forviklingene i det vi anser som en sunn offentlig samtale til noen få enkle å forstå, lett å måle beregninger som du kan stole på. Og denne samtalen har informert om en endring i vår tilnærming.

Det som har endret seg er om vi er foreskrivende eller ikke når det gjelder å prøve å koke ting ned til noen få tall. Men det som gjenstår er at vi innser at vi må jobbe med akademiske forskere utenfor Twitter, dele mer av dataene våre i en åpen setting, hvor de kan bruke dem til å forske, for å fremme ulike felt. Uh, og det er en haug med API-relaterte produkter som vi vil sende i løpet av de kommende månedene. Og en av tingene som direkte førte til den samtalen var i april, da vi så, eh, COVID, eh, vi opprettet et endepunkt for COVID-relatert samtale som akademiske forskere kunne ha tilgang til. Uh, vi har sett forskning på tvers av fire 20 land, få tilgang til det.

Så på en måte er jeg glad for at vi la ut på den reisen. Og jeg håper fortsatt at med denne åpne tilnærmingen vil det være akademikere og vårt samarbeid med dem, som til slutt vil føre oss til å forstå offentlig samtale og sunn offentlig samtale nok til å kunne koke ned målingen til noen få beregninger . Men jeg er også spent på alle de andre forskningsveiene denne tilnærmingen åpner for oss.

Lichfield: Har du en følelse av hvordan et eksempel på en slik beregning vil se ut?

Agrawal: Så da vi begynte å snakke om dette, antok vi at det var noen få beregninger rundt, deler folk en følelse av virkelighet? Har mennesker ulike perspektiver og kan bli utsatt for ulike perspektiver? Vi tenkte på er samtalen sivil, ikke sant? Så konseptuelt er dette alle egenskaper vi ønsker i en sunn offentlig samtale. Utfordringen ligger i å kunne måle dem på en måte som er i stand til å utvikle seg etter hvert som samtalen utvikler seg, på en måte som er pålitelig og tåler tidens tann, da samtalen for to år siden var veldig forskjellig fra samtalen i dag. Utfordringene for to år siden, slik vi forsto dem, er svært forskjellige i dag. Uh, og det er der noen av utfordringene og vår forståelse av hva sunn offentlig organisering betyr fortsatt dukker opp for at vi skal kunne koke det ned i disse enkle beregningene.

Lichfield: La oss snakke litt om noen av tingene du har gjort de siste par årene. Jeg mener, det har åpenbart vært mye oppmerksomhet rundt beslutningene om å flagge noen av Donald Trumps tweets. Jeg tror at det mer systematiske arbeidet du har gjort de siste par årene mot feilinformasjon, kan du oppsummere hovedpoengene i det du har gjort?

Agrawal: Vår tilnærming til det er ikke å prøve å identifisere eller flagge all potensiell feilinformasjon. Men vår tilnærming er forankret i å prøve å unngå spesifikk skade som villedende informasjon kan forårsake. Vi har vært fokusert i vår tilnærming, og fokusert på skade som kan gjøres med feilinformasjon rundt COVID-19, som har å gjøre med folkehelse, hvor noen få personer som blir feilinformert kan føre til implikasjoner for alle. På samme måte fokuserte vi på feilinformasjon rundt det vi kaller borgerlig integritet, som handler om at folk har evnen til å vite hvordan de skal delta i valg.

Så et eksempel, bare for å gjøre dette klart, er rundt borgerlig integritet, vi bryr oss om, og vi tar handling på innhold som kan feilinformere folk som sier at du bør stemme 5. november, når valgdagen er 3. november. Og vi prøver ikke å finne ut hva som er sant eller usant når noen tar et politisk standpunkt eller når noen sier at himmelen er lilla eller blå, eller rød for den saks skyld. Vår tilnærming til feilinformasjon er heller ikke en som fokuserer på å fjerne innhold som det eneste tiltaket, som er regimet vi alle har operert i i mange år. Men det er en stadig mer nyansert tilnærming med en rekke intervensjoner, der vi tenker på om visst innhold bør forsterkes uten kontekst, eller om det er vårt ansvar å gi litt kontekst slik at folk kan se en haug med informasjon, men også ha evne og letthet til å oppdage all samtalen og konteksten rundt det, til å informere seg selv om hva de velger å tro på.

Lichfield: Hvordan vurderer du om noe er skadelig uten også å prøve å finne ut om det er sant, med andre ord, COVID spesielt for eksempel?

Agrawal: Det er et flott spørsmål, og jeg tror du i noen tilfeller stoler på troverdige kilder for å gi den konteksten. Så du trenger ikke alltid å finne ut om noe er sant eller usant, men hvis det er potensiale for skade, velger vi å ikke flagge noe som sant eller usant, men vi velger å legge til en lenke til troverdige kilder, eller til ytterligere samtale rundt dette emnet, for å gi folk kontekst rundt innholdet slik at de kan bli bedre informert, selv om disse dataene for forståelse og kunnskap utvikler seg. Og offentlig samtale er avgjørende for den utviklingen. Vi så folk lære gjennom Twitter, på grunn av måten de ble informert på. Og eksperter har samtaler gjennom Twitter for å fremme forståelsen vår rundt denne sykdommen også.

Lichfield: Folk har advart om QAnon i årevis. Du begynte å ta ned QAnon-kontoer i juli. Hva tok deg så lang tid? Hvorfor har du … hva endret tankegangen din?

Agrawal: Måten vi tenker på QAnon eller vi tenkte på QAnon, er at vi har en koordinert manipulasjonspolitikk som vi har hatt en stund, og måten den fungerer på er at vi jobber med sivile tjenester og menneskerettighetsgrupper over hele verden for å prøve å forstå hvilke grupper, eller hvilke organisasjoner, eller hva slags aktivitet øker til et skadenivå der det krever handling fra oss. I ettertid skulle jeg ønske at vi hadde handlet tidligere, men siden vi forsto trusselen godt, ved å samarbeide med disse gruppene, tok vi grep og handlingene våre har innebåret en slags reduserende forsterkning av dette innholdet og flagging av dette innholdet på en måte som førte til svært rask nedgang i mengden av rekkevidde QAnon og relatert innhold fikk på plattformen med over 50 %. Og siden den gang har vi sett vedvarende nedganger som et resultat av dette trekket.

Lichfield: Jeg får en del spørsmål fra salen, som på en måte alle spør om det samme. Og de spør i grunnen, vel, jeg skal lese dem. Hvem skal bestemme hva som er feilinformasjon? Kan du gi en klar klinisk definisjon av feilinformasjon? Må noe ha ondsinnet hensikt for å være feilinformasjon? Hvordan vet du om dine troverdige kilder er sannferdige, hva som måler troverdigheten til disse kildene og noen sier til og med at jeg har sett feilinformasjon i de såkalte troverdige kildene. Så hvordan definerer du den setningen?

Agrawal: Jeg tror det er vår tids eksistensielle spørsmål. Å definere feilinformasjon er veldig, veldig vanskelig. Når vi lærer gjennom tiden, utvikler vår forståelse av sannhet seg også. Vi prøver å ikke dømme sannheten, vi fokuserer på potensialet for skade. Og når vi sier at vi lener oss på troverdige kilder, støtter vi oss også på all samtalen på plattformen som også snakker om disse troverdige kildene og påpeker potensielle hull som et resultat av at de troverdige kildene også utvikler sin tenkning eller hva de snakker om. Om.

Så vi fokuserte mye mindre på hva som er sant og hva som er usant. Vi fokuserer mye mer på potensialet for skade som følge av at bestemt innhold forsterkes på plattformen uten passende kontekst. Og kontekst er ofte bare en tilleggssamtale som gir et annet synspunkt på et emne, slik at folk kan se bredden av samtalen på plattformen vår og utenfor og ta sine egne avgjørelser i en verden der vi alle lærer sammen.

Lichfield: Bruker du en annen standard på ting som kommer fra verdensledere?

Agrawal: Vi har en policy rundt offentlig innhold i allmennhetens interesse, det er i vårt politiske rammeverk. Så ja, vi bruker forskjellige standarder. Og dette er basert på forståelsen og kunnskapen om at det er visst innhold fra folkevalgte som er viktig for publikum å se og høre. Og at alt innholdet på Twitter ikke bare er på Twitter. Det er i redaksjoner, det er på pressekonferanser, men ofte er kildeinnholdet på Twitter. Politikken for allmenn interesse eksisterer for å sikre at kildeinnholdet er tilgjengelig. Vi flagger imidlertid veldig tydelig for alle rundt når slikt innhold bryter noen av retningslinjene våre. Vi tar det dristige trekket å flagge det, merke det slik at folk har den passende konteksten at dette faktisk er et eksempel på et brudd, slik at folk kan se på innholdet i lys av denne forståelsen.

Lichfield: Hvis du tar president Trump, var det en Cornell-studie som viste det - de målte at 38% av feilinformasjonen om COVID omtaler ham. De kalte dem den største enkeltdriveren for feilinformasjon rundt COVID. Du flagget noen av tweetene hans, men det er mye han legger ut som ikke helt går opp til den strenge definisjonen av feilinformasjon, og som likevel villeder folk om pandemiens natur. Så undergraver ikke dette, dette unntaket for offentlige tjenestemenn, hele strategien?

Agrawal: Enhver offentlig tjenestemann har tilgang til flere måter å nå folk på. Twitter er en av dem. Vi eksisterer i et stort økosystem. Vår tilnærming til å merke innhold lar oss faktisk, ved kilden, flagge innhold som potensielt kan skade folk, og også gi folk ekstra kontekst og ytterligere samtale rundt det. Så mange av disse studiene, og jeg er ikke kjent med den du siterte, er faktisk bredere enn Twitter. Og handler de om Twitter, snakker de om rekkevidde og inntrykk, uten å snakke om at folk også blir utsatt for andre informasjonsbiter rundt temaet. Nå får vi ikke bestemme hva folk velger å tro, men vi får vise frem innhold og et mangfold av synspunkter på ethvert tema, slik at folk kan ta sine egne avgjørelser.

Lichfield: Det høres litt ut som du prøver å si, vel, det er ikke bare vår feil. Det er alles skyld. Og derfor er det ikke mye vi kan gjøre med det.

Agrawal: Jeg tror ikke jeg sier det. Det jeg snakker om, temaer om feilinformasjon har alltid eksistert i samfunnet. Vi er nå en kritisk del av stoffet i offentlig samtale, og det er vår rolle i verden. Dette er ikke temaer vi får frigjort oss fra. Dette er temaer som vil forbli aktuelle i dag og vil forbli aktuelle om fem år. Jeg lever ikke i illusjonen om at vi kan gjøre noe som på magisk vis får det villedende informasjonsproblemet til å forsvinne. Vi har ikke den typen makt eller kontroll. Og jeg vil ærlig talt ikke ha den makten eller kontrollen. Men vi har privilegiet av å lytte til folk, å ha et mangfoldig sett med mennesker på plattformen vår, de uttrykker et mangfoldig sett av synspunkter, de tingene som virkelig betyr noe for alle, og for oss å kunne vise dem frem med den rette konteksten slik at samfunnet kan lære av hverandre og komme videre.

Lichfield: Når man snakker om å la folk se innhold og trekke sine egne konklusjoner eller komme til sine egne meninger, det er den typen språk man forbinder med, tror jeg måten sosiale medieplattformer tradisjonelt presenterte seg på. 'Vi er bare en nøytral plass, folk kommer og bruker oss, vi prøver ikke å dømme.' Og det virker litt i strid med det du sa tidligere om ønsket om å fremme en sunn offentlig samtale, som helt klart innebærer mange verdivurderinger om hva som er sunt. Så hvordan forener du disse to?

Agrawal: Å, jeg sier ikke at vi er en nøytral part i hele denne samtalen. Som jeg sa, vi er en kritisk del av stoffet i offentlig samtale. Og du vil ikke at vi skal dømme hva som er sant eller hva som er usant i verden. Og ærlig talt kan vi ikke gjøre det globalt i alle landene vi jobber i på tvers av alle kulturer og alle nyansene som finnes. Vi har imidlertid privilegiet av å ha alle på plattformen som kan endre ting, gi folk mer kontroll og må styre samtalen på en måte som er mer mottakelig og lar flere stemmer bli hørt og for alle. av oss for å bli bedre informert.

Lichfield: En av tingene som noen observatører sier at du kan gjøre som ville utgjøre en stor forskjell, ville være å avskaffe funksjonen for trendende emner, fordi det er der mye feilinformasjon ender opp med å dukke opp. Ting som QAnon-hashtaggen redder barna, eller det var en konspirasjonsteori om Hillary Clinton-ansatte som rigget til Iowa-korpset. Noen ganger går slike ting inn i trendtemaer, og da har de stor innflytelse. Hva synes du om at?

Agrawal: Jeg vet ikke om du så det, men akkurat denne uken gjorde vi en endring i hvordan trender og trendtemaer fungerer på plattformen. Og en av tingene vi gjorde var, vi skal vise kontekst på alt som trender, slik at folk blir bedre informert når de ser hva folk snakker om.

Sterk: Vi skal ta en kort pause - men først... jeg vil foreslå et annet show jeg tror du vil like. Brave New Planet veier fordeler og ulemper ved en lang rekke kraftige innovasjoner innen vitenskap og teknologi. Dr. Eric Lander, som leder Broad Institute of MIT og Harvard, utforsker vanskelige spørsmål som

Lander: Bør vi endre jordens atmosfære for å forhindre klimaendringer? Og kan sannhet og demokrati overleve virkningen av deepfakes?

Sterk: Brave New Planet er fra Pushkin Industries. Du finner den uansett hvor du får podcastene dine. Vi kommer tilbake rett etter dette.

[Annonse]

Sterk: Velkommen tilbake til en spesiell episode av In Machines We Trust. Dette er en samtale mellom Twitters teknologisjef Parag Agrawal og Tech Reviews sjefredaktør Gideon Lichfield. Hvis du vil ha mer om dette emnet, inkludert vår analyse, vennligst sjekk ut shownotatene eller besøk oss på Technology Review dot com.

Lichfield: Valget er åpenbart veldig nært. Og jeg tror mange spør hva som kommer til å skje, spesielt på valgdagen, ettersom det begynner å komme rapporter fra meningsmålingene, er det bekymring for at noen politikere kommer til å spre rykter om vold eller stemmesvindel eller andre, andre problemer , som igjen kan utløse demonstrasjoner og vold. Og så det er noe som alle de sosiale plattformene må reagere på veldig raskt i sanntid. Hva skal du gjøre?

Agrawal: Vi har jobbet gjennom valg i mange land de siste fire årene. India, Brasil, store demokratier lærte gjennom hver av dem, og vi har jobbet i løpet av årene for å være bedre forberedt på det som kommer. I fjor gjorde vi en endring rundt policyen for å forby all politisk annonsering på Twitter, som var i påvente av potensialet til å gjøre skade. Og vi ønsket at oppmerksomheten vår skulle være fokusert, ikke på reklame, men på den offentlige samtalen som skjer organisk for å kunne beskytte den og forbedre den, spesielt når den gjelder samtaler rundt valget.

Vi har jobbet mye med teknologi for å bli bedre til å oppdage og forstå statlige dårlige skuespillere og deres forsøk på å manipulere valg, og vi har vært veldig transparente om dette. Vi har offentliggjort hundrevis av slike operasjoner fra over 10 nasjoner, med titusenvis av kontoer hver og terabyte med data som lar folk utenfor selskapet analysere det og forstå manipulasjonsmønstrene som er på spill. Og vi har gått videre med produktendringer for å få mer omtanke og omtanke i hvordan folk deler innhold og hvordan folk forsterker innhold.

Så vi har gjort en haug med dette arbeidet som forberedelse og gjennom læring underveis. For å få svar om valgnatten. Vi har også styrket retningslinjene for vår borgerlige integritet for ikke å tillate noen, kandidater eller noen på tvers av alle raser å kunne kreve et valg når en vinner ikke er erklært. Vi har også strenge tiltak for å unngå oppfordringer til vold. Og vi har et team klart, som vil jobbe 24/7 for å sette oss i en smidig tilstand.

Når det er sagt, har vi gjort en haug med arbeid for å forutse hva som kan skje, men en ting vi vet med sikkerhet er at det som sannsynligvis vil skje, ikke er noe vi akkurat har forutsett. Så hva kommer til å være viktig for oss den kvelden og utover, og til og med frem til den tiden for å være forberedt, å være smidig, å svare på tilbakemeldingene vi fikk på plattformen, å svare på samtalen du ser på og utenfor plattformen, eh, og prøv å gjøre vårt beste for å tjene den offentlige samtalen i denne viktige tiden i dette landet.

Lichfield: Noen i salen spurte noe som jeg ikke tror du ville gå med på, som var, sa de, skulle Facebook og Twitter stenges ned i tre dager før valget? Men kanskje en mer beskjeden versjon av det ville vært, er det noe slags innhold du mener bør stenges rett før et valg?

Agrawal: Akkurat denne uken er en av de fremtredende endringene det er verdt å snakke om i detalj, at vi fikk folk til å ta mer hensyn, mer ettertanke når de retweet. Så i stedet for å enkelt kunne retweete innhold uten ytterligere kommentarer, legger vi nå som standard folk til å legge til en kommentar når de retweeter. Og dette er av to grunner, en for å legge til flere hensyn når du retweeter og forsterker bestemt innhold og to, for å få innhold til å deles med mer kontekst om hva du synes om det, slik at folk forstår hvorfor du deler det, og hva konteksten rundt settet av samtale er. Vi fikk også trendene til å endre seg som jeg beskrev tidligere. Dette er endringer som er ment å få samtalen på Twitter til å være mer gjennomtenkt.

Når det er sagt, kommer Twitter til å være et veldig, veldig kraftig verktøy i løpet av valgperioden for at folk skal forstå hva som skjer, for at folk skal få virkelig viktig informasjon. Vi har merkelapper på alle kandidater. Vi har informasjon på plattformen om hvordan de kan stemme. Vi har tilbakemeldinger i sanntid fra folk over hele landet, som forteller folk hva som skjer på bakken. Og alt dette er viktig informasjon for alle i dette landet å være klar over i den tiden. Det er et øyeblikk hvor hver enkelt av oss leter etter informasjon og plattformen vår har en spesielt viktig rolle den dagen.

Lichfield: Du er fanget på et litt vanskelig sted ettersom noen i publikum også påpeker, at du prøver å bekjempe feilinformasjon, du vil også beskytte ytringsfrihet som en kjerneverdi, og også i USA som den første endring. Hvordan balanserer du disse to?

Agrawal: Vår rolle er ikke å være bundet av det første endringsforslaget, men vår rolle er å tjene en sunn offentlig samtale, og bevegelsene våre gjenspeiler ting som vi tror fører til en sunnere offentlig samtale. Den typen ting vi gjør med dette er å fokusere mindre på å tenke på ytringsfrihet, men å tenke på hvordan tidene har endret seg. En av endringene i dag som vi ser er tale er enkelt på internett. De fleste kan snakke. Der vår rolle er spesielt vektlagt er hvem som kan bli hørt. Den knappe varen i dag er oppmerksomhet. Det er mye innhold der ute. Mange tweets der ute, ikke alt får oppmerksomhet, noen undergrupper av det får oppmerksomhet. Og så i økende grad beveger rollen vår seg mot hvordan vi anbefaler innhold, og den slags, er, er, en kamp som vi jobber gjennom når det gjelder hvordan vi sørger for at disse anbefalingssystemene vi bygger, hvordan vi retter folks oppmerksomhet fører til en sunn offentlig samtale som er mest deltakende.

Lichfield: Vel, vi er ute av tiden, men takk for virkelig interessant innsikt i hvordan du tenker rundt disse svært kompliserte problemene.

Agrawal: Takk Gideon for at du har meg.

[Musikk]

Sterk: Hvis du vil høre nyhetsrommets analyse av dette emnet og valget ... har jeg lagt ut en lenke i programnotatene våre. Jeg håper du vil sjekke det ut. Denne episoden fra EmTech ble produsert av meg og av Emma Cillekens, med spesiell takk til Brian Bryson og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield. Som alltid, takk for at du lyttet. Jeg er Jennifer Strong.

[TR ID]

gjemme seg