EmTech Stage: Facebooks CTO på feilinformasjon

Feilinformasjon og sosiale medier har blitt uatskillelige fra hverandre; Ettersom plattformer som Twitter og Facebook har vokst til verdensomspennende størrelse, har også trusselen fra spredningen av falskt innhold blitt større. Midt i en ustabil valgsesong i USA og en rasende global pandemi, vises kraften til informasjon til å endre meninger og redde liv (eller sette dem i fare). I det første av to eksklusive intervjuer med to av teknologiverdenens mektigste personer, setter Technology Reviews sjefredaktør Gideon Lichfield seg ned med Facebooks CTO Mike Schroepfer for å snakke om utfordringene med å bekjempe falskt og skadelig innhold på en nettplattform som brukes av milliarder rundt om i verden. Denne samtalen er fra EmTech MIT virtuelle konferanse og har blitt redigert for lengde og klarhet.

For mer dekning om dette emnet, sjekk ut denne ukens episode av Deep Tech og dekningen vår for teknologipolitikk.

Studiepoeng:

Denne episoden fra EmTech ble produsert av Jennifer Strong og Emma Cillekens, med spesiell takk til Brian Bryson og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield.

Transkripsjon:

Sterk: Hei alle sammen, det er Jennifer Strong. Forrige uke lovet jeg å plukke ut noe å spille for deg fra EmTech, vår nyhetsroms store årlige konferanse. Så her er det. Med valget i USA bare dager unna, skal vi dykke rett inn i et av de mest omstridte temaene i teknologiverdenen og utover - feilinformasjon.

Nå starter mye av dette på konspirasjonsnettsteder, men det er på sosiale medier det blir forsterket og spredt. Disse selskapene tar stadig dristigere tiltak for å forby visse typer falske nyheter og ekstremistiske grupper, og de bruker teknologi for å filtrere ut feilinformasjon før mennesker kan se det. De hevder å bli bedre og bedre på det, og en dag sier de at de vil være i stand til å gjøre internett trygt for alle igjen. Men kan de virkelig gjøre det?

I de neste to episodene skal vi møte teknologisjefene til Facebook og Twitter. De har begge tatt VELDIG forskjellige tilnærminger når det kommer til feilinformasjon, delvis fordi mye av det som skjer på Facebook er i private grupper, noe som gjør det vanskeligere å takle. Mens på Twitter skjer det meste offentlig. Så, først ut - Facebook. Her er Gideon Lichfield, sjefredaktør for Tech Review. Han er på den virtuelle hovedscenen til EmTech for en økt som spør: 'Kan AI rydde opp på internett'? Denne samtalen er redigert for lengde og klarhet.

Lichfield: Jeg skal henvende meg til vår første foredragsholder, som er Mike Schroepfer. Generelt kjent for alle sine kolleger som Schrep. Han er CTO for Facebook. Han har jobbet på Facebook siden 2008 og da det var mye mindre og han ble CTO i 2013. I fjor skrev The New York Times en stor profil av ham, noe som er veldig interessant å lese. Den fikk tittelen 'Facebooks AI-sviser står nå overfor oppgaven med å rydde opp i den. Noen ganger får det ham til å gråte. Schrep, velkommen. Takk for at du ble med oss ​​på EmTech.

Schroepfer: Hei Gideon, takk. Glad for å være her.

Lichfield: Facebook har gjort noen ganske aggressive grep, spesielt de siste månedene. Du har tatt grep mot QAnon, du har forbudt Holocaust-fornektelse og anti-vaksinasjonsannonser. Men folk har advart om QAnon i årevis, folk har advart mot feilinformasjon mot vaksinasjon i årevis. Så hvorfor tok det deg så lang tid? Hva, hva, endret tankegangen din for å få deg til å ta denne handlingen?

Schroepfer: Ja, jeg mener, verden forandrer seg hele tiden. Det er mange nyere data du vet, om fremveksten av antisemittisk tro eller mangel på forståelse om Holocaust. QAnon du vet har gått inn i en mer trussel om vold de siste årene. Og ideen om at det ville være trusler om vold rundt et amerikansk valg er en ny ting. Og så, spesielt rundt steder der samfunnet og ting som er kritiske hendelser, som et valg, gjør vi alt vi kan for å sørge for at folk føler seg trygge og trygge og informert for å ta avgjørelsen de får ta for å velge hvem er i regjering. Og derfor tar vi mer aggressive tiltak.

Lichfield: Du sa noe akkurat nå, du sa at det var mye data. Og den slags resonerer med meg med noe som jeg hadde Alex Stamos, den tidligere sikkerhetssjefen til Facebook, sa han nylig i en podcast, at på Facebook blir beslutninger virkelig tatt på grunnlag av data. Så er det det du trenger, du trengte å ha overveldende databevis, men du vet, Holocaust-fornektelsen forårsaker skade eller QAnon forårsaker skade før du tar grep mot det.

Schroepfer: Det jeg vil si er dette. Vi driver en tjeneste som brukes av milliarder av mennesker over hele verden, så en feil jeg ikke vil gjøre er å anta at jeg forstår hva andre mennesker trenger, hva andre mennesker vil ha, eller hva som skjer. En måte å unngå det på er å stole på ekspertise der vi har den. Så, du vet, for eksempel for farlige organisasjoner, vi har mange mennesker med bakgrunn innen terrorbekjempelse, dro til West Point, vi har mange mennesker med rettshåndhevelsesbakgrunn der du snakker om stemmeinnblanding, vi har eksperter med bakgrunn og stemmegivning og rettigheter.

Og så du, du lytter til eksperter, eh, og du ser på data og du, og du prøver å forstå det emnet i stedet for, du vet, du vil ikke at jeg skal ta disse avgjørelsene. Du, du vil ha ekspertene, og du vil at dataene skal gjøre det. Og fordi det ikke bare er, du vet, dette problemet her, det er, det er spørsmål om personvern, det er problemer og lokaliteter, og, og, så jeg vil si at vi prøver å være strenge med å bruke slags ekspertise og data der vi kan, så vi gjør ikke antagelser om hva som skjer i verden, eller hva vi tror folk trenger.

Lichfield: Vel, la oss snakke litt mer om QAnon spesifikt fordi tilnærmingen du tar, åpenbart, for å håndtere denne informasjonen, mens du prøver å trene AI-ene dine til å gjenkjenne ting som er skadelige. Og vanskeligheten med denne tilnærmingen er at feilinformasjonen stadig endrer den kontekstspesifikke, ikke sant? Og feilinformasjon om muslimer i Myanmar, som utløste opptøyer der. Du vet ikke at det er feilinformasjon før det begynner å dukke opp. Problemet det virker for meg med Q Anon er at det er slik, det er ikke som ISIS eller noe. dens tro fortsetter å endre kontoene, fortsett å endre seg. Så, hvordan takler du noe som er så dårlig definert som en trussel som det?

Schroepfer: Vel, du vet, jeg skal snakke om dette og, og jeg tror en av de, fra et teknisk perspektiv, en av de vanskeligste utfordringene som jeg har vært veldig fokusert på de siste årene, på grunn av lignende problemer mht. subtilitet, kodet språk og motstridende oppførsel, som er hatefulle ytringer. Det er åpenlyst hatefulle ytringer, noe som er veldig åpenbart, og du kan bruke slags setninger du har lagt inn eller, eller, eller nøkkelord. Men folk tilpasser seg og de bruker kodet språk og de gjør det, du vet, på daglig, ukentlig basis. Og du kan til og med gjøre dette med memer der du har et bilde og så legger du noen ord på toppen av det, og det endrer helt betydningen. Du lukter godt i dag. Og bildene av skunk er en helt annen ting enn, du vet, en blomst, og du må sette alt sammen.

Og så, um, og på samme måte, som du sier, med QAnon og det kan være subtilitet og slike ting. Dette er grunnen til at jeg har vært så fokusert på, du vet, et par viktige AI-teknologier. Den ene er at vi dramatisk har økt kraften til disse klassifikatorene til å forstå og håndtere nyansert informasjon. Du vet, for fem eller ti år siden var nok nøkkelord det beste vi kunne gjøre. Nå er vi ved det punktet hvor klassifikatorene våre fanger opp feil i merkedataene eller fanger opp feil som menneskelige anmeldere noen ganger gjør. Fordi de er kraftige nok til å fange subtilitet i emner som, er dette et innlegg som oppfordrer til vold mot en velger? Eller uttrykker de bare misnøye med å stemme eller denne befolkningen? Det er to veldig... dessverre er det en, det er en fin linje når du ser på hvor nøye folk prøver å være med å kode språket for å komme seg rundt det.

Og så ser du lignende ting med QAnon og andre. Og så vi har klassifiserere nå som, du vet, det toppmoderne arbeidet vårt på flere språk og er virkelig imponerende i det de har gjort gjennom teknikker som vi kan gå inn i som selvtilsyn, um, å se på, du vet, milliarder av databiter for å trene. Og så den andre tingen vi har er at vi bruker en lignende teknikk som denne, som lar oss gjøre, du vet, den beste måten å beskrive det som en slags uklar matching. Som er som en menneskelig anmelder, bruker tiden og sier, vet du hva, jeg tror at disse bitene av feilinformasjon, eller dette er en QAnon-gruppe, selv om den er kodet på forskjellige språk, det vi da kan gjøre er å vifte ut og finn ting som er semantisk like, ikke de eksakte ordene, ikke nøkkelord, ikke regexes, um, men ting som er veldig nærme i a, i et innebygd rom som er semantisk like. Og så kan vi ta grep mot dem.

Og dette tillater det jeg kaller rask reaksjon. Så selv om jeg ikke hadde noen anelse om hva denne tingen var i går, i dag, hvis en gjeng med menneskelige anmeldere finner den, kan vi forsterke arbeidet deres på tvers av nettverket og implementere det proaktivt når som helst nye deler av informasjon. Bare for å sette dette i sammenheng, vet du, i Q2 tok vi ned 7 millioner deler av feilinformasjon om COVID. Åpenbart i fjerde kvartal i fjor var det ikke noe slikt som feilinformasjon om COVID. Så vi måtte på en måte bygge en ny klassifiseringsteknikk for å gjøre dette. Og tingen jeg har utfordret teamet er som å få klassifisereren vår ned fra det som pleide å være mange, mange måneder til, du vet, hva, noen ganger uker, til dager, til minutter. Første gang jeg ser et eksempel, eller første gang jeg leser en ny policy, vil jeg være i stand til å bygge en klassifiser som er funksjonell i milliarder brukerskala. Og du vet, vi er ikke der ennå, men vi gjør raske fremskritt

Lichfield: Vi vil. Så jeg tror det er dette spørsmålet er, hvor rask er fremgangen, ikke sant? Det, de 7 millioner stykkene med feilinformasjonsstatistikk. Jeg så det sitert av en Facebook-talsperson som svar på en studie som kom ut fra Avaaz i august. Og den hadde sett på feilinformasjon om COVID som fant at de 10 beste nettstedene som spredte feilinformasjon hadde fire ganger så mange estimerte visninger på Facebook som tilsvarende innhold fra nettsidene til 10 ledende helseinstitusjoner, som WHO, de fant at bare 16 % av all feilinformasjon om helse, de analyserte, hadde en advarselsetikett fra Facebook. Så med andre ord, du gjør åpenbart mye, du gjør mye mer enn du var, og du, og du er fortsatt, etter det antallet langt bak kurven. Hvordan, og dette er en krise som tar livet av folk. Så hvor lang tid vil det ta deg å komme dit, tror du?

Schroepfer: Ja, jeg mener, jeg tror det er her, du vet, jeg vil at vi skal publisere mer data om dette. For det du trengte for å sammenligne epler med epler, er den totale rekkevidden av denne informasjonen, og på en måte hva som er informasjonen, typen eksponeringsdietten til den gjennomsnittlige Facebook-brukeren. Og jeg tror det er et par stykker som folk ikke får med seg. Den første er at de flestes nyhetsfeed er fylt med innhold fra vennene deres. Som nyhetslenker, disse er en slags minoritet av visningene alt i og folks nyhetsfeed og Facebook. Jeg mener, poenget med Facebook er å få kontakt med vennene dine, og du har sikkert opplevd dette selv. Det er, du vet, innlegg og bilder og sånne ting.

For det andre, på ting som feilinformasjon om COVID, som det du virkelig har å sammenligne det med, er å sammenligne det, for eksempel med visninger av COVID-informasjonssenteret vårt, som vi bokstavelig talt presset helt til toppen av nyhetsstrømmen slik at alle kunne få informasjon på det. Vi gjør lignende ting, for å stemme. Vi har hjulpet til med å registrere nesten to og en halv million velgere i USA. Lignende informasjon, du vet, for spørsmål om raserettferdighet gitt alle de forferdelige hendelsene som har skjedd i år. Så det jeg ikke har er den omfattende studien av, vet du, hvor mange ganger så noen på COVID-informasjonssenteret kontra disse andre tingene? Um, du vet, men jeg antar at de får mye mer av den gode informasjonen fra oss.

Men se, du vet, når som helst noe av dette slipper jeg, er jeg ikke ferdig ennå. Dette er grunnen til at jeg fortsatt er her og gjør jobben min, er vi ønsker å få dette bedre. Og, og, og ja, jeg skulle ønske det var 0%. Jeg skulle ønske klassifiseringene våre var 99,999 % nøyaktige. De er ikke. Du vet, jobben min er å få dem dit så raskt som menneskelig mulig. Og når vi går av denne samtalen, er det det jeg skal jobbe med. Det jeg kan gjøre er bare å se på som nyere historie og prosjektfremgang fremover. For jeg kan ikke fikse fortiden, men jeg kan fikse i dag og i morgen. Når jeg ser på ting som, du vet, hatytringer, der, du vet, i 2017, bare omtrent en fjerdedel av hatytringene ble funnet av systemene våre, først. Nesten tre fjerdedeler av det ble funnet av noen på Facebook først. Noe som er forferdelig, noe som betyr at de ble utsatt for det og måtte rapportere det til oss. Og nå er tallet oppe i 99, 94,5 %. Selv i det siste, vet du, mellom Q2 i år og samme tid i fjor, femdoblet vi mengden innhold vi tar ned for hatefulle ytringer. Og jeg kan spore alt dette. Nå skal det tallet være 99,99 og vi burde ikke engang ha denne samtalen fordi du burde si, jeg har aldri sett noe av dette, og jeg hører aldri om det, fordi det er borte.

Det er målet mitt, men jeg kan ikke komme dit ennå. Men hvis du bare ser på det siste, vet du, hver gang jeg sier noe 5 ganger i løpet av et år, eller det går fra 24 % til 94 % på to år, som, og jeg sier, vi har en, vi er ikke , Jeg er ikke tom for ideer, vi distribuerer fortsatt toppmoderne ting som denne uken, neste uke, forrige uke, så det er derfor jeg er optimistisk totalt sett at vi kommer til å flytte dette problem til et sted hvor det ikke er det første du vil snakke med meg om, men jeg er ikke der ennå.

Lichfield: Det er et teknisk problem. Det er også åpenbart et arbeidsstyrkeproblem. Du kommer tydeligvis til å bli kjent med, eh, notatet som Sophie Zhang, som var en tidligere Facebook-dataforsker, skrev da hun dro. Og hun skrev om hvordan hun jobbet på et av teamene, du har flere team som jobber med å prøve å identifisere skadelig informasjon rundt om i verden. Og hovedklagen hennes, det ser ut til at hun følte at disse lagene var underbemannet og hun måtte prioritere avgjørelser om hvorvidt hun skulle behandle feilinformasjon rundt et valg i et land som farlig. Og når det, de beslutningene man prioriterte, kunne det noen ganger ta måneder før et problem ble håndtert, og det kan få reelle konsekvenser. Um, du har, jeg tror hva 15 000 menneskelige moderatorer akkurat nå, tror du at du har nok folk?

Schroepfer: Jeg tror aldri vi har nok folk på noe. Så jeg, vet du, jeg har ennå ikke vært på et prosjekt der vi lette etter ting å jobbe med, og jeg mener det seriøst. Og vi, du vet, på 35 000 mennesker som jobber med dette fra, du vet, gjennomgang og innholds- og sikkerhets- og sikkerhetssiden. Den andre tingen jeg tror vi ikke snakker mye om er, hvis du går og snakker med lederne av AI-teamet mitt og spør dem hva Schrep har bedt oss om å gjøre de siste tre årene, det er integritet, det er innholdsmoderering . Det er ikke kult, nye ting. Det er som, hvordan bekjemper vi dette problemet? Og det er mange år siden vi har jobbet med det.

Så jeg har tatt på en måte det beste og det flinkeste vi har i selskapet og sagt, du vet, og det er ikke sånn at jeg må beordre dem til å gjøre det fordi de vil jobbe med det. Jeg sier, vi har dette enorme problemet, vi kan hjelpe, la oss få dette gjort. Er vi ferdige snart? Nei. Er jeg utålmodig? Absolutt. Skulle jeg ønske vi hadde flere som jobbet med det? Hele tiden. Du vet, vi må gjøre våre avveininger på disse tingene, og så, du vet, um, men jobben min, du vet, og det vi kan gjøre med teknologi er på en måte å fjerne noen av disse avveiningene. Du vet, hver gang vi distribuerer en ny, kraftigere klassifisering, um, som fjerner massevis av arbeid fra våre menneskelige moderatorer, som deretter kan jobbe med problemer på høyere nivå. Du vet, i stedet for deg, du vet, virkelig lette avgjørelser, går de videre til feilinformasjon og virkelig vage ting og vurderer farlige grupper og den slags å flytte folk oppover vanskelighetskurven er, er også å forbedre ting. Og det er det vi prøver å gjøre.

Sterk: Vi skal ta en kort pause - men først vil jeg foreslå et annet show jeg tror du vil like. Brave New Planet veier fordeler og ulemper ved en lang rekke kraftige innovasjoner innen vitenskap og teknologi. Dr. Eric Lander, som leder Broad Institute of MIT og Harvard utforsker vanskelige spørsmål som;

Lander: Bør vi endre jordens atmosfære for å forhindre klimaendringer? Og kan sannhet og demokrati overleve virkningen av deepfakes?

Sterk: Brave New Planet er fra Pushkin Industries. Du finner den uansett hvor du får podcastene dine. Vi kommer tilbake rett etter dette.

[Annonse]

Sterk: Velkommen tilbake til en spesiell episode av In Machines We Trust. Dette er en samtale mellom Facebooks Mike Schroepfer og Tech Reviews sjefredaktør Gideon Lichfield. Det skjedde direkte på den virtuelle scenen til EmTech-konferansen vår, og den er redigert for lengde og klarhet. Hvis du vil ha mer om dette emnet, inkludert vår analyse, vennligst sjekk ut shownotatene eller besøk oss på Technology Review dot com.

Lichfield: Et par spørsmål som jeg skal slenge inn fra publikum, hvordan påvirker feilinformasjon Facebooks inntektsstrøm? Og en annen handler om, eh, hvordan påvirker det tilliten til Facebook? Vel, det ser ut til å være en underliggende mangel på tillit til Facebook, og hvordan måler du tillit? Og ordlyden vi ønsker å sette på disse spørsmålene er at du tydelig bryr deg om feilinformasjon, tydeligvis bryr mange av de som jobber på Facebook seg om det eller bekymrer seg for det, men det er, jeg tror et underliggende spørsmål som folk har er bryr Facebook seg som selskap om det, påvirkes det negativt nok av det til at det virkelig kan takle problemet på alvor?

Schroepfer: Ja. Jeg mener, se, jeg er også en person i samfunnet. Jeg bryr meg mye om demokrati og fremtiden og å fremme folks liv på en positiv måte. Og jeg utfordrer deg til å finne noen som føler seg annerledes inne på kontorene våre. Og så vi, ja, vi jobber på Facebook, men vi er mennesker i verden og jeg bryr meg mye om fremtiden for barna mine. Og vel, vel, du spør, bryr vi oss? Og svaret er ja. Du vet, har vi insentiver? Hva brukte vi mye av tiden på å snakke om i dag? Vi snakket om feilinformasjon og andre ting, du vet, ærlig talt, hva ville jeg helst snakket om? Jeg vil heller snakke om VR og, og positiv bruk av AR og all den fantastiske nye teknologien vi bygger, fordi, du vet, det er, det er normalt hva en CTO ville snakke om.

Så det er åpenbart noe som utfordrer tilliten til selskapet, tilliten til produktene våre, som er et stort problem for oss, um, fra et egeninteressestandpunkt. Så selv om du tror jeg er full av det, du bare, fra et praktisk egeninteressert ståsted, som et merke, som et forbrukerprodukt som folk frivillig bruker hver eneste dag, når jeg prøver å selge et nytt produkt som Portal , som er et kamera for hjemmet ditt, som folk stoler på selskapet som står bak dette produktet og tror vi har, du vet, deres beste intensjoner på hjertet. Hvis de ikke gjør det, kommer det til å bli en stor utfordring for absolutt alt jeg gjør. Så jeg tror interessene her er ganske samstemte. Jeg tror ikke det er mange gode eksempler på forbrukerprodukter som er gratis, som overlever hvis folk ikke liker dem, ikke liker selskapene eller synes de er dårlige. Så dette er fra et egeninteressert ståsted, et kritisk spørsmål for oss.

[Kreditt]

Sterk: Denne samtalen med Facebooks CTO er den første av to episoder om feilinformasjon og sosiale medier. I neste del chatter vi med CTO for Twitter. Hvis du vil høre nyhetsrommets analyse av dette emnet og valget, har jeg lagt ut en lenke i shownotatene våre. Jeg håper du vil sjekke det ut. Denne episoden fra EmTech ble produsert av meg og av Emma Cillekens, med spesiell takk til Brian Bryson og Benji Rosen. Vi er redigert av Michael Reilly og Gideon Lichfield. Som alltid, takk for at du lyttet. Jeg er Jennifer Strong.

[TR ID]

gjemme seg