Hvordan Facebook bruker maskinlæring for å bekjempe ISIS og Al-Qaida-propaganda

Kategori: Silicon Valley Lagt ut 12. nov

Facebook hevder å proaktivt ha funnet og fjernet 99 % av terrorrelatert innhold på nettstedet de siste tre kvartalene. Det har gitt litt innsikt i prosessene i en blogg innlegg .

Litt statistikk: Først er det viktig å merke seg at når det står terrorisme, refererer Facebook kun til ISIS og Al-Qaida. I gjennomsnitt hevder firmaene at de nå fjerner terrorinnhold mindre enn to minutter etter at det ble lagt ut, mot gjennomsnittet på 14 timer det tok tidligere i år. Facebook tok grep på 9,4 millioner deler av innhold i Q2 2018, et tall som gikk ned til 3 millioner i Q3 2018, takket være sin innsats kvartalet før, heter det.

Deteksjonssystemer: Facebook har lansert et nytt maskinlæringsverktøy som vurderer om innlegg signaliserer støtte for ISIS eller Al-Qaida. Den produserer en poengsum som indikerer hvor sannsynlig det er at den bryter deres antiterror-retningslinjer, med de som får høyere poengsummer videre til sine menneskelige anmeldere for å vurdere. For de høyest scorende tilfellene fjernes innlegg automatisk. I de sjeldne tilfellene ansatte finner muligheten for overhengende skade, informerer Facebook umiddelbart politiet, heter det.

Slipp robotene: Det er klart at Facebook er opptatt av å se tøft på terrorisme. Og som alltid er den nesten utelukkende avhengig av algoritmer for å gjøre det. Det gir mye mening fra dets synspunkt, siden mennesker aldri kunne skanne så mye informasjon så raskt (og de er dyre). Men det er nok en påminnelse om Facebooks rolle som dommer, jury og bøddel på informasjonen den lar oss se.