Kan AI vinne krigen mot falske nyheter?

Selman Design

Det kan ha vært den første falske nyheten i Internetts historie: I 1984 postet noen på Usenet at Sovjetunionen ble med i nettverket. Det var en ufarlig Aprilsnarr-spøk , langt unna dagens bevæpnede desinformasjonskampanjer og skruppelløse fabrikasjoner designet for å tjene raskt. I 2017 er villedende og ondsinnet falskt nettinnhold så produktivt at vi mennesker har lite håp om å grave oss ut av myra. I stedet ser det stadig mer sannsynlig ut at maskinene må redde oss.

En algoritme ment å skinne et lys i mørket er AdVerif.ai , som drives av en oppstart med samme navn. Den kunstig intelligente programvaren er bygget for å oppdage falske historier, nakenhet, skadelig programvare og en rekke andre typer problematisk innhold. AdVerif.ai, som lanserte en betaversjon i november, jobber for tiden med innholdsplattformer og annonsenettverk i USA og Europa som ikke ønsker å bli assosiert med falske eller potensielt støtende historier.

Selskapet så en mulighet i å fokusere på et produkt for bedrifter i motsetning til noe for en gjennomsnittlig bruker, ifølge Or Levi, AdVerif.ais grunnlegger. Selv om individuelle forbrukere kanskje ikke bekymrer seg for sannheten til hver historie de klikker på, har annonsører og innholdsplattformer noe å tape på å være vert for eller annonsere for dårlig innhold. Og hvis de gjør endringer i tjenestene sine, kan de være effektive i å kutte av inntektsstrømmer for folk som tjener penger på å lage falske nyheter. Det ville vært et stort skritt i kampen mot denne typen innhold, sier Levi.

AdVerif.ai skanner innhold for å oppdage tydelige tegn på at noe er galt – for eksempel overskrifter som ikke stemmer overens med brødteksten, eller for mange store bokstaver i en overskrift. Den krysssjekker også hver historie med sin database med tusenvis av legitime og falske historier, som oppdateres ukentlig. Klientene ser en rapport for hver del systemet vurderer, med poengsum som vurderer sannsynligheten for at noe er falske nyheter, inneholder skadelig programvare eller inneholder noe annet de har bedt systemet om å se etter, som nakenhet. Etter hvert sier Levi at han planlegger å legge til muligheten til å oppdage manipulerte bilder og ha en nettleserplugin.

Ved å teste en demoversjon av AdVerif.ai, gjenkjente AI Løk som satire (som har lurte mange mennesker i fortiden). Breitbart-historier ble klassifisert som upålitelige, høyre, politiske, bias, mens Kosmopolitisk ble ansett som venstre. Den kunne fortelle når en Twitter-konto brukte en logo, men koblingene var ikke assosiert med merkevaren den viste. AdVerif.ai fant ikke bare at en artikkel på Natural News med overskriften Bevis peker på at Bitcoin er en NSA-konstruert psyop for å rulle ut en-verdens digital valuta var fra et svartelistet nettsted, men identifiserte det som en falsk nyhetssak som dukket opp på andre svartelistede nettsteder uten noen referanser i legitime nyhetsorganisasjoner.

Noen tvilsomme historier kommer fortsatt gjennom. På et nettsted kalt Action News 3, et innlegg med overskriften NFL-spiller fotografert brenne et amerikansk flagg i garderoben! ble ikke fanget, selv om det har vært det viste seg å være et oppspinn . For å hjelpe systemet med å lære mens det går, kan svartelisten over falske historier oppdateres manuelt på historie-for-historie-basis.

AdVerif.ai er ikke den eneste oppstarten som ser en mulighet i å tilby et AI-drevet sannhetsserum for nettselskaper. Cybersikkerhetsfirmaer spesielt har de vært raske til å legge til bot- og falske nyheter-spotting-operasjoner til repertoaret, og påpekt hvor like mange av metodene ligner hacking. Facebook er justere algoritmene å legge vekt på falske nyheter i nyhetsfeedene, og Google samarbeidet med et nettsted for faktasjekking — så langt med ujevne resultater . Fake News Challenge, en konkurranse drevet av frivillige i AI-fellesskapet, ble lansert på slutten av fjoråret med mål om å oppmuntre til utvikling av verktøy som kan bidra til å bekjempe rapportering om dårlig tro.

Relatert historie

Relatert historie Takket være maskinlæring blir det enkelt å generere realistisk video og å etterligne noen.

Delip Rao, en av arrangørene og grunnleggeren av Joostware, et selskap som lager maskinlæringssystemer, sa at det å oppdage falske nyheter har så mange fasetter at utfordringen faktisk kommer til å gjøres i flere trinn. Det første trinnet er holdningsdeteksjon, eller å ta en historie og finne ut hva andre nyhetssider har å si om emnet. Dette vil tillate menneskelige faktasjekkere å stole på historier for å validere andre historier, og bruke mindre tid på å sjekke individuelle stykker.

Fake News Challenge ga ut datasett for lag å bruke, med 50 lag som sendte inn bidrag. Talos Intelligence, en cybersikkerhetsavdeling av Cisco, vant utfordringen med en algoritme som ble mer enn 80 prosent riktig – ikke helt klar for beste sendetid, men likevel et oppmuntrende resultat. Den neste utfordringen kan ta bilder med overleggstekst (tenk memer, men med falske nyheter), et format som ofte markedsføres på sosiale medier, siden formatet er vanskeligere for algoritmer å bryte ned og forstå.

Vi ønsker i utgangspunktet å bygge de beste verktøyene for faktasjekkerne slik at de kan fungere veldig raskt, sa Rao. Som faktasjekkere på steroider.

Selv om det er utviklet et system som er effektivt for å slå tilbake strømmen av falskt innhold, er det neppe slutten på historien. Kunstig intelligens-systemer er allerede i stand til å lage falsk tekst, i tillegg til utrolig overbevisende bilder og video. (se Ekte eller falsk? AI gjør det veldig vanskelig å vite ). Kanskje på grunn av dette, en nylig Gartner-studie spådde at innen 2022 vil flertallet av mennesker i avanserte økonomier se mer falsk enn sann informasjon. Den samme rapporten fant at selv før det skjer, vil falskt innhold overgå AIs evne til å oppdage det, og endre måten vi stoler på digital informasjon.

Det som AdVerif.ai og andre representerer, ser derfor mindre ut som det siste ordet i krigen mot falskt innhold enn åpningsrunden til et våpenkappløp, der skapere av falskt innhold får sin egen AI som kan utmanøvrere de gode AI-ene (se AI kunne Sett oss 100 år tilbake når det kommer til hvordan vi bruker nyheter). Som samfunn må vi kanskje revurdere hvordan vi får informasjonen vår.

gjemme seg