Du kan trene en AI til å falske FN-taler på bare 13 timer

Kategori: Kunstig intelligens Lagt ut 07. juni

Dyplæringsteknikker har gjort det enklere og enklere for alle å forfalske overbevisende feilinformasjon. Men hvor enkelt? To forskere ved Global Pulse, et initiativ fra FN, bestemte seg for å finne ut av det.

I en nytt papir , brukte de kun åpen kildekode-verktøy og data for å vise hvor raskt de kunne få en falsk FN-talegenerator i gang. De brukte en lett tilgjengelig språkmodell som var trent på tekst fra Wikipedia og finjusterte den på alle talene holdt av politiske ledere i FNs generalforsamling fra 1970 til 2015. Tretten timer og $7,80 senere (brukt på nettsky-databehandlingsressurser) , deres modell spyttet ut realistiske taler om et bredt spekter av sensitive temaer med høy innsats fra atomnedrustning til flyktninger.

Forskerne testet modellen på tre typer oppfordringer: generelle emner (f.eks. klimaendringer), åpningslinjer fra FNs generalsekretærs bemerkninger og provoserende fraser (f.eks. innvandrere har skylden ...). De fant at utdata fra den første kategorien samsvarte nøye med stilen og tråkkfrekvensen til ekte FN-taler omtrent 90 % av tiden. Sannsynligvis på grunn av den diplomatiske karakteren til treningsdataene, krevde utdata fra den tredje kategorien mer arbeid å generere, og ga overbevisende utdata omtrent 60 % av tiden.

Kasusstudien demonstrerer hvor raskt og enkelt det nå er mulig å spre falske nyheter, generere hatytringer og etterligne høyprofilerte personer, med urovekkende implikasjoner. Forskerne konkluderer med at en større global innsats er nødvendig for å jobbe med måter å oppdage og svare på AI-generert innhold.

For å få flere historier som dette levert direkte til innboksen din, meld deg på vårt Webby-nominerte AI-nyhetsbrev The Algorithm. Det er gratis.