211service.com
En AI som skriver overbevisende prosa risikerer å masseprodusere falske nyheter
Ms. Tech
Her er noen siste falske nyheter...
Russland har erklært krig mot USA etter at Donald Trump ved et uhell avfyrte en rakett i luften.
Russland sa at de hadde identifisert missilets bane og vil ta nødvendige tiltak for å sikre sikkerheten til den russiske befolkningen og landets strategiske atomstyrker. Det hvite hus sa at de var ekstremt bekymret over det russiske bruddet på en traktat som forbyr mellomdistanse ballistiske missiler.
USA og Russland har hatt et urolig forhold siden 2014, da Moskva annekterte Ukrainas Krim-region og støttet separatister i det østlige Ukraina.
Den historien er faktisk ikke bare falsk, men et urovekkende eksempel på hvor god AI blir til å lure oss.
Det er fordi det ikke ble skrevet av en person; den ble automatisk generert av en algoritme som ble matet med ordene Russland har erklært krig mot USA etter at Donald Trump ved et uhell ...
Programmet laget resten av historien på egen hånd. Og det kan utgjøre realistiske tilsynelatende nyhetsrapporter om ethvert emne du gir det. Programmet ble utviklet av et team ved OpenAI, et forskningsinstitutt med base i San Francisco.
Forskerne satte seg fore å utvikle en generell språkalgoritme, trent på en enorm mengde tekst fra nettet, som ville være i stand til å oversette tekst, svare på spørsmål og utføre andre nyttige oppgaver. Men de ble snart bekymret for potensialet for misbruk. Vi begynte å teste det, og oppdaget raskt at det er mulig å generere ondsinnet innhold ganske enkelt, sier Jack Clark, policy-direktør i OpenAI.
Clark sier at programmet antyder hvordan AI kan brukes til å automatisere genereringen av overbevisende falske nyheter, innlegg på sosiale medier eller annet tekstinnhold. Et slikt verktøy kan spy ut klimafornektende nyhetsreportasjer eller skandaløse avsløringer under et valg. Falske nyheter er allerede et problem, men hvis det var automatisert, kan det være vanskeligere å finne ut. Kanskje den kan optimaliseres for bestemte demografiske grupper – eller til og med enkeltpersoner.
Clark sier at det kanskje ikke er lenge før AI på en pålitelig måte kan produsere falske historier, falske tweets eller dupliserte kommentarer som er enda mer overbevisende. Det er veldig tydelig at hvis denne teknologien modnes – og jeg vil gi den ett eller to år – kan den brukes til desinformasjon eller propaganda, sier han. Vi prøver å komme i forkant av dette.
Slik teknologi kan ha fordelaktig bruk, inkludert oppsummering av tekst eller forbedring av samtaleferdighetene til chatbots. Clark sier at han til og med har brukt verktøyet til å generere passasjer i korte science fiction-historier med overraskende suksess.
OpenAI driver med grunnleggende AI-forskning, men spiller også en aktiv rolle i å synliggjøre potensielle risikoer ved kunstig intelligens. Organisasjonen var involvert i en rapport fra 2018 om risikoen ved AI, inkludert muligheter for feilinformasjon (se Dette er 'Black Mirror'-scenarioene som får noen eksperter til å kreve hemmelighold om AI).
OpenAI-algoritmen er ikke alltid overbevisende for den kresne leseren. Mye av tiden, når det gis en melding, produserer den overfladisk sammenhengende vrøvl eller tekst som tydeligvis ser ut til å ha blitt skrevet fra nyhetskilder på nettet.
Den er imidlertid ofte bemerkelsesverdig god til å produsere realistisk tekst, og den gjenspeiler nyere fremskritt i å bruke maskinlæring på språk.
OpenAI gjorde tekstgenereringsverktøyet tilgjengelig for MIT Technology Review for å teste, men på grunn av bekymringer om hvordan teknologien kan misbrukes, vil den bare gjøre en forenklet versjon offentlig tilgjengelig. Instituttet publiserer en forskningsartikkel som skisserer arbeidet.
Fremskritt innen kunstig intelligens hjelper gradvis maskiner med å få et bedre grep om språk. Nylig arbeid har gjort fremskritt ved å mate generelle maskinlæringsalgoritmer med svært store mengder tekst. OpenAI-programmet tar dette til et nytt nivå: systemet ble matet 45 millioner sider fra nettet, valgt via nettstedet Reddit. Og i motsetning til de fleste språkalgoritmer, krever ikke OpenAI-programmet merket eller kurert tekst. Den lærer ganske enkelt å gjenkjenne mønstre i dataene den mates.
Richard Socher , en ekspert på prosessering av naturlig språk og sjefforsker i Salesforce, sier at OpenAI-arbeidet er et godt eksempel på et mer generellt språkopplæringssystem. Jeg tror disse generelle læringssystemene er fremtiden, skrev han i en e-post.
På den annen side er Socher mindre bekymret for potensialet for bedrag og feilinformasjon. Du trenger ikke AI for å lage falske nyheter, sier han. Folk kan lett gjøre det :)