Et nytt verktøy bruker AI for å oppdage tekst skrevet av AI

Kategori: Kunstig intelligens Lagt ut 26. juli

AI-algoritmer kan generere tekst som er overbevisende nok til å lure gjennomsnittsmennesket – og kan potensielt gi en måte å masseprodusere falske nyheter, falske anmeldelser og falske sosiale kontoer. Heldigvis kan AI nå også brukes til å identifisere falsk tekst.

Nyhetene: Forskere fra Harvard University og MIT-IBM Watson AI Lab ha utviklet et nytt verktøy for å finne tekst som er generert ved hjelp av AI. Kalt Giant Language Model Test Room (GLTR), utnytter det det faktum at AI-tekstgeneratorer er avhengige av statistiske mønstre i tekst, i motsetning til den faktiske betydningen av ord og setninger. Med andre ord kan verktøyet fortelle om ordene du leser virker for forutsigbare til å være skrevet av en menneskelig hånd.

Sammenhengen: Feilinformasjon blir i økende grad automatisert, og teknologien som kreves for å generere falske tekster og bilder går raskt fremover. AI-drevne verktøy som dette kan bli verdifulle våpen i kampen for å fange opp falske nyheter, deepfakes og twitter-roboter.

Later som: Forskere ved OpenAI demonstrerte nylig en algoritme i stand til å drømme opp overraskende realistiske passasjer . De matet store mengder tekst inn i en stor maskinlæringsmodell, som lærte å fange opp statistiske mønstre i disse ordene. Harvard-teamet utviklet verktøyet sitt ved å bruke en versjon av OpenAI-koden som ble utgitt offentlig.

Hvor forutsigbart: GLTR fremhever ord som statistisk sannsynlig vil vises etter det foregående ordet i teksten. Som vist i avsnittet ovenfor (fra Uendelig er) , de mest forutsigbare ordene er grønne; mindre forutsigbare er gule og røde; og minst forutsigbare er lilla. Når den testes på tekstbiter skrevet av OpenAIs algoritme, finner den mye forutsigbarhet. Ekte nyhetsartikler og vitenskapelige sammendrag inneholder flere overraskelser.

Sinn og maskin: Forskerne bak GLTR gjennomførte også et annet eksperiment. De ba Harvard-studenter identifisere AI-generert tekst – først uten verktøyet, og deretter ved hjelp av uthevingen. Studentene var i stand til å oppdage bare halvparten av alle forfalskninger på egen hånd, men 72 % når de fikk verktøyet. Målet vårt er å lage menneskelige og AI-samarbeidssystemer, sier Sebastian Gehrmann, en PhD-student involvert i arbeidet.

Hvis du er interessert, kan du prøv det selv .