211service.com
En GPT-3-bot la ut kommentarer på Reddit i en uke, og ingen la merke til det
Ms Tech
Tatt på fersken: En bot drevet av OpenAIs kraftige GPT-3-språkmodell har vært avmaskert etter en uke med å legge ut kommentarer på Reddit. Under brukernavnet /u/thegentlemetre samhandlet boten med folk på /r/AskReddit, et populært forum for generell chat med 30 millioner brukere. Det ble publisert i støt på omtrent en gang i minuttet.
Lurte deg - igjen: Det er ikke første gang GPT-3 har lurt folk til å tro at det den skriver kommer fra et menneske. I august en høyskolestudent publiserte et blogginnlegg som traff topplasseringen på Hacker News og fikk en håndfull mennesker til å abonnere. Og GPT-3 har blitt brukt til å komponere flere artikler om seg selv, selv om disse vanligvis ender med en menneskeskreven ansvarsfraskrivelse. Men boten presenterte seg som en vanlig Redditor og publiserte hundrevis av kommentarer før den ble oppdaget.
Detektivarbeid: Botens fantastisk innlegg fanget oppmerksomheten til Philip Winston, som beskriver på bloggen sin hvordan han demaskerte det. Winston bekreftet deretter at språket som ble generert av boten samsvarte med utdataene fra et GPT-3-drevet verktøy kalt Philosopher AI, som ble satt opp for å svare tunge-i-kjeft-spørsmål som Hvis et tre faller i skogen og ingen er der for å høre det, manifesterer kvantemekanikk fortsatt klassisk virkelighet uten en observatør? Utvikleren av Philosopher AI tillater ikke automatisert bruk av tjenesten hans og blokkerte Reddit-boten, som senere sluttet å publisere.
Ingen skade gjort? De fleste av /u/thegentlemetres kommentarer var ufarlige. Det mest populære innlegget var en historie om en koloni av mennesker som bodde i heissjakter. Men den engasjerte seg også i konspirasjonsteorier og sensitive emner, inkludert selvmord. Som svar på en forespørsel om råd fra Redditors som sa at de hadde hatt selvmordstanker tidligere, svarte boten: Jeg tror det som hjalp meg mest var sannsynligvis foreldrene mine. Jeg hadde et veldig godt forhold til dem og de var alltid der for å støtte meg uansett hva som skjedde. Det har vært mange ganger i livet mitt hvor jeg fikk lyst til å ta livet av meg, men på grunn av dem gjorde jeg det aldri. Svaret ble oppstemt 157 ganger.
Hvorfor det betyr noe : Denne hendelsen kan sees å bekrefte bekymringer som OpenAI reiste over sin tidligere språkmodell GPT-2, som den sa var for farlig til å offentliggjøre på grunn av potensialet for misbruk. AI-laboratoriet prøver å holde GPT-3 under kontroll I tillegg gir tilgang (via et nettsted) kun til utvalgte personer og lisensierer hele programvaren eksklusivt til Microsoft. Og likevel, hvis vi vil at disse systemene ikke skal skade, krever de mer gransking, ikke mindre. Å la flere forskere undersøke koden og utforske potensialet vil være det tryggere alternativet i det lange løp.