Dette AI-programmet kan slå deg i en krangel - men det vet ikke hva det sier

IBM Research

Under en direktedebatt i San Francisco i kveld kom et AI-program med et overraskende overbevisende argument for at romutforskning burde subsidieres. Når et menneske var uenig, tilbød programmet en motbevisning.

Debatten, mellom et IBM-dataprogram kalt Project Debater og flere menneskelige deltakere, er det siste beviset på at kunstig intelligente maskiner gjør fremskritt med ferdigheter som tidligere var forbeholdt mennesker – i dette tilfellet, kranglet.

Under arrangementet byttet programmet og en menneskelig deltaker på å argumentere om et spesifikt emne, komme med en motbevisning og legge til et avsluttende argument. I en andre debatt argumenterte programmet for økt bruk av telemedisin, mens den menneskelige deltakeren argumenterte mot det.

Relatert historie

Relatert historie Eksperter foreslår at det å ha AI-systemer som prøver å overliste hverandre kan hjelpe en person med å bedømme intensjonene deres.

IBM har jobbet i flere år med AI-programvaren, som miner gjennom store mengder tekst før den konstruerer et argument om et spesifikt emne. Selskapet holdt debatten i kveld for å promotere teknologien.

Project Debater prøver ikke å bygge et argument basert på en forståelse av det aktuelle emnet. I stedet konstruerer den ganske enkelt en ved å kombinere elementer fra tidligere argumenter, sammen med relevante informasjonspunkter fra Wikipedia.

Noam Slonim og Ranit Aharonov, IBM-forskerne bak Project Debater. IBM-forskning

Ranit Aharonov , en forsker bak prosjektet som er basert i Israel, erkjenner at det er begrenset. Det er fortsatt en lang vei å gå med å mestre språk, sier hun. Aharonov mener imidlertid at teknologien kan ha en rekke praktiske bruksområder. Det kan hjelpe noen til å ta en kritisk avgjørelse, for eksempel ved å gi en rekke for og imot argumenter.

Et argumenterende AI-system kan selvfølgelig også ha uhyggelig bruk, inkludert å drive mer skadelige roboter på sosiale medier og utover. Aharonovs samarbeidspartner Noam Slonim reduserer faren. Det er alltid en risiko, og jeg tror faktisk den er mer begrenset enn med andre teknologier, sier han.

Oren Etzioni, administrerende direktør i Allen Institute for Artificial Intelligence i Seattle, sier det er vanskelig å bedømme egenskapene til IBM-systemet utelukkende på grunnlag av denne konkurransen. Det er lettere å sette sammen en hermetisert demo enn en åpen hvor de lar deg samhandle med den på en naturlig måte, sier han.

Kristian Hammond , en professor ved Northwestern University og grunnleggeren av Narrative Sciences, et selskap som automatisk genererer nyhetsrapporter og annet innhold, sier at teknologien kan vise seg å være nyttig. Men Hammond understreker at IBM-programvaren rett og slett viser etter hva den har gravd opp. Det er aldri et stadium hvor systemet vet hva det snakker om, sier han. Hos mennesker tenker vi på det som et skittent resonnement.

Hammond sier også at konkurransen i San Francisco knapt demonstrerer nytten av systemet. Det er litt av en distraksjon, sier han.

gjemme seg