211service.com
Det amerikanske militæret ønsker å lære AI litt grunnleggende sunn fornuft
HAMMER: DAVID; TELEFON: ANDRIWIDODO; BANAN: BEN DAVIS | Substantivprosjektet
Uansett hvor kunstig intelligens er utplassert, vil du finne at den har feilet på en morsom måte. Ta merkelige feil laget av oversettelsesalgoritmer som forveksler å ha noen til middag med, vel, å ha noen til middag.
Men ettersom AI brukes i stadig mer kritiske situasjoner, som å kjøre autonome biler, stille medisinske diagnoser eller trekke konklusjoner på liv eller død fra etterretningsinformasjon, vil disse feilene ikke lenger være til latter. Derfor DARPA , forskningsarmen til det amerikanske militæret, adresserer AIs mest grunnleggende feil: den har null sunn fornuft.
Sunn fornuft er den mørke saken om kunstig intelligens, sier Oren Etzioni, administrerende direktør i the Allen Institute for AI , en forsknings-nonprofit basert i Seattle som utforsker grensene for teknologien. Det er litt ubeskrivelig, men du ser effekten på alt.
DARPAs nye Machine Common Sense (MCS)-program vil kjøre en konkurranse som ber AI-algoritmer om å forstå spørsmål som dette:
En elev setter to like planter i samme type og mengde jord. Hun gir dem samme mengde vann. Hun setter en av disse plantene nær et vindu og den andre i et mørkt rom. Anlegget nær vinduet vil produsere mer (A) oksygen (B) karbondioksid (C) vann.
Et dataprogram trenger en viss forståelse av måten fotosyntese fungerer på for å takle spørsmålet. Bare å mate en maskin med mange tidligere spørsmål vil ikke løse problemet på en pålitelig måte.
Disse referansene vil fokusere på språk fordi det så lett kan slå ut maskiner, og fordi det gjør testing relativt enkelt. Etzioni sier at spørsmålene tilbyr en måte å måle fremgang mot sunn fornuftsforståelse, noe som vil være avgjørende.
Teknologiselskaper er opptatt av å kommersialisere maskinlæringsteknikker som er kraftige, men fundamentalt begrensede. Deep learning, for eksempel, gjør det mulig å gjenkjenne ord i tale eller objekter i bilder, ofte med utrolig nøyaktighet. Men tilnærmingen er vanligvis avhengig av å mate store mengder merkede data – et rålydsignal eller pikslene i et bilde – inn i et stort nevralt nettverk. Systemet kan lære å plukke ut viktige mønstre, men det kan lett gjøre feil fordi det ikke har noe begrep om den bredere verden.
Derimot utvikler menneskelige babyer raskt en intuitiv forståelse av verden som fungerer som grunnlaget for deres intelligens.
Det er imidlertid langt fra åpenbart hvordan man skal løse problemet med sunn fornuft. Tidligere forsøk på å hjelpe maskiner med å forstå verden har fokusert på å bygge store kunnskapsdatabaser for hånd. Dette er en uhåndterlig og i hovedsak uendelig oppgave. Den mest kjente slike innsatsen er Cyc , et prosjekt som har vært i arbeid i flere tiår.
Problemet kan vise seg å være enormt viktig. Mangel på sunn fornuft er tross alt katastrofal i visse kritiske situasjoner, og det kan til slutt holde kunstig intelligens tilbake. DARPA har en historie med å investere i grunnleggende AI-forskning. Tidligere prosjekter bidro til å skape dagens selvkjørende biler, så vel som den mest kjente stemmestyrte personlige assistenten, Siri.
Fraværet av sunn fornuft hindrer et intelligent system i å forstå sin verden, kommunisere naturlig med mennesker, oppføre seg rimelig i uforutsette situasjoner og lære av nye erfaringer, sa Dave Gunning, en programleder ved DARPA, i en uttalelse utstedt i morges. Dette fraværet er kanskje den viktigste barrieren mellom de snevert fokuserte AI-applikasjonene vi har i dag og de mer generelle AI-applikasjonene vi ønsker å lage i fremtiden.