211service.com
Nvidia lar deg kikke inn i den svarte boksen til dens selvkjørende AI
Nvidia har utviklet en selvkjørende AI som viser deg hvordan den fungerer.
Som vi forklarte i vår siste forsidehistorie, The Dark Secret at the Heart of AI , resulterer noen av de kraftigste maskinlæringsteknikkene som er tilgjengelige i programvare som er nesten helt ugjennomsiktig, selv for ingeniørene som bygger den. Tilnærminger som gir noen ledetråder om hvordan en AI fungerer, vil derfor være enormt viktig for å bygge tillit til en teknologi som ser ut til å revolusjonere alt fra medisin til produksjon.
Nvidia gir brikker som er ideelle for dyp læring, en spesielt kraftig maskinlæringsteknikk (se 10 Breakthrough Technologies 2013: Deep Learning ).
Nvidias nevrale nettverksprogramvare fremhever områdene den fokuserer på når den tar beslutninger.
Brikkeprodusenten har også vært i utvikling systemer som viser hvordan en bilprodusent kan bruke dyp læring til autonom kjøring. Dette inkluderer en bil som styres fullstendig av en dyplæringsalgoritme. Utrolig nok er kjøretøyets datamaskin ikke gitt noen regler å følge - den matcher ganske enkelt inndata fra flere videokameraer med oppførselen til en menneskelig sjåfør, og finner ut selv hvordan den skal kjøre. Den eneste haken er at systemet er så komplekst at det er vanskelig å løse hvordan det faktisk fungerer.
Men Nvidia jobber med å åpne denne svarte boksen. Det har utviklet en måte å visuelt fremheve hva systemet legger vekt på. Som forklart i en nylig publisert papir , er den nevrale nettverksarkitekturen utviklet av Nvidias forskere designet slik at den kan fremheve områdene i et videobilde som bidrar sterkest til oppførselen til bilens dype nevrale nettverk. Bemerkelsesverdig nok viser resultatene at nettverket fokuserer på kantene på veier, kjørefeltmerker og parkerte biler - akkurat den typen ting som en god menneskelig sjåfør vil være oppmerksom på.
Det som er revolusjonerende med dette er at vi aldri direkte ba nettverket om å bry seg om disse tingene, skrev Urs Muller, Nvidias sjefsarkitekt for selvkjørende biler, i en blogg innlegg .
Det er ikke en fullstendig forklaring på hvordan det nevrale nettverket resonnerer, men det er en god start. Som Muller sier: Jeg kan ikke forklare alt jeg trenger at bilen skal gjøre, men jeg kan vise den, og nå kan den vise meg hva den har lært.
Denne typen tilnærming kan bli stadig viktigere ettersom dyp læring brukes på omtrent alle problemer som involverer store mengder data, inkludert kritiske områder som medisin, finans og militær etterretning.
En håndfull akademiske forskere utforsker også problemet. For eksempel, Jeff Clune ved University of Wyoming og Charles Guestrin ved University of Washington (og Apple) har funnet måter å fremheve delene av bildene som klassifiseringssystemene fanger opp på. Og Tommi Jaakola og Regina Barzilay ved MIT utvikler måter å gi tekstbiter som hjelper til med å forklare en konklusjon trukket fra store mengder skriftlige data.
Defense Advanced Projects Research Agency (DARPA), som driver langsiktig forskning for det amerikanske militæret, finansierer flere lignende forskningsinnsats gjennom et program det kaller Forklarbar kunstig intelligens (XAI) .
Utover de tekniske spesifikasjonene er det imidlertid fascinerende å vurdere hvordan dette kan sammenlignes med menneskelig intelligens. Vi gjør alle slags ting vi ikke kan forklare fullt ut, og forklaringene vi lager er ofte bare tilnærmelser, eller historier om hva som skjer. Gitt opasiteten til dagens stadig mer komplekse maskinlæringsmetoder, kan vi en dag bli tvunget til å akseptere slike forklaringer fra AI også.
(Kilder: Nvidia , The Dark Secret at the Heart of AI , U.S. Military vil at sine autonome maskiner skal forklare seg selv )