211service.com
Det amerikanske militæret vil at dets autonome maskiner skal forklare seg selv
Etterretningsagenter og militære operatører kan komme til å stole sterkt på maskinlæring for å analysere enorme mengder data og for å kontrollere et voksende arsenal av autonome systemer. Men det amerikanske militæret ønsker å sørge for at dette ikke fører til blind tillit til noen algoritme.
Defense Advanced Research Projects Agency (DARPA), en avdeling av forsvarsdepartementet som utforsker nye teknologier, finansierer flere prosjekter som tar sikte på å få kunstig intelligens til å forklare seg. Tilnærmingene spenner fra å legge til ytterligere maskinlæringssystemer rettet mot å gi en forklaring, til utvikling av nye maskinlæringstilnærminger som inkluderer en belysning ved design.
Vi har nå denne virkelige eksplosjonen av AI, sier David Gunning, DARPA-programlederen som finansierer et forsøk på å utvikle AI-teknikker som inkluderer noen forklaringer på deres resonnement. Grunnen til det er hovedsakelig maskinlæring, og spesielt dyp læring.
Dyplæring og andre maskinlæringsteknikker har tatt Silicon Valley med storm, og forbedret stemmegjenkjenning og bildeklassifisering betraktelig, og de brukes i stadig flere sammenhenger, inkludert områder som rettshåndhevelse og medisin, der konsekvensene av en feil kan vær seriøs. Men mens dyp læring er utrolig flink til å finne mønstre i data, kan det være umulig å forstå hvordan det kommer til en konklusjon. Læringsprosessen er matematisk svært kompleks, og det er ofte ingen måte å oversette dette til noe en person ville forstå.
Og selv om dyp læring er spesielt vanskelig å tolke, kan andre maskinlæringsteknikker også være utfordrende. Disse modellene er veldig ugjennomsiktige og vanskelige for folk å tolke, spesielt hvis de ikke er eksperter på kunstig intelligens, sier Gunning.
Dyplæring er spesielt kryptisk på grunn av dens utrolige kompleksitet. Den er omtrent inspirert av prosessen der nevroner i en hjerne lærer som svar på input. Mange lag av simulerte nevroner og synapser er merket med data, og deres oppførsel er innstilt til de lærer å gjenkjenne for eksempel en katt på et fotografi. Men modellen lært av systemet er kodet i vekten av mange millioner nevroner, og er derfor svært utfordrende å undersøke. Når et dyplæringsnettverk gjenkjenner en katt, for eksempel, er det ikke klart om systemet kan fokusere på værhårene, ørene eller til og med kattens teppe i et bilde.
Ofte betyr det kanskje ikke så mye om en maskinlæringsmodell er ugjennomsiktig, men dette er ikke sant for en etterretningsoffiser som prøver å identifisere et potensielt mål. Det er noen kritiske applikasjoner der du trenger forklaringen, sier Gunning.
Gunning legger til at militæret utvikler utallige autonome systemer som utvilsomt vil stole sterkt på maskinlæringsteknikker som dyp læring. Selvkjørende kjøretøy, sammen med luftdroner, vil i økende grad bli brukt i årene som kommer, sier han, og de vil bli stadig dyktigere.
Forklarlighet er ikke bare viktig for å rettferdiggjøre beslutninger. Det kan bidra til å forhindre at ting går galt. Et bildeklassifiseringssystem som har lært å fokusere utelukkende på tekstur for katteklassifisering, kan bli lurt av et lodnet teppe. Så å tilby en forklaring kan hjelpe forskere med å gjøre systemene deres mer robuste, og bidra til å forhindre at de som stoler på dem gjør feil.
DARPA finansierer 13 forskjellige forskningsgrupper, som forfølger en rekke tilnærminger for å gjøre AI mer forklarlig.
Ett team valgt ut for finansiering kommer fra Charles River Analytics, et selskap som utvikler høyteknologiske verktøy for ulike kunder, inkludert det amerikanske militæret. Dette teamet utforsker nye dyplæringssystemer som inneholder en forklaring, for eksempel de som fremhever områder av et bilde som virker mest relevante for en klassifisering. Forskerne eksperimenterer også med datagrensesnitt som gjør funksjonene til maskinlæringssystemer mer eksplisitt med data, visualiseringer og til og med naturlige språkforklaringer.
Xia Hu , en professor ved Texas A&M University som leder et annet av teamene som er valgt for finansiering, sier at problemet også er viktig på andre områder der maskinlæring blir tatt i bruk, for eksempel medisin, juss og utdanning. Uten noen form for forklaring eller resonnement, kommer ikke domeneeksperter til å stole på resultatene, sier Hu. Det er hovedgrunnen til at mange domeneeksperter nekter å ta i bruk maskinlæring eller dyp læring.