211service.com
Finansverdenen ønsker å åpne AIs svarte bokser
Kraftige maskinlæringsmetoder har tatt teknologiverdenen med storm de siste årene, og har forbedret stemme- og bildegjenkjenning, maskinoversettelse og mange andre ting betydelig.
Nå er disse teknikkene klar til å oppgradere utallige andre bransjer, inkludert finansverdenen. Men fremgang kan hindres av et betydelig problem: det er ofte umulig å forklare hvordan disse dyplæringsalgoritmene når en avgjørelse (se The Dark Secret at the Heart of AI).
Adam Wenchel, visepresident for maskinlæring og datainnovasjon ved Capital One, sier at selskapet ønsker å bruke dyp læring for alle slags funksjoner, inkludert å bestemme hvem som får tildelt et kredittkort. Men det kan ikke gjøre det fordi loven pålegger selskaper å forklare årsaken til en slik beslutning til en potensiell kunde. Sent i fjor opprettet Capital One et forskningsteam, ledet av Wenchel, dedikert til å finne måter å gjøre disse datateknikkene mer forklarlige på.
Vår forskning er å sikre at vi kan opprettholde den høye standarden for forklaring når vi presser inn i disse mye mer avanserte og iboende mer ugjennomsiktige modellene, sier han.
Deep learning dukket opp i løpet av de siste fem årene som en kraftig måte å etterligne menneskelige perseptuelle evner. Tilnærmingen innebærer å trene et veldig stort nevralt nettverk for å gjenkjenne mønstre i data. Den er løst inspirert av en teori om måten nevroner og synapser letter læring på. Selv om hvert simulert nevron ganske enkelt er en matematisk funksjon, gjør kompleksiteten til disse sammenkoblede funksjonene resonnementet til et dypt nettverk ekstremt vanskelig å løse.
Noen andre maskinlæringsteknikker, inkludert de som overgår dyp læring i visse scenarier, er mye mer transparente. Men dyp læring, som gir mulighet for sofistikerte analyser som er nyttige for finansbransjen, kan være svært vanskelig å forhøre seg.
Noen startups tar sikte på å utnytte bekymringer over opasiteten til eksisterende algoritmer ved å love å bruke mer transparente tilnærminger (se En AI-drevet kredittformel kan hjelpe deg med å få et lån ).
Dette problemet kan bli mer betydelig i løpet av de neste årene ettersom dyp læring blir mer vanlig brukt og ettersom regulatorer retter oppmerksomheten mot algoritmisk ansvarlighet. Fra og med neste år, under sin generelle databeskyttelsesforordning, kan EU kreve at ethvert selskap kan forklare en avgjørelse tatt av en av deres algoritmer.
Problemet har også fanget oppmerksomheten til Defense Advanced Research Projects Agency, som forsker for det amerikanske forsvarsdepartementet. I fjor lanserte DARPA et forsøk på å finansiere tilnærminger for å gjøre maskinlæring mindre ugjennomsiktig (se The U.S. Military Wants Autonomous Machines to Explain Themselves). De 13 prosjektene som er valgt ut for finansiering viser en rekke tilnærminger for å gjøre algoritmer mer transparente.
Håpet er at dyp læring kan brukes til å gå utover bare å matche menneskelige perseptuelle evner. Et kredittkortselskap kan for eksempel mate kreditthistorikk og andre økonomiske data inn i et dypt nettverk og trene det til å gjenkjenne personer som kan misligholde kredittkortbetalingene sine.
Capital One ser også på dyp læring som en måte å automatisk oppdage falske avgifter mer pålitelig, sier Wenchel, selv om selskapet er forsiktig med å stole på et slikt system når resonnementet ikke kan undersøkes. Vi driver i en sterkt regulert bransje, sier han. Vi må kunne forklare både internt og for folk hvorfor vi tar beslutninger. Og sørg for at vi tar beslutninger av de riktige grunnene.
Dyplæring er et veldig stort buzzword akkurat nå, og det har vært store fremskritt innen datasyn og naturlig språkbehandling, sier Trevor Darrell , en professor ved UC Berkeley som leder et av prosjektene som er valgt ut for finansiering fra DARPA. Men [dyplæringssystemer] blir kritisert fordi det noen ganger er vanskelig å finne ut hva som skjer inni dem.
For DARPA-prosjektet utvikler Darrells gruppe flere nye dyplæringsmetoder, inkludert mer komplekse dype nettverk som er i stand til å lære flere ting samtidig. Det er også tilnærminger som inkluderer en forklaring i treningsdataene: i tilfelle av bildeteksting, for eksempel, vil et bilde klassifisert som en katt bli sammenkoblet med en forklaring på hvorfor det ble klassifisert som det. Den samme tilnærmingen kan brukes til å klassifisere kredittkortbelastninger som uredelige. Alle disse tingene får oss til mer tolkbare dype nettverk, sier Darrell.