Deep Learning er en svart boks, men helsevesenet har ikke noe imot det

Jon Han

Tidligere i 2017 viste kunstig intelligensforsker Sebastian Thrun og kolleger ved Stanford University at en dyplæringsalgoritme var i stand til å diagnostisere potensielt kreftfremkallende hudlesjoner like nøyaktig som en styresertifisert hudlege.

Kreftfunnet, rapportert i Natur, var en del av en strøm av rapporter som gir et tidlig innblikk i det som kan bli en ny æra av diagnostisering med programvare, der kunstig intelligens hjelper leger – eller til og med konkurrerer med dem.

Eksperter sier at medisinske bilder, som fotografier, røntgen og MR-er, er en nesten perfekt match for styrken til dyplæringsprogramvare, som de siste årene har ført til gjennombrudd når det gjelder å gjenkjenne ansikter og objekter i bilder.

Selskaper er allerede i jakten. Sannelig, Alphabets livsvitenskapsarm slo seg sammen med Nikon desember i fjor for å utvikle algoritmer for å oppdage årsaker til blindhet hos diabetikere. Radiologifeltet har i mellomtiden blitt kalt medisinens Silicon Valley på grunn av antallet detaljerte bilder det genererer.

Black-box medisin

Selv om spådommene fra Thruns team var svært nøyaktige, var ingen sikker på nøyaktig hvilke egenskaper ved en føflekk dyplæringsprogrammet brukte for å klassifisere den som kreft eller godartet. Resultatet er den medisinske versjonen av det som har blitt kalt deep learnings black box-problem.

I motsetning til mer tradisjonell vision-programvare, der en programmerer definerer regler - for eksempel har et stoppskilt åtte sider - i dyp læring finner algoritmen reglene selv, men ofte uten å forlate et revisjonsspor for å forklare sine beslutninger.

Når det gjelder svartboksmedisin, kan ikke leger vite hva som skjer fordi ingen gjør det; det er iboende ugjennomsiktig, sier Nicholson Price, en juridisk forsker fra University of Michigan som fokuserer på helselovgivning.

Relatert historie

Les Neste Hvorfor reagerer de fleste pasienter ikke på de nyeste kurene?

Likevel sier Price at det kanskje ikke utgjør en alvorlig hindring i helsevesenet. Han sammenligner dyp læring med rusmidler hvis fordeler kommer til på ukjent måte. Litium er ett eksempel. Den nøyaktige biokjemiske mekanismen for å påvirke humøret er ennå ikke klarlagt, men stoffet er fortsatt godkjent for behandling av bipolar lidelse. Mekanismen bak aspirin, den mest brukte medisinen gjennom tidene, ble ikke forstått på 70 år.

På samme måte, sier Price, vil black-box-problemet ikke utgjøre et problem for U.S. Food and Drug Administration, som i tillegg til å godkjenne nye medisiner, også regulerer programvare hvis formålet er å behandle eller forebygge sykdom.

I en uttalelse sier FDA at de i løpet av de siste 20 årene har godkjent en rekke bildeanalyseapplikasjoner som er avhengige av en rekke mønstergjenkjennings-, maskinlærings- og datasynsteknikker. Byrået bekreftet at det ser mer programvare drevet av dyp læring og bemerker at selskaper har lov til å holde detaljene i algoritmene sine konfidensielle.

FDA har allerede gitt grønt lys til minst én dyplæringsalgoritme. I januar godkjente FDA programvare utviklet av Arterys, et privateid medisinsk bildebehandlingsselskap basert i San Francisco. Algoritmen, DeepVentricle, analyserer MR-bilder av de indre konturene av hjertekamrene og beregner blodvolumet som pasientens hjerte kan holde og pumpe. Denne beregningen er fullført på mindre enn 30 sekunder, sier Arterys, mens konvensjonelle metoder vanligvis tar en time.

FDA krevde at Arterys skulle utføre omfattende tester for å sikre at resultatene fra algoritmen var på nivå med de som ble generert av leger. Du må bevise statistisk at algoritmen din følger hva dens tiltenkte bruk er eller [hva] markedsføringspåstandene sier den gjør, sier John Axerio-Cilies, selskapets teknologisjef.

Stor etterspørsel

For å trene programvaren deres, matet teamet ledet av Thrun, en tidligere visepresident i Google som jobbet med førerløse biler der, den med 129 405 bilder av hudtilstander vurdert av eksperter. Disse dekket 2032 forskjellige sykdommer og inkluderte 1942 bilder av bekreftet hudkreft.

Relatert historie

Mer om Sebastian Thrun Sebastian Thrun var med på å skape hypen rundt massive nettbaserte åpne høyskolekurs – men har slått sin egen oppstart til å fokusere på yrkesopplæring i stedet.

Til slutt var programvaren i stand til å overgå 21 hudleger når det gjaldt å identifisere hvilke føflekker som var potensielt kreftfremkallende.

Når hudleger ser potensialet i denne teknologien, tror jeg de fleste vil omfavne den, sier Robert Novoa, en Stanford-hudlege og forfatter av studien. Han og andre teammedlemmer nektet å si om de planlegger å kommersialisere programvaren.

Enhver bekymring for at leger snart er ute av jobb er også feilplassert, sier Allan Halpern, en Memorial Sloan Kettering-hudlege og president i International Society for Digital Imaging of the Skin. Jeg tror trusselen er motsatt, sier han. Algoritmer kan øke etterspørselen etter dermatologiske tjenester dramatisk.

Det er fordi en positiv på en screeningtest fortsatt krever en biopsi. Deep-learning-programvare kan finne en rolle i primærhelsetjenestene, sier Halpern, men hvis den ble gjort tilgjengelig som en populasjonsdekkende screeningtest, eller gjennom en forbrukerapp, ville det ikke vært nok hudleger til å følge opp potensielle kunder .

Axerio-Cilies sier at selskaper vil bli fristet til å tilby dyplæringsverktøy direkte til forbrukere. For eksempel kan folk skanne sine egne føflekker for å se om de trenger å besøke en lege. Noen ikke-AI mobiltelefonapper, som Mole Mapper , lar allerede folk spore mistenkelige føflekker og registrere eventuelle endringer over tid.

Halpern sier imidlertid at han ikke tror forbrukere er klare til å håndtere diagnostiske systemer som kan fortelle dem at en føflekk har 5 prosent sjanse, eller 50 prosent sjanse, for å være kreft.

Vi er ikke flinke til å bruke sannsynligheter, sier han.

gjemme seg