211service.com
Vi er ikke klare for AI, sier vinneren av en ny $1m AI-pris
Rachel Wu / MIT CSAIL
Regina Barzilay , en professor ved MITs informatikk- og kunstig intelligenslaboratorium (CSAIL), er den første vinneren av Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, en ny pris som anerkjenner fremragende forskning innen AI. Barzilay startet sin karriere med prosessering av naturlig språk. Etter å ha overlevd brystkreft i 2014, byttet hun fokus til maskinlæringsalgoritmer for å oppdage kreft og designe nye medisiner . Prisen deles ut i februar 2021 av Association for the Advancement of Artificial Intelligence (AAAI).
Prispengene på $1 million, levert av Kinesisk nettbasert utdanningsselskap Squirrel AI , som vi har skrevet om tidligere, setter prisen på samme økonomiske nivå som Nobelprisen og Turingprisen i informatikk. Jeg snakket med Barzilay på telefon om premien – og løftet og frustrasjonene til AI.
Samtalen vår er redigert for lengde og klarhet.
Gratulerer med denne prisen. Hva betyr det for deg og for AI generelt?
Takk skal du ha. Du vet, det er mange områder hvor AI fortsatt ikke gjør en forskjell, men kan være det. Vi bruker maskinoversettelse eller anbefalingssystemer hele tiden, men ingen tenker på disse som fancy teknologi, ingen spør om dem. Men med andre områder av livet vårt som er avgjørende for vårt velvære, for eksempel helsevesenet, har AI ennå ikke samfunnets aksept. Jeg håper at denne prisen, og oppmerksomheten som følger med den, bidrar til å endre folks sinn og lar dem se mulighetene – og presser AI-fellesskapet til å ta de neste skrittene.
Hva slags trinn?
Da teknologien gikk fra dampkraft til elektrisitet, var de første forsøkene på å bringe elektrisitet til industrien ikke særlig vellykkede fordi folk bare prøvde å kopiere dampmotorer. Jeg tror noe lignende skjer nå med AI. Vi må finne ut hvordan vi kan integrere det i mange forskjellige områder: ikke bare helsevesenet, men utdanning, materialdesign, byplanlegging og så videre. Selvfølgelig er det mer å gjøre på teknologisiden, inkludert å lage bedre algoritmer, men vi bringer denne teknologien inn i svært regulerte miljøer, og vi har egentlig ikke sett på hvordan vi skal gjøre det.
Akkurat nå blomstrer kunstig intelligens på steder hvor kostnadene ved feil er svært lave. Hvis Google finner en feil oversettelse eller gir deg en feil lenke, er det greit; du kan bare gå til neste. Men det kommer ikke til å fungere for en lege. Hvis du gir pasienter feil behandling eller går glipp av en diagnose, er det virkelig alvorlige implikasjoner. Mange algoritmer kan faktisk gjøre ting bedre enn mennesker. Men vi stoler alltid på vår egen intuisjon, vårt eget sinn, mer enn noe vi ikke forstår. Vi må gi leger grunner til å stole på AI. FDA ser på dette problemet, men jeg tror det er veldig langt fra løst i USA, eller noe annet sted i verden.
I 2014 ble du diagnostisert med brystkreft. Endret det måten du tenkte på arbeidet ditt?
Å, ja, absolutt. En av tingene som skjedde da jeg gikk gjennom behandling og tilbrakte urimelig mye tid på sykehuset, er at tingene jeg hadde jobbet med nå føltes trivielle. Jeg tenkte: Folk lider. Vi kan gjøre noe.
Da jeg startet behandlingen spurte jeg hva som skjer med pasienter som meg, med min type svulst og min alder og denne behandlingen. De ville si: Å, det var denne kliniske studien, men du passer ikke akkurat til den. Og jeg tenkte at brystkreft er en veldig vanlig sykdom. Det er så mange pasienter, med så mye akkumulert data. Hvorfor bruker vi det ikke? Men du kan ikke enkelt få denne informasjonen ut av systemet på amerikanske sykehus. Det er der, men det er i tekst. Så jeg begynte å bruke NLP for å få tilgang til det. Jeg kunne ikke forestille meg noe annet felt der folk frivillig kaster dataene som er tilgjengelige. Men det var det som foregikk innen medisin.
Har sykehusene tatt sjansen på å gjøre mer bruk av disse dataene?
Det tok litt tid å finne en lege som ville jobbe med meg. Jeg sa til folk, hvis du har noen problemer, vil jeg prøve å løse det. Jeg trenger ikke finansiering. Bare gi meg et problem og dataene. Men det tok meg en stund å finne samarbeidspartnere. Du vet, jeg var ikke en spesielt populær karakter.
Fra dette NLP-arbeidet gikk jeg så over til å forutsi pasientrisiko fra mammografi, ved å bruke bildegjenkjenning for å forutsi om du ville få kreft eller ikke – hvordan sykdommen din sannsynligvis vil utvikle seg.
Ville disse verktøyene ha gjort en forskjell hvis de hadde vært tilgjengelige for deg da du fikk diagnosen?
Absolutt. Vi kan kjøre dette på mammografiene mine fra før jeg fikk diagnosen, og det var allerede der – du kan tydelig oppdage det. Det er ikke et slags mirakel – kreft vokser ikke fra i går til i dag. Det er en ganske lang prosess. Det er tegn i vevet, men det menneskelige øyet har begrenset evne til å oppdage det som kan være veldig små mønstre. I mitt tilfelle ville det vært synlig for to år før.
Hvorfor så ikke legen det?
Det er en vanskelig oppgave. Hver mammografi har hvite flekker som kan være kreft eller ikke, og en lege må bestemme hvilke av disse hvite flekkene som må biopsieres. Legen må balansere å handle på intuisjon kontra å skade en pasient ved å ta biopsier som ikke er nødvendig. Men dette er akkurat den typen beslutninger som datadrevet AI kan hjelpe oss å ta på en mye mer systematisk måte.
Noe som bringer oss tilbake til problemet med tillit. Trenger vi en teknisk løsning som gjør verktøy mer forklarlige, eller trenger vi å utdanne folk som bruker dem?
Det er et flott spørsmål. Noen avgjørelser ville være veldig enkle å forklare for et menneske. Hvis en AI oppdager kreft i et bilde, kan du zoome inn på området som modellen ser på når den gjør spådommen. Men hvis du ber en maskin, som vi i økende grad gjør, om å gjøre ting som et menneske ikke kan, hva skal maskinen egentlig vise deg? Det er som en hund, som kan lukte mye bedre enn oss, som forklarer hvordan den kan lukte noe. Vi har rett og slett ikke den kapasiteten. Jeg tror at etter hvert som maskinene blir mye mer avanserte, er dette det store spørsmålet. Hvilken forklaring vil overbevise deg hvis du ikke kan løse denne oppgaven på egen hånd?
Så bør vi vente til AI kan forklare seg fullt ut?
Nei. Tenk på hvordan vi svarer på spørsmål på liv og død nå. De fleste medisinske spørsmål, som hvordan du vil reagere på denne behandlingen eller den medisinen, besvares ved hjelp av statistiske modeller som kan føre til feil. Ingen av dem er perfekte.
Det er det samme med AI. Jeg tror ikke det er bra å vente til vi utvikler perfekt AI. Jeg tror ikke det kommer til å skje med det første. Spørsmålet er hvordan man bruker sine styrker og unngår svakhetene.
Til slutt, hvorfor har AI ennå ikke hatt stor innvirkning på covid-19?
AI kommer ikke til å løse alle de store problemene vi har. Men det har vært noen små eksempler. Da alle ikke-essensielle kliniske tjenester ble nedskalert tidligere i år, brukte vi et kunstig intelligens-verktøy for å identifisere hvilke onkologiske pasienter i Boston som fortsatt bør gå og få sitt årlige mammografi.
Men hovedårsaken til at AI ikke har vært mer nyttig er ikke mangelen på teknologi, men mangelen på data. Du vet, jeg er i ledergruppen til MITs J-Clinic, et senter for AI i helsevesenet, og det var mange av oss i april som sa: Vi ønsker virkelig å gjøre noe – hvor kan vi få dataene? Men vi fikk det ikke til. Det var umulig. Selv nå, seks måneder senere, er det ikke åpenbart hvordan vi får data.
Den andre grunnen er at vi ikke var klare. Selv under normale omstendigheter, når folk ikke er under stress, er det vanskelig å ta i bruk AI-verktøy i en prosess og sørge for at alt er riktig regulert. I den nåværende krisen har vi rett og slett ikke den kapasiteten.
Du vet, jeg forstår hvorfor leger er konservative: folks liv står på spill. Men jeg håper at dette vil være en vekker til hvor uforberedte vi er til å reagere raskt på nye trusler. Så mye som jeg tror at AI er fremtidens teknologi, med mindre vi finner ut hvordan vi kan stole på den, vil vi ikke se at den går fremover.