211service.com
AI gjenoppfinner måten vi oppfinner på
Regina Barzilays kontor ved MIT gir et klart syn på Novartis Institutes for Biomedical Research. Amgens legemiddeloppdagelsesgruppe er noen kvartaler utover det. Inntil nylig hadde Barzilay, en av verdens ledende forskere innen kunstig intelligens, ikke tenkt mye på disse nærliggende bygningene fulle av kjemikere og biologer. Men da AI og maskinlæring begynte å utføre stadig mer imponerende bragder innen bildegjenkjenning og språkforståelse, begynte hun å lure på: kunne det også forandre oppgaven med å finne nye medisiner?
Problemet er at menneskelige forskere bare kan utforske en liten bit av det som er mulig. Det er anslått at det er så mange som 1060 potensielt medikamentlignende molekyler - mer enn antall atomer i solsystemet. Men å krysse tilsynelatende ubegrensede muligheter er det maskinlæring er god på. Opplært på store databaser med eksisterende molekyler og deres egenskaper, kan programmene utforske alle mulige relaterte molekyler.
Denne historien var en del av vår utgave for mars 2019
- Se resten av saken
- Abonnere
Oppdagelse av narkotika er en enormt kostbar og ofte frustrerende prosess. Medisinske kjemikere må gjette hvilke forbindelser som kan lage gode medisiner, ved å bruke kunnskapen deres om hvordan et molekyls struktur påvirker dets egenskaper. De syntetiserer og tester utallige varianter, og de fleste er feil. Å komme opp med nye molekyler er fortsatt en kunst, fordi du har et så stort rom av muligheter, sier Barzilay. Det tar lang tid å finne gode legemiddelkandidater.
Ved å fremskynde dette kritiske trinnet, kan dyp læring tilby langt flere muligheter for kjemikere å forfølge, noe som gjør oppdagelsen av medikamenter mye raskere. En fordel: maskinlærings ofte sære fantasi. Kanskje det vil gå i en annen retning som et menneske ikke ville gå inn i, sier Angel Guzman-Perez, en narkotikaforsker ved Amgen som jobber med Barzilay. Den tenker annerledes.
Andre bruker maskinlæring for å prøve å finne opp nye materialer for renteknologiske applikasjoner. Blant punktene på ønskelisten er forbedrede batterier for lagring av strøm på strømnettet og organiske solceller, som kan være langt billigere å lage enn dagens klumpete silisiumbaserte.
Slike gjennombrudd har blitt vanskeligere og dyrere å oppnå ettersom kjemi, materialvitenskap og medikamentoppdagelse har blitt forbløffende komplekse og mettet med data. Selv mens den farmasøytiske og bioteknologiske industrien bruker penger på forskning, har antallet nye legemidler basert på nye molekyler vært flatt de siste tiårene. Og vi sitter fortsatt fast med litium-ion-batterier som dateres til tidlig på 1990-tallet og design for silisiumsolceller som også er flere tiår gamle.
Kompleksiteten som har bremset fremgangen på disse feltene er der dyp læring utmerker seg. Å søke gjennom flerdimensjonalt rom for å komme med verdifulle spådommer er AIs sweet spot, sier Ajay Agrawal, økonom ved Rotman School of Management i Toronto og forfatter av bestselgeren Prediction Machines: The Simple Economics of Artificial Intelligence .
I en fersk artikkel hevdet økonomer ved MIT, Harvard og Boston University at AIs største økonomiske innvirkning kan komme fra dets potensiale som en ny metode for oppfinnelsen som til slutt omformer naturen til innovasjonsprosessen og organiseringen av FoU.
Iain Cockburn, en BU-økonom og medforfatter av papiret, sier: Nye metoder for oppfinnelser med brede anvendelser kommer ikke så ofte, og hvis vi gjetter rett, kan AI dramatisk endre kostnadene ved å drive FoU på mange forskjellige felt. Mye av innovasjon innebærer å lage spådommer basert på data. I slike oppgaver, legger Cockburn til, kan maskinlæring være mye raskere og billigere i størrelsesordener.
Med andre ord, AIs hovedarv er kanskje ikke førerløse biler eller bildesøk eller til og med Alexas evne til å ta bestillinger, men dens evne til å komme opp med nye ideer for selve innovasjonen.
Ideer blir dyre
Sent i fjor vant Paul Romer Nobelprisen for økonomi for arbeid utført på slutten av 1980-tallet og begynnelsen av 1990-tallet som viste hvordan investeringer i nye ideer og innovasjon driver robust økonomisk vekst. Tidligere økonomer hadde lagt merke til sammenhengen mellom innovasjon og vekst, men Romer ga en utsøkt forklaring på hvordan det fungerer. I tiårene siden har Romers konklusjoner vært den intellektuelle inspirasjonen for mange i Silicon Valley og bidratt til å forklare hvordan den har oppnådd en slik rikdom.
Men hva om vår pipeline av nye ideer tørker ut? Økonomene Nicholas Bloom og Chad Jones ved Stanford, Michael Webb, en doktorgradsstudent ved universitetet, og John Van Reenen ved MIT så på problemet i en fersk artikkel kalt Blir ideer vanskeligere å finne? (Svaret deres var ja.) Når vi så på medikamentoppdagelse, halvlederforskning, medisinsk innovasjon og innsats for å forbedre avlingene, fant økonomene en felles historie: Investeringer i forskning stiger kraftig, men utbetalingene forblir konstante.
Fra en økonoms perspektiv er det et produktivitetsproblem: vi betaler mer for en tilsvarende mengde produksjon. Og tallene ser dårlige ut. Forskningsproduktiviteten – antallet forskere som kreves for å produsere et gitt resultat – synker med rundt 6,8 % årlig for oppgaven med å utvide Moores lov, som krever at vi finner måter å pakke stadig flere og mindre komponenter på en halvlederbrikke for å kunne fortsett å gjøre datamaskiner raskere og kraftigere. (Det trengs mer enn 18 ganger så mange forskere for å doble spontettheten i dag som det gjorde på begynnelsen av 1970-tallet, fant de.) For å forbedre frø, målt ved avling, synker forskningsproduktiviteten med rundt 5 % hvert år. For amerikansk økonomi som helhet faller den med 5,3 %.
Den stigende prisen på store ideer
Det krever flere forskere og penger å finne produktive nye ideer, ifølge økonomer ved Stanford og MIT. Det er en sannsynlig faktor i den generelle svake veksten i USA og Europa de siste tiårene. Grafen nedenfor viser mønsteret for den samlede økonomien, og fremhever USAs totale faktorproduktivitet (etter tiårsgjennomsnitt og for 2000–2014) – et mål på bidraget fra innovasjon – kontra antall forskere. Lignende mønstre gjelder for spesifikke forskningsområder.
kilde: bloom, jones, van reenen og webb
Enhver negativ effekt av denne nedgangen har så langt blitt oppveid av det faktum at vi legger mer penger og folk i forskning. Så vi dobler fortsatt antall transistorer på en brikke hvert annet år, men bare fordi vi dedikerer langt flere mennesker til problemet. Vi må doble investeringene våre i forskning og utvikling i løpet av de neste 13 årene bare for å fortsette å tråkke vann.
Det kan selvfølgelig være at felt som avlingsvitenskap og halvlederforskning begynner å bli gamle og mulighetene for innovasjon svinner inn. Forskerne fant imidlertid også at den generelle veksten knyttet til innovasjon i økonomien var langsom. Eventuelle investeringer i nye områder, og eventuelle oppfinnelser de har generert, har ikke klart å endre den generelle historien.
Fallet i forskningsproduktivitet ser ut til å være en tiår lang trend. Men det er spesielt bekymringsfullt for økonomer nå fordi vi har sett en generell nedgang i økonomisk vekst siden midten av 2000-tallet. I en tid med strålende nye teknologier som smarttelefoner, førerløse biler og Facebook, er veksten treg, og delen av den som tilskrives innovasjon – kalt totalfaktorproduktivitet – har vært spesielt svak.
De langvarige effektene av finanskollapsen i 2008 kan hemme veksten, sier Van Reenen, og det samme kan fortsatt politisk usikkerhet. Men dyster forskningsproduktivitet er utvilsomt en bidragsyter. Og han sier at dersom nedgangen fortsetter, kan det gjøre alvorlig skade på fremtidig velstand og vekst.
Det er fornuftig at vi allerede har plukket ut mye av det noen økonomer liker å kalle den lavthengende frukten når det gjelder oppfinnelser. Kan det være at den eneste frukten som er igjen er noen skrumpete epler på de lengste grenene på treet? Robert Gordon, økonom ved Northwestern University, har vært en sterk talsmann for det synet. Han sier at vi neppe vil matche oppblomstringen av oppdagelser som markerte slutten av 1800- og begynnelsen av 1900-tallet, da oppfinnelser som elektrisk lys og kraft og forbrenningsmotoren førte til et århundre med enestående velstand.
Hvis Gordon har rett, og det er færre store oppfinnelser igjen, er vi dømt til en dyster økonomisk fremtid. Men få økonomer tror det er tilfelle. Snarere er det fornuftig at store nye ideer er der ute; det blir bare dyrere å finne dem ettersom vitenskapen blir stadig mer kompleks. Sjansen for at neste penicillin bare faller i fanget på oss er liten. Vi vil trenge flere og flere forskere for å forstå den fremskredne vitenskapen innen felt som kjemi og biologi.
Det er det Ben Jones, en økonom ved Northwestern, kaller byrden av kunnskap. Forskere blir mer spesialiserte, noe som gjør det nødvendig å danne større – og dyrere – team for å løse problemer. Jones forskning viser at alderen når forskerne når sin høyeste produktivitet går opp: det tar dem lengre tid å få den ekspertisen de trenger. Det er et medfødt biprodukt av den eksponentielle veksten av kunnskap, sier han.
Mange forteller meg at funnene våre er deprimerende, men jeg ser det ikke slik, sier Van Reenen. Innovasjon kan være vanskeligere og dyrere, men det, sier han, peker ganske enkelt på behovet for politikk, inkludert skatteinsentiver, som vil oppmuntre til investeringer i mer forskning.
Så lenge du legger ressurser i FoU, kan du opprettholde en sunn produktivitetsvekst, sier Van Reenen. Men vi må være forberedt på å bruke penger for å gjøre det. Det kommer ikke gratis.
Å gi opp vitenskapen
Kan AI kreativt løse den typen problemer som en slik innovasjon krever? Noen eksperter er nå overbevist om at det kan, gitt de fremskritt som spilleautomaten AlphaGo viser frem.
AlphaGo mestret det eldgamle spillet Go, og slo den regjerende mesteren, ved å studere de nesten ubegrensede mulige trekkene i et spill som har blitt spilt i flere tusen år av mennesker som er avhengige av intuisjon. Ved å gjøre det, kom det noen ganger opp med vinnende strategier som ingen menneskelig spiller hadde tenkt å prøve. På samme måte, tenker man, kan dyplæringsprogrammer trent på store mengder eksperimentelle data og kjemisk litteratur komme opp med nye forbindelser som forskerne aldri hadde forestilt seg.
Kan et AlphaGo-lignende gjennombrudd hjelpe de voksende hærene av forskere med å studere stadig voksende vitenskapelige data? Kan AI gjøre grunnleggende forskning raskere og mer produktiv, og gjenopplive områder som har blitt for dyre for bedrifter å forfølge?
De siste tiårene har vi sett en massiv omveltning i vår FoU-innsats. Siden dagene da AT&Ts Bell Labs og Xeroxs PARC produserte verdensendrende oppfinnelser som transistoren, solceller og laserutskrift, har de fleste store selskaper i USA og andre rike økonomier gitt opp grunnleggende forskning. I mellomtiden har amerikanske føderale FoU-investeringer vært flate, spesielt for andre felt enn biovitenskap. Så mens vi fortsetter å øke antallet forskere totalt og å gjøre inkrementelle fremskritt til kommersielle muligheter, har områder som krever langsiktig forskning og en forankring i grunnleggende vitenskap fått et slag.
Spesielt oppfinnelsen av nye materialer har blitt et kommersielt bakvann. Det har holdt tilbake nødvendige innovasjoner innen ren teknologi – ting som bedre batterier, mer effektive solceller og katalysatorer for å lage drivstoff direkte fra sollys og karbondioksid (tenk kunstig fotosyntese). Mens prisene på solcellepaneler og batterier faller jevnt og trutt, er det i stor grad på grunn av forbedringer i produksjon og stordriftsfordeler, snarere enn grunnleggende fremskritt i selve teknologiene.
Kan et AlphaGo-lignende gjennombrudd hjelpe de voksende hærene av forskere med å studere stadig voksende vitenskapelige data?
Det tar i gjennomsnitt 15 til 20 år å komme opp med et nytt materiale, sier Tonio Buonassisi, en maskiningeniør ved MIT som jobber med et team av forskere i Singapore for å få fart på prosessen. Det er altfor lang tid for de fleste bedrifter. Det er upraktisk selv for mange akademiske grupper. Hvem ønsker å bruke år på et materiale som kanskje fungerer eller ikke? Dette er grunnen til at venture-støttede startups, som har generert mye av innovasjonen innen programvare og til og med bioteknologi, for lengst har gitt opp ren teknologi: venturekapitalister trenger generelt en avkastning innen syv år eller tidligere.
En 10x akselerasjon [i hastigheten på materialoppdagelse] er ikke bare mulig, den er nødvendig, sier Buonassisi, som driver et fotovoltaisk forskningslaboratorium ved MIT. Målet hans, og målet til et løst tilkoblet nettverk av medforskere, er å bruke AI og maskinlæring for å få den 15- til 20-årige tidsrammen ned til rundt to til fem år ved å angripe de forskjellige flaskehalsene i laboratoriet, og automatisere så mye av prosessen som mulig. En raskere prosess gir forskerne langt flere potensielle løsninger å teste, lar dem finne blindveier i løpet av timer i stedet for måneder, og bidrar til å optimalisere materialene. Det transformerer hvordan vi tenker som forskere, sier han.
Det kan også gjøre materialoppdagelse til en levedyktig virksomhet igjen. Buonassisi peker på et diagram som viser tiden det tok å utvikle ulike teknologier. En av kolonnene merket med litium-ion-batterier viser 20 år.
En annen, mye kortere kolonne er merket med ny solcelle; på toppen er 2030 klimamål. Poenget er klart: vi kan ikke vente 20 år til på neste gjennombrudd innen renteknologiske materialer.
AI-startups innen narkotika og materialer| en Atomwise | to Kebotix | 3 Dyp genomikk | |
|---|---|---|---|
| Hva de gjør | Bruk nevrale nettverk til å søke gjennom store databaser for å finne små medikamentlignende molekyler som binder seg til målrettede proteiner. | Utvikle en kombinasjon av robotikk og kunstig intelligens for å fremskynde oppdagelsen og utviklingen av nye materialer og kjemikalier. | Bruk kunstig intelligens for å søke etter oligonukleotidmolekyler for å behandle genetiske sykdommer. |
| Hvorfor det betyr noe | Å identifisere slike molekyler med ønskelige egenskaper, slik som potens, er et kritisk første skritt i legemiddeloppdagelsen. | Det tar mer enn et tiår å utvikle et materiale. Å kutte den tiden kan hjelpe oss med å takle problemer som klimaendringer. | Oligonukleotidbehandlinger lover mot en rekke sykdommer, inkludert nevrodegenerative og metabolske forstyrrelser. |
Det AI-drevne laboratoriet
Kom til et fritt land: det er slik Alán Aspuru-Guzik inviterer en amerikansk besøkende til sitt Toronto-laboratorium i disse dager. I 2018 forlot Aspuru-Guzik sin faste stilling som kjemiprofessor ved Harvard, og flyttet med familien til Canada. Beslutningen hans ble drevet av en sterk avsky for president Donald Trump og hans politikk, spesielt de som gjelder immigrasjon. Det skadet imidlertid ikke at Toronto raskt er i ferd med å bli et mekka for forskning på kunstig intelligens.
I tillegg til å være kjemiprofessor ved University of Toronto, har Aspuru-Guzik også en stilling ved Vector Institute for Artificial Intelligence. Det er AI-senteret som ble medstiftet av Geoffrey Hinton, hvis banebrytende arbeid med dyp læring og nevrale nettverk i stor grad er kreditert med å starte dagens boom i AI.
I en bemerkelsesverdig artikkel fra 2012 demonstrerte Hinton og hans medforfattere at et dypt nevralt nettverk, trent på et stort antall bilder, kunne identifisere en sopp, en leopard og en dalmatisk hund. Det var et bemerkelsesverdig gjennombrudd på den tiden, og det innledet raskt en AI-revolusjon ved å bruke dyplæringsalgoritmer for å forstå store datasett.
Forskere fant raskt måter å bruke slike nevrale nettverk for å hjelpe førerløse biler med å navigere og å oppdage ansikter i en folkemengde. Andre modifiserte dyplæringsverktøyene slik at de kunne trene seg selv; blant disse verktøyene er GAN-er (generative adversarial networks), som kan lage bilder av scener og mennesker som aldri har eksistert.
I en oppfølgingsartikkel fra 2015 ga Hinton ledetråder om at dyp læring kunne brukes i kjemi- og materialforskning. Artikkelen hans fremhevet evnen til nevrale nettverk til å oppdage intrikate strukturer i høydimensjonale data - med andre ord, de samme nettverkene som kan navigere gjennom millioner av bilder for å finne, for eksempel, en hund med flekker kan sortere gjennom millioner av molekyler for å identifisere en. med visse ønskelige egenskaper.
Energisk og sprudlende av ideer, Aspuru-Guzik er ikke typen vitenskapsmann som tålmodig bruker to tiår på å finne ut om et materiale vil fungere. Og han har raskt tilpasset dyp læring og nevrale nettverk for å forsøke å gjenoppfinne materialoppdagelse. Ideen er å tilføre kunstig intelligens og automatisering i alle trinnene i materialforskningen: den første designen og syntesen av et materiale, dets testing og analyse, og til slutt de mange forbedringene som optimerer ytelsen.
På en iskald dag tidlig i januar har Aspuru-Guzik hatten trukket tett ned over ørene, men virker ellers uvitende om det bitre kanadiske været. Han har andre ting på hjertet. For det første venter han fortsatt på levering av en robot på 1,2 millioner dollar, nå på et skip fra Sveits, som vil være midtpunktet for det automatiserte, AI-drevne laboratoriet han har sett for seg.
I laboratoriet vil dyplæringsverktøy som GAN-er og deres fetter, en teknikk som kalles autoencoder, forestille seg lovende nye materialer og finne ut hvordan de skal lages. Roboten vil da lage forbindelsene; Aspuru-Guzik ønsker å lage et rimelig automatisert system som vil være i stand til å spytte ut nye molekyler etter behov. Når materialene er laget, kan de analyseres med instrumenter som et massespektrometer. Ytterligere maskinlæringsverktøy vil gi mening om disse dataene og diagnostisere materialets egenskaper. Denne innsikten vil deretter bli brukt til å optimalisere materialene ytterligere ved å justere strukturene deres. Og så, sier Aspuru-Guzik, vil AI velge det neste eksperimentet som skal gjøres, og lukke sløyfen.
Ideen er å tilføre kunstig intelligens og automatisering i alle trinnene i materialforskning og oppdagelse av legemidler.
Når roboten er på plass, forventer Aspuru-Guzik å lage rundt 48 nye materialer annenhver dag, og trekker på maskinlæringsinnsikten for å fortsette å forbedre strukturene deres. Det er et lovende nytt materiale hver time, et enestående tempo som fullstendig kan forandre laboratoriets produktivitet.
Det handler ikke bare om å drømme opp et magisk materiale, sier han. For å virkelig endre materialforskning, må du angripe hele prosessen: Hva er flaskehalsene? Du vil ha AI i hver del av laboratoriet. Når du for eksempel har en foreslått struktur, må du fortsatt finne ut hvordan du lager den. Det kan ta uker til måneder å løse det kjemikere kaller retrosyntese – å jobbe bakover fra en molekylstruktur for å finne ut trinnene som trengs for å syntetisere en slik forbindelse. En annen flaskehals kommer i å forstå mengden av data som produseres av analytisk utstyr. Maskinlæring kan øke hastigheten på hvert av disse trinnene.
Det som motiverer Aspuru-Guzik er trusselen om klimaendringer, behovet for forbedringer innen ren teknologi, og den essensielle rollen til materialer i å produsere slike fremskritt. Hans egen forskning ser på nye organiske elektrolytter for strømningsbatterier, som kan brukes til å lagre overflødig elektrisitet fra strømnettet og pumpe det inn igjen når det er nødvendig, og på organiske solceller som vil være langt billigere enn silisiumbaserte. Men hvis designet hans for et selvstendig, automatisert kjemisk laboratorium fungerer, foreslår han, kan det gjøre kjemi langt mer tilgjengelig for nesten alle. Han kaller det demokratisering av materialfunn.
Det er her handlingen er, sier han. AI-er som kjører biler, AI-er som forbedrer medisinsk diagnostikk, AI-er for personlig shopping - den økonomiske veksten fra AI-er brukt til vitenskapelig forskning kan oversvømme den økonomiske effekten fra alle de andre AI-ene til sammen.
Vector Institute, Torontos magnet for AI-forskning, ligger mindre enn en kilometer unna. Fra vinduene til det store åpne kontorlokalet kan du se over Ontarios parlamentsbygning. Nærheten til eksperter innen kunstig intelligens, kjemi og næringsliv til provinsens regjeringssete i Toronto sentrum er ikke en tilfeldighet. Det er en sterk tro blant mange i byen at kunstig intelligens vil transformere virksomheten og økonomien, og i økende grad er noen overbevist om at det radikalt vil endre måten vi driver med vitenskap på.
Likevel, hvis det er å gjøre det, er et første skritt å overbevise forskere om at det er verdt det.
Amgens Guzman-Perez sier at mange av hans jevnaldrende innen medisinsk kjemi er skeptiske. I løpet av de siste tiårene har feltet sett en rekke antatt revolusjonerende teknologier, fra beregningsdesign til kombinatorisk kjemi og screening med høy gjennomstrømning, som har automatisert rask produksjon og testing av flere molekyler. Hver har vist seg noe nyttig, men begrenset. Ingen, sier han, gir deg på magisk vis et nytt stoff.
Det er for tidlig å vite med sikkerhet om dyp læring endelig kan være en endring i spillet, erkjenner han, og det er vanskelig å vite tidsrammen. Men han tar oppmuntring fra hastigheten som AI har forvandlet bildegjenkjenning og andre søkeoppgaver med.
Forhåpentligvis kan det skje i kjemi, sier han.
Vi venter fortsatt på AlphaGo-øyeblikket innen kjemi og materialer – på dyptgående algoritmer for å overliste det mest dyktige mennesket når det kommer opp med et nytt stoff eller materiale. Men akkurat som AlphaGo vant med en kombinasjon av uhyggelig strategi og en umenneskelig fantasi, kan dagens nyeste AI-programmer snart bevise seg i laboratoriet.
Og det får noen forskere til å drømme stort. Ideen, sier Aspuru-Guzik, er å bruke kunstig intelligens og automatisering for å gjenoppfinne laboratoriet med verktøy som $30 000 molekylskriveren han håper å bygge. Det vil da være opp til forskernes fantasi – og AI – å utforske mulighetene.