211service.com
Denne brikken ble demonstrert på Jeff Bezos hemmelighetsfulle teknologikonferanse. Det kan være nøkkelen til fremtiden til AI.
Fotografier av Tony Luong
Nylig, på en blendende morgen i Palm Springs, California, Vivienne Sze tok til en liten scene for å levere den kanskje mest nervepirrende presentasjonen av hennes karriere.
Hun kjente temaet ut og inn. Hun skulle fortelle publikum om brikkene, som ble utviklet i laboratoriet hennes ved MIT, som lover å bringe kraftig kunstig intelligens til en mengde enheter der kraften er begrenset, utenfor rekkevidden til de enorme datasentrene der de fleste AI-beregninger finner sted. Begivenheten – og publikum – ga imidlertid Sze pause.
Tony Luong
Rammen var MARS, en elitekonferanse kun for inviterte der roboter rusler (eller flyr) gjennom et luksuriøst feriested og blander seg med kjente forskere og sci-fi-forfattere. Bare noen få forskere er invitert til å holde tekniske foredrag, og øktene er ment å være både fryktinngytende og opplysende. Publikum bestod i mellomtiden av rundt 100 av verdens viktigste forskere, administrerende direktører og gründere. MARS er vert for ingen ringere enn Amazons grunnlegger og styreleder, Jeff Bezos, som satt på første rad.
Det var, jeg antar du vil si, et ganske høyt kaliber publikum, minnes Sze med en latter.
Andre MARS-høyttalere ville introdusere en karatehakkingsrobot, droner som klaffer som store, skummelt stille insekter, og til og med optimistiske tegninger for kolonier fra mars. Szes chips kan virke mer beskjedne; for det blotte øye kan de ikke skilles fra brikkene du finner inne i en hvilken som helst elektronisk enhet. Men de er uten tvil mye viktigere enn noe annet som vises på arrangementet.
Nye muligheter
Nydesignede brikker, som de som utvikles i Szes laboratorium, kan være avgjørende for fremtidig fremgang innen AI – inkludert ting som dronene og robotene som ble funnet på MARS. Til nå har AI-programvare stort sett kjørt på grafiske brikker, men ny maskinvare kan gjøre AI-algoritmer kraftigere, noe som vil låse opp nye applikasjoner. Nye AI-brikker kan gjøre lagerroboter mer vanlige eller la smarttelefoner lage fotorealistiske landskap med utvidet virkelighet.
Szes brikker er både ekstremt effektive og fleksible i utformingen, noe som er avgjørende for et felt som utvikler seg utrolig raskt.
Mikrobrikkene er designet for å presse mer ut av de dyptlærende AI-algoritmene som allerede har snudd opp ned på verden. Og i prosessen kan de inspirere disse algoritmene til å utvikle seg. Vi trenger ny maskinvare fordi Moores lov har bremset ned, sier Sze, og refererer til aksiomet laget av Intels medgrunnlegger Gordon Moore som spådde at antall transistorer på en brikke vil dobles omtrent hver 18. måned – noe som fører til en tilsvarende ytelsesøkning i datakraft. .
Tony Luong
Denne loven går nå i økende grad inn i de fysiske grensene som følger med tekniske komponenter på atomskala. Og det vekker ny interesse for alternative arkitekturer og tilnærminger til databehandling.
De høye innsatsene knyttet til å investere i neste generasjons AI-brikker – og opprettholde USAs dominans i brikkeproduksjon generelt – går ikke tapt for den amerikanske regjeringen. Szes mikrobrikker utvikles med midler fra et Defense Advanced Research Projects Agency (DARPA)-program som er ment å bidra til å utvikle nye AI-brikkedesigner (se AI-ideene som er utformet for å holde USA foran Kina).
Men innovasjon innen chipmaking har hovedsakelig blitt ansporet av fremveksten av dyp læring, en veldig kraftig måte for maskiner å lære å utføre nyttige oppgaver. I stedet for å gi en datamaskin et sett med regler å følge, programmerer en maskin seg selv. Treningsdata mates inn i et stort, simulert kunstig nevralt nettverk, som deretter justeres slik at det gir ønsket resultat. Med nok trening kan et dyplæringssystem finne subtile og abstrakte mønstre i data. Teknikken brukes på en stadig voksende rekke praktiske oppgaver, fra ansiktsgjenkjenning på smarttelefoner til å forutsi sykdom fra medisinske bilder.
Det nye chipracet
Dyplæring er ikke så avhengig av Moores lov. Nevrale nett kjører mange matematiske beregninger parallelt, så de kjører langt mer effektivt på de spesialiserte videospill-grafikkbrikkene som utfører parallelle beregninger for å gjengi 3D-bilder. Men mikrobrikker designet spesielt for beregningene som understøtter dyp læring bør være enda kraftigere.
Potensialet for nye brikkearkitekturer for å forbedre AI har vekket et nivå av gründeraktivitet som chipindustrien ikke har sett på flere tiår (se The Race to Power AIs Silicon Brains og Kina har aldri hatt en ekte brikkeindustri. Å lage AI-brikker kan endre det).
Tony Luong
Store teknologiselskaper som håper å utnytte og kommersialisere AI – inkludert Google, Microsoft og (ja) Amazon – jobber alle med sine egne dyplæringsbrikker. Mange mindre selskaper utvikler også nye brikker. Det er umulig å holde styr på alle selskapene som hopper inn i AI-brikkeområdet, sier Mike Delmer, en mikrochipanalytiker ved Linley Group , et analytikerfirma. Jeg tuller ikke med at vi lærer om en ny nesten hver uke.
Den virkelige muligheten, sier Sze, er ikke å bygge de kraftigste dyplæringsbrikkene som er mulig. Strømeffektivitet er viktig fordi AI også må kjøre utenfor rekkevidden til store datasentre, noe som betyr at man kun stoler på strømmen som er tilgjengelig på selve enheten for å kjøre. Dette er kjent som å operere på kanten.
AI vil være overalt – og det vil være ekstremt viktig å finne ut måter å gjøre ting mer energieffektive på, sier Naveen Rao, visepresident for produktgruppen for kunstig intelligens hos Intel.
For eksempel er Szes maskinvare mer effektiv delvis fordi den fysisk reduserer flaskehalsen mellom hvor data lagres og hvor de analyseres, men også fordi den bruker smarte ordninger for gjenbruk av data. Før han begynte i MIT, var Sze banebrytende for denne tilnærmingen for å forbedre effektiviteten til videokomprimering mens han var hos Texas Instruments.
For et felt som beveger seg raskt som dyp læring, er utfordringen for de som jobber med AI-brikker å sørge for at de er fleksible nok til å tilpasses for alle applikasjoner. Det er enkelt å designe en supereffektiv brikke som bare kan gjøre én ting, men et slikt produkt vil raskt bli foreldet.
Szes brikke heter Eyeriss. Utviklet i samarbeid med joel emer , en forsker ved Nvidia og professor ved MIT, den ble testet sammen med en rekke standardprosessorer for å se hvordan den håndterer en rekke forskjellige dyplæringsalgoritmer. Ved å balansere effektivitet med fleksibilitet, oppnår den nye brikken ytelse 10 eller til og med 1000 ganger mer effektiv enn eksisterende maskinvare gjør, iht. et papir lagt ut på nett i fjor.
MITs Sertac Karaman og Vivienne Sze utviklet den nye brikken Tony Luong
Enklere AI-brikker har allerede stor innvirkning. Avanserte smarttelefoner inkluderer allerede brikker som er optimert for å kjøre dyplæringsalgoritmer for bilde- og stemmegjenkjenning. Mer effektive brikker kan la disse enhetene kjøre kraftigere AI-kode med bedre muligheter. Selvkjørende biler trenger også kraftige AI-databrikker, ettersom de fleste prototyper for tiden er avhengige av en bagasjelast av datamaskiner.
Rao sier at MIT-brikkene er lovende, men mange faktorer vil avgjøre om en ny maskinvarearkitektur lykkes. En av de viktigste faktorene, sier han, er å utvikle programvare som lar programmerere kjøre kode på den. Å gjøre noe brukbart fra et kompilatorstandpunkt er trolig den største enkelthindringen for adopsjon, sier han.
Szes laboratorium utforsker faktisk også måter å designe programvare på slik at den bedre utnytter egenskapene til eksisterende databrikker. Og dette arbeidet strekker seg utover bare dyp læring.
Sammen med Sertac Karaman , fra MITs Department of Aeronautics and Astronautics, utviklet Sze en laveffektbrikke kalt Navion som utfører 3D-kartlegging og navigering utrolig effektivt, for bruk på en liten drone. Avgjørende for denne innsatsen var å lage brikken for å utnytte oppførselen til navigasjonsfokuserte algoritmer – og utforme algoritmen for å få mest mulig ut av en tilpasset brikke. Sammen med arbeidet med dyp læring reflekterer Navion måten AI-programvare og maskinvare nå begynner å utvikle seg i symbiose.
Szes brikker er kanskje ikke like oppsiktsvekkende som en blafrende drone, men det faktum at de ble vist frem på MARS gir en viss følelse av hvor viktig teknologien hennes – og innovasjon innen silisium mer generelt – vil være for fremtiden til AI. Etter presentasjonen hennes , sier Sze, noen av de andre MARS-talerne uttrykte interesse for å finne ut mer. Folk fant mange viktige use cases, sier hun.
Med andre ord, forvent at de iøynefallende robotene og dronene på neste MARS-konferanse kommer med noe ganske spesielt skjult inni.