Intel kjøper inn en AI-brikke som kan overføre data 1000 ganger raskere

Kategori: Databehandling Lagt ut 02. april

Intel og andre investerer 13 millioner dollar inn Untether AI , en oppstart som jobber med en ny type brikke for kunstig intelligens som lover å utføre nevrale nettverksberegninger med deformeringshastighet.

Gjør det raskere: Untether, basert i Toronto, Canada, har allerede utviklet en prototypeenhet som overfører data mellom forskjellige deler av brikken 1000 ganger raskere enn en vanlig AI-brikke. Det er en imponerende prestasjon, men den bør behandles forsiktig siden prototypen er langt større enn en faktisk brikke – og fordi andre faktorer vil bidra til den totale ytelsen til den ferdige enheten.

Flaskehals: En av hovedutfordringene med moderne brikker er å overføre data fra minnet til enhetene som brukes til å utføre logiske operasjoner. Dette er spesielt problematisk ettersom mengden data som brikker trenger for å behandle øker, slik tilfellet er med AI-applikasjoner som ansikts- eller stemmegjenkjenning. Untether bruker det som er kjent som nær-minne databehandling for å redusere den fysiske avstanden mellom minnet og behandlingsoppgavene, noe som øker hastigheten på dataoverføringen og reduserer strømforbruket.

På kanten: Untether utvikler det som er kjent som en 'inferensbrikke'. Dette er forskjellig fra den typen brikke som brukes til å trene et stort nevralt nettverk i et datasenter, som er en mye større utfordring å designe og lage. I stedet er en inferensbrikke mer beslektet med en brikke som kjører på en enhet som en smarttelefon eller et kamera. Den dype læringsboomen har ført til en enorm mengde kommersiell aktivitet rundt slike slutningsbrikker.

No Moore: Slike nye tilnærminger tar fart ettersom Moores lov – ideen om at mikrobrikker kan forbedres med jevn hastighet ganske enkelt ved å skalere ned størrelsen på transistorene som passer på dem – viser tegn til å nå sin grense. Untether er faktisk ikke det eneste selskapet som jobber med in-memory databehandling for nevrale nettverk. En konkurrent, basert i Redwood, CA, er Mytisk .

FOMO: Untethers design kan være eksperimentell, men man kan forstå hvorfor Intel ville investere. Selskapet har sett sin dominans erodert de siste årene med fremveksten av mobile enheter som bruker alternative brikkedesign. Det er nå desperat å ikke gå glipp av AI-boomen også. For et par år siden kjøpte Intel Nervana , en oppstart som utvikler brikker for dyp læring, og det er for tiden klargjør de første produktene basert på disse designene .

For mer om AI-verdenen, registrer deg på vår Webby-nominert nyhetsbrev Algoritmen her .