Verdens største brikke er større enn en iPad og vil hjelpe til med å trene opp AI

Kategori: Databehandling Lagt ut 20. august

Cerebras Systems nye halvleder har 1,2 billioner transistorer – og vil turbolade AI-applikasjoner.

Nyhetene: På Hot Chips-konferansen i Silicon Valley denne uken avduker Cerebras Cerebras Wafer Scale Engine. Brikken er nesten 57 ganger større enn Nvidias største generelle prosessorenhet, eller GPU, og har 3000 ganger minne på brikken. GPUer er arbeidshester i silisium som driver mange av dagens AI-applikasjoner, og knuser dataene som trengs for å trene AI-modeller.

Betyr størrelsen noe? Verdens halvlederselskaper har brukt flere tiår på å utvikle stadig mindre brikker. Disse kan pakkes sammen for å lage superkraftige prosessorer, så hvorfor lage en frittstående AI-megabrikke?

Svaret, ifølge Cerebras, er at å koble mange små sjetonger sammen skaper forsinkelser som bremser treningen av AI-modeller – en stor flaskehals i industrien. Selskapets brikke har 400 000 kjerner, eller deler som håndterer prosessering, tett knyttet til hverandre for å øke hastigheten på data-knusing. Den kan også skifte data mellom prosessering og minne utrolig raskt.

Feiltoleranse: Men hvis denne monsterbrikken skal erobre AI-verdenen, må den vise at den kan overvinne noen store hindringer. En av disse er i produksjon. Hvis urenheter sniker seg inn i en oblat som brukes til å lage mange bittesmå chips, kan det hende at noen av disse ikke blir påvirket; men hvis det bare er én mega-brikke på en oblat, kan det hende at hele greia må kastes. Cerebras hevder det har funnet innovative måter å sikre at urenheter ikke vil sette en hel brikke i fare, men vi vet ennå ikke om disse vil fungere i masseproduksjon.

Kraftspill: En annen utfordring er energieffektivitet. AI-brikker er notorisk strømsyke, noe som har både økonomiske og miljømessige implikasjoner. Å skifte data mellom mange små AI-brikker er et stort kraftsuging, så Cerebras bør ha en fordel her. Hvis det kan bidra til å knekke denne energiutfordringen, kan oppstartsbrikken bevise at for AI er stort silisium virkelig vakkert.