211service.com
Superledende nevroner kan matche energieffektiviteten til hjernen
Glødende konseptuell illustrasjon av en hjerne Getty
Den menneskelige hjernen er den desidert mest imponerende dataenheten kjent for vitenskapen. Hjernen opererer med en klokkehastighet på bare noen få hertz, snegleaktig sammenlignet med moderne mikroprosessorer som kjører med gigahertz-hastigheter.
Men den får sin kraft ved å utføre mange beregninger samtidig - en milliard milliarder beregninger per sekund. Denne parallelliteten lar den løse problemer med letthet som konvensjonelle datamaskiner ennå ikke har taklet: kjøring, gåing, samtale og så videre.
Mer imponerende er det at den gjør alt dette drevet av litt mer enn en bolle med grøt. Derimot bruker verdens kraftigste superdatamaskiner mer strøm enn store byer.
Det er derfor informatikere ønsker å kopiere dataytelsen til den menneskelige hjernen ved å bruke nevrale nettverk som beregningsmessige arbeidshester.
Det er lettere sagt enn gjort. Vanlige brikker kan programmeres til å oppføre seg som nevrale nettverk, men dette er beregningskrevende og energitappende.
I stedet ønsker informatikere å bygge kunstige nevroner og koble dem sammen i hjernelignende nettverk. Det har potensial til å bli betydelig mer energieffektivt, men ingen har kommet opp med et design som kommer i nærheten av effektiviteten til hjernen.
Inntil i dag. Skriv inn Emily Toomey ved MIT og et par kolleger, som har designet en superledende nevron laget av nanotråder som på mange måter oppfører seg som en ekte. De sier at enheten deres samsvarer med energieffektiviteten til hjernen (i hvert fall i teorien) og er byggesteinen i en ny generasjon av superledende nevrale nettverk som vil være mye mer effektive enn konvensjonelle datamaskiner.
Først litt bakgrunn. Nevroner koder for informasjon i form av elektriske pigger, eller aksjonspotensialer, som beveger seg langs nervens lengde. I hjernelignende nettverk er nevroner atskilt fra hverandre av hull som kalles synapser.
Informasjonen kan hoppe over disse synapsene, og dermed påvirke andre nevroner, få dem til å skyte eller hemme dem på en måte som hindrer dem i å skyte. Dette tillater faktisk nevroner å fungere som logiske porter, og produsere en enkelt utgang som svar på flere innganger.
Biologiske nevroner har en rekke viktige egenskaper som gjør dette mulig. For eksempel avfyrer de ikke med mindre inngangssignalet overskrider et terskelnivå, og de kan ikke fyre igjen før en viss tid har gått, en strekning kjent som refraktærperioden. Og tiden for en pigg å reise langs et akson – kroppen til en nevron – er også viktig, siden den koder for avstanden piggen har tilbakelagt.
Et kunstig nevron må være i stand til å reprodusere så mange av disse funksjonene som mulig. Det krever vanligvis noen komplekse kretser.
Men Toomey og co påpeker at superledende nanotråder har en særegen ikke-lineær egenskap som lar dem fungere som nevroner. Denne egenskapen oppstår fordi nanotrådens superledning brytes ned når strømmen som flyter gjennom den overskrider en terskelverdi.
Når dette skjer, øker motstanden plutselig, og skaper en spenningspuls. Denne pulsen er analog med aksjonspotensialet i et nevron. Å bruke den til å modulere enda en puls produsert av en andre superledende nanotråd gjør simuleringen enda mer realistisk.
Dette skaper en enkel superledende krets som har mange av egenskapene til biologiske nevroner. Toomey og co har vist at et superledende nevron har en avfyringsterskel, en refraktær periode og en reisetid som blant annet kan justeres i henhold til kretsegenskapene.
Det er avgjørende at dette superledende nevronet også kan brukes til å utløse eller hemme andre nevroner. Og denne fanout-egenskapen er nøkkelen til å skape nettverk. Det er noe andre superledende nevrondesigner aldri har vært i stand til å oppnå.
Og fordi superledende kretser bruker svært lite strøm, antyder Toomey og cos beregninger, kan denne typen superledende nevrale nettverk matche effektiviteten til biologiske nevrale nettverk.
Fortjenestetallet er antall synaptiske operasjoner som det nevrale nettverket kan utføre hvert sekund ved å bruke en watt kraft. Toomey og co sier at deres foreslåtte nettverk skal kunne matche den menneskelige hjernen i å håndtere omtrent 1014 synaptiske operasjoner per sekund per watt. Nanotrådneuronen kan være en svært konkurransedyktig teknologi fra en potensiell kraft- og hastighetsaktør, sier de.
Selvfølgelig er det begrensninger. Det viktigste er kanskje at det superledende nevronet kan kobles til bare en håndfull andre nevroner. Derimot kobles hvert nevron i den menneskelige hjernen til tusenvis av naboer. Og for øyeblikket forblir Toomey og cos design nettopp det – et design.
Likevel er simuleringene lovende. Analysen som er utført her antyder at nanotrådneuronen er en lovende kandidat for å fremme kunstige nevrale nettverk med lav effekt, sier teamet.
Og potensialet er betydelig. Toomey og co sier at superledende nevrale nettverk kan være grunnlaget for helt ny maskinvare i form av superledende nevrale nett. Disse brikkene kan kobles sammen ved hjelp av superledende sammenkobling, noe som ikke ville resultere i varmespredning.
Resultatet vil være en storskala nevromorf prosessor som kan trenes opp som et nevralt nettverk med spiking for å utføre oppgaver som mønstergjenkjenning eller brukes til å simulere spikedynamikken til et stort, biologisk realistisk nettverk, sier de.
Det er interessant arbeid, selv om det trenger en demonstrasjon av prinsippet før spenningen kan begynne å bygge seg opp.
Ref: arxiv.org/abs/1907.00263 : Et krafteffektivt kunstig nevron som bruker superledende nanotråder