Nevrale nettverk er kraftige ting, men veldig glupske. Ingeniører ved Massachusetts Institute of Technology (MIT) har klart å utvikle en ny brikke som kutter strømforbruket til nevrale nettverket med 95%, noe som i teorien kan tillate dem å jobbe selv på mobile enheter med batterier. Smarttelefoner blir smartere og smartere i disse dager, og tilbyr flere AI-drevne tjenester som virtuelle assistenter og sanntidsoversettelser. Men vanligvis behandler nevrale nettverk data for disse tjenestene i skyen, og smarttelefoner overfører bare data frem og tilbake.
Dette er ikke ideelt fordi det krever en tykk kommunikasjonskanal og forutsetter at sensitive data blir overført og lagret utenfor brukerens rekkevidde. Men de kolossale energimengdene som kreves for å drive nevrale nettverk drevet av GPUer, kan ikke leveres i en enhet drevet av et lite batteri.
MIT-ingeniører har utviklet en brikke som kan redusere dette strømforbruket med 95%. Brikken reduserer drastisk behovet for å overføre data frem og tilbake mellom brikkens minne og prosessorene.
Nevrale nettverk består av tusenvis av sammenhengende kunstige nevroner arrangert i lag. Hver nevron mottar innspill fra flere nevroner i det underliggende laget, og hvis den kombinerte inngangen passerer en viss terskel, overfører den resultatet til flere nevroner over. Styrken til forbindelsen mellom nevroner bestemmes av vekten som er etablert under treningsprosessen.
Dette betyr at brikken for hver nevron må trekke ut inngangen for en spesifikk tilkobling og vekten av forbindelsen fra minnet, multiplisere dem, lagre resultatet og deretter gjenta prosessen for hver inngang. Mye data reiser hit og dit, og mye energi er bortkastet.
Den nye MIT-brikken eliminerer dette ved å beregne alle innganger parallelt i minnet ved hjelp av analoge kretsløp. Dette reduserer mengden data som må overtas betydelig, og resulterer i betydelige energibesparelser.
Denne tilnærmingen krever at vekten av forbindelsene er en binær og ikke en rekkevidde, men tidligere teoretisk arbeid har vist at dette ikke vil påvirke nøyaktigheten i stor grad, og forskerne fant at resultatene fra brikken skilte seg med 2-3% fra den vanlige versjonen av det nevrale nettverket som opererer på en vanlig datamaskin.
Dette er ikke første gang forskere har laget brikker som behandler prosesser i minnet, noe som reduserer strømforbruket til et nevralt nettverk, men dette er første gang denne tilnærmingen er brukt for å betjene et kraftig nevralt nettverk kjent for bildebehandlingen.
Salgsfremmende video:
"Resultatene viser imponerende spesifikasjoner for energieffektiv implementering av rullerende operasjoner i et minnearray," sier Dario Gil, visepresident for kunstig intelligens hos IBM.
"Dette åpner definitivt for muligheter for å bruke mer sofistikerte, innviklede nevrale nettverk for å klassifisere bilder og videoer på tingenes internett i fremtiden."
Og dette er interessant ikke bare for FoU-grupper. Ønsket om å sette AI på enheter som smarttelefoner, hvitevarer og alle slags IoT-enheter presser mange i Silicon Valley mot sjetonger med lav effekt.
Apple har allerede integrert sin nevrale motor i iPhone X for å gi kraft, for eksempel ansiktsgjenkjenningsteknologi, og Amazon ryktes å utvikle sine egne AI-brikker for neste generasjon av Echo digitale assistenter.
Store selskaper og brikkeprodusenter er også i økende grad avhengige av maskinlæring, noe som tvinger dem til å gjøre enhetene sine enda mer energieffektive. Tidligere i år avduket ARM to nye brikker: Arm Machine Learning-prosessoren, som håndterer generelle AI-oppgaver fra oversettelse til ansiktsgjenkjenning, og Arm Object Detection-prosessoren, som for eksempel oppdager ansikter i bilder.
Qualcomms nyeste mobilbrikke, Snapdragon 845, har en GPU og er sterkt AI-drevet. Selskapet avduket også Snapdragon 820E, som skal fungere i droner, roboter og industrielle enheter.
Når vi ser fremover, utvikler IBM og Intel nevromorfiske brikker med arkitektur inspirert av den menneskelige hjerne og utrolig energieffektivitet. Dette kan teoretisk sett gjøre det mulig for TrueNorth (IBM) og Loihi (Intel) å utføre kraftig maskinlæring ved å bruke bare en brøkdel av kraften til konvensjonelle brikker, men disse prosjektene er fremdeles svært eksperimentelle.
Det vil være veldig vanskelig å tvinge brikkene som gir liv til nevrale nettverk for å spare batteristrøm. Men i det nåværende innovasjonstempoet ser denne "veldig vanskelige" ganske gjennomførbar ut.
Ilya Khel
