+86-136-52756687

The NPU Behind AI

Jul 30, 2022

Visoms AI taikomoms programoms reikalingas aparatinės įrangos skaičiavimo galios palaikymas, įskaitant autonominį vairavimą, kuris šiuo metu rinkoje yra labai populiarus. Automobiliuose padaugėjus aplinkos suvokimo jutiklių, tokių kaip kameros, milimetrinių bangų radarai, lidarai ir ultragarsiniai radarai, autonominio vairavimo sistema rinks daugiau jutiklių duomenų. Autonominio vairavimo skaičiavimo lustas turi apdoroti ir suderinti šiuos duomenis naudodamas algoritmus, kad būtų pasiektas transporto priemonių, kelių, žmonių ir tt informacijos sintezė, priima sprendimus dėl vairavimo valdymo. Padidinus jutiklių skaičių, ženkliai padidės autonominio vairavimo skaičiavimo lustų skaičiavimo galios reikalavimai.


NPU


Skaičiavimo galios gerinimas neatsiejamas nuo NPU (Neural-network Processing Unit, neuron network processor) palaikymo. Tai savotiškas mikroprocesorius, skirtas dirbtinio intelekto (ypač dirbtinio neuroninio tinklo, mašininio matymo, mašininio mokymosi ir kt.) aparatiniam pagreitinimui, pagrįstas DSA (Domain Specific Architecture) domeno specifinės architektūros technologija. Palyginti su CPU ir GPU, NPU yra sukurtas dirbtiniam intelektui aparatinės įrangos architektūroje ir yra labai tinkamas neuroninio tinklo operacijoms.


NPU yra suprojektuoti kitaip nei bendrosios paskirties procesoriai, pvz., CPU ir GPU. Atsižvelgiant į skaičiavimo universalumą, didžioji dalis padidėjusios bendrosios paskirties procesorių skaičiavimo galios negali būti tiesiogiai konvertuojama į neuroninio tinklo apdorojimo galimybių tobulinimą. Pavyzdžiui, MAC operacijoms nėra jokio ypatingo patobulinimo, o NPU sukurta neuroniniams tinklams, neatsižvelgiant į tai, kad neuroniniai tinklai nėra. Reikalingi kai kurie skaičiavimo vienetai. Palyginti su CPU, kuris gerai apdoroja užduotis ir išduoda užsakymus, GPU gerai apdoroja vaizdus ir lygiagretųjį skaičiavimą, o NPU geriau apdoroja dirbtinio intelekto užduotis. NPU įgyvendina saugyklos ir skaičiavimo integravimą per sinapsinius svorius, taip pagerindamas veikimo efektyvumą.


DNQ-X A


Todėl NPU galime rasti daugelyje procesorių ar SoC, palaikančių AI programas, tokias kaip Apple A15, Tesla FSD lustas, Horizon's Journey serijos lustai, OPPO Mariana X lustas ir pan. Be šių didelio masto ir didelio našumo SoC lustų, kai kuriuose MCU gaminiuose pradėti integruoti NPU moduliai, kad atitiktų kai kurių pažangių programų poreikius.


Tiesą sakant, daugelis SoC lustų, palaikančių AI, yra įgyvendinami integruojant neuroninio tinklo IP. Paprastai tariant, neuroninio tinklo IP vystysis sinchroniškai su neuroninių tinklų algoritmais ir gali būti toliau plečiamas, kad būtų patenkintas augantis neuroninio tinklo našumo poreikis.

Siųsti užklausą