V oblasti mobilních telefonů, monitorování zabezpečení, automobilů a rozšířené reality / virtuální reality (AR / VR) zahrnují všechny typy vyvíjených nebo plánovaných integrovaných aplikací neuronové sítě a aplikace neuronových sítí explodují. Pole inovací neurálních sítí je mimořádné, jeho vlastní architektura je neustále aktualizována a nekonečně se objevují také nové sítě, nové aplikace a trhy. S prohlubováním a složitostí aplikací neuronových sítí rostou požadavky na výpočetní výkon ze dne na den. Za méně než 4 roky se požadavky na výpočet MAC / rámců zvýšily přibližně 16krát (viz obrázek 1).
Obrázek 1 Růst požadavků na výpočet MAC / rámců
S rozvojem neuronových sítí stále roste poptávka po zabudování procesorů (namísto použití CPU a GPU) do zařízení. Výkon zpracování a provozní rychlost sítě však nedržely krok s vývojovými požadavky aplikací neuronových sítí. Tento konflikt je zvláště patrný v oblasti aplikací vidění. Dosud se uspokojování potřeb aplikací neuronových sítí může spolehnout pouze na zdroje tradičních datových center. Vzhledem k tomu, že se bezpečnost a latence stávají důležitými hledisky, je stále běžnější implementovat neuronové sítě prostřednictvím vestavěných systémů pro zpracování dat v reálném čase. Ačkoli většinu školení neuronových sítí lze provádět offline, aplikace, které používají neuronové sítě, je musí vložit do systému.
Ve všech vestavěných aplikacích čelí AR / VR nebo smíšená realita jedinečným výzvám. Většina zařízení ve výše uvedených polích jsou nositelná zařízení, jako jsou inteligentní přilby, sluchátka nebo chytré brýle. Spoléhají na energii baterie a jsou jedním z nejdůležitějších faktorů při výběru řešení neuronové sítě pro spotřebu energie. Dalším důležitým požadavkem pro aplikace AR / VR je snížení latence, takže neuronové sítě musí implementovat vložení zařízení. Všechna tato zařízení vyžadují určitý druh rozpoznávání obrazu, rozpoznávání gest, segmentace stereokamery, 3D snímání, sledování hlavy, detekce očí a sledování očí. Existuje mnoho různých zobrazovacích technologií, ale v průběhu času budou některé z těchto funkcí, jako je porozumění sémantickému prostředí, rozpoznávání gest nebo rozpoznávání obrázků, realizovány prostřednictvím neuronových sítí. Kromě zobrazovacích / vizuálních neuronových sítí tato zařízení také kladou požadavky na zvukové / zvukové neuronové sítě pro příjem hlasových příkazů.
V dnešním rychle se měnícím technologickém prostředí musí výrobci zařízení AR / VR okamžitě vybrat platformy pro produkty, které mají být uvedeny na trh v letech 2019, 2020 a ještě později. Po zavedení nové neuronové sítě kvůli neustálým změnám v její architektuře nemůžeme zajistit účinnost stávající efektivní pracovní platformy v budoucím systému. Kromě toho tyto aplikace také vyžadují nízkou latenci a nízkou spotřebu energie, což je také obzvláště důležité; ale vzhledem k neustálému růstu požadavků na neuronové sítě a neustálému pokroku tohoto trendu je stále potřeba zajistit určitou míru flexibility a výhledu.
V současné době existují dvě hlavní možnosti implementace neuronových sítí: CPU / GPU nebo použití hardwarových akcelerátorů a odpovídající zobrazovací DSP. Každá z těchto dvou možností může vyřešit některé z výzev, kterým návrháři čelí; ale oba mají určité neuspokojivé kompromisy, pokud jde o snadnost vývoje, energetickou účinnost, latenci, budoucí prostor pro upgrade nebo výkon. Hardwarový akcelerátor a odpovídající zobrazovací DSP je jednou z možností vestavěných zařízení, ale tato kombinace je neefektivní a bude generovat zbytečnou spotřebu energie. Kromě potíží s vývojem musí být software také rozdělen mezi DSP a akcelerátor. Pouze uvolnění konvoluční vrstvy významně zvýší zátěž přenosu dat a ovlivní účinnost. Kromě toho je hardware v době páskování opraven, takže tyto akcelerátory nebudou mít prostor pro budoucí upgrady.
Řešení neuronových sítí DSP, která splňují potřeby vestavěných aplikací, musí splňovat následující požadavky: snadno se rozvíjející, schopné zpracovávat obrovské množství dat, mají prostor pro budoucí upgrady, efektivně využívat energii a minimalizovat zpoždění.
Řešení kadence: procesor digitálního signálu (DSP) Tensilica Vision C5
Jako optimalizované řešení pro aplikace senzorů vidění a fúze je Cadence Tensilica Vision C5 DSP jako první DSP v oboru věnovaný zpracování neurální sítě a vhodný pro architekturu více procesorů. Toto řešení dosahuje nebývalé rychlosti a nízké spotřeby energie a splňuje všechny požadavky špičkové technologie neuronových sítí.
Řešení je založeno na téměř 20 letech zkušeností s více procesory Xtensa s funkcemi, jako je sdílení struktury paměti, povolená přerušení, synchronizované fronty a synchronizované ladění více procesorů. Vision C5 DSP dokáže realizovat výpočetní zrychlení všech vrstev neuronové sítě (konvoluční vrstva, plně připojená vrstva, sdružovací vrstva a normalizační vrstva), nejen funkce konvoluční vrstvy. Proto je uvolněna schopnost hlavního zpracování obrazu DSP nezávisle spouštět aplikace pro vylepšení obrazu; zatímco Vision C5 DSP spouští odvozovací úlohy. Odstraněním redundantního přenosu dat hardwarového akcelerátoru je spotřeba energie Vision C5 DSP mnohem nižší než u stávajícího neuronového síťového akcelerátoru.
Vision C5 DSP má výpočetní výkon 1TMAC / s, který může splňovat stále rostoucí požadavky na výpočet neuronových sítí; má také přesné výpočty, má vícejádrovou architekturu návrhu a podporuje integrovaná řešení multi-TMAC. Vision C5 DSP je zaměřen na aplikace, které často provozují více neuronových sítí. Díky svým programovatelným vlastnostem má řešení prostor pro budoucí upgrady a může podporovat nové vrstvy při změnách designu.
Systém zpracování zraku musí být navržen komplexně, aplikovatelný na všechny platformy, a současně vyvíjet hardware a software. K vývoji této technologie musí návrháři používat nástroje a IP, které podporují efektivní algoritmy, a použitá hardwarová platforma musí také splňovat požadavky na cílové náklady a spotřebu energie každé aplikace. Z pohledu systému může Cadence podporovat návrháře vestavěných kamerových zařízení při vývoji transformačních produktů co nejrychleji a nejefektivněji.
Náš další produkt:
