Raspberry Pi umjetne inteligencije: Korejski startup želi donijeti ultra-jeftine, visoko performansne NPU-ove milijardama uređaja koristeći svoj vlastiti tajni kvantizacijski umak, s ciljem od 1 USD/TOPS na horizontu

Duboka učenje i nove tehnologije: DeepX predstavlja inovacije u AI industriji

DeepX je južnokorejska tvrtka koja se bavi umjetnom inteligencijom, specijalizirajući se za rješenja dubokog učenja u raznim industrijama, uključujući autonomne sustave, robotiku i zdravstvenu skrb. Na nedavnom 2024. Embedded Vision Summitu, DeepX je predstavio svoje čipove prve generacije, V1 i M1, koji su namijenjeni različitim primjenama. Ovi čipovi podijelili su svoje dosadašnje uspjehe i najavili budući čip sljedeće generacije orijentiran na AI za primjene na uređajima i autonomnim robotima.

Preporod s čipovima V1 i M1

V1 SoC, ranije poznat kao L1, opremljen je DeepX 5-TOPS NPU-om, uz quad-RISC-V CPU-a i procesorom slike od 12 MP. Ovaj čip, koji košta manje od 10 USD, temelji se na Samsungovom 28-nm procesu i može pokretati YOLO v7 model pri 30 fps uz potrošnju od samo 1-2 wata. Uključuje podršku za najnovije CNN algoritanime za računalni vid i idealan je za proizvode poput IP i CCTV kamera, robotskih kamera i dronova.

S druge strane, M1 je veći akcelerator koji surađuje s domaćim CPU-om. Navodno postiže najveću isplativost (inference/$), energetsku učinkovitost (TOPS/W) i performansnu učinkovitost (FPS/TOPS), dosegnuvši AI performansu od 25-TOPS uz potrošnju od 5 wata. Ovaj čip je savršen za potrošačke i industrijske robote, industrijske vizije, umjetnu inteligenciju potrebnu za IPC i HPC, pametne tvornice te edge computing.

Suradnja s LG-om i razvoj LLM-ova

CEO DeepX-a, Lokwon Kim, izjavio je za EE Times da tvrtka surađuje s LG-om kako bi portirali LLM-ove na DeepX-ove čipove za mobilne uređaje, automobile i bijelu tehniku. “[AI na uređaju] zaista ima smisla za njihov poslovni model za LLM-ove, zbog čega surađujemo,” rekao je Kim. “Oni nam omogućuju svoju LLM tehnologiju kako bismo saznali karakteristike modela i optimizirali za primjene na uređaju.”

Na tržištu će se pojaviti NPU čip optimiziran za pokretanje LLM-ova na uređaju, dok će u početku funkcionirati isključivo kao akcelerator. Potrebno je još 3-5 godina da se razvije SoC potpuno sposoban za LLM-ove.

Gledajući u budućnost: Čip V3

U planovima DeepX-a sljedeći čip je V3 koji je razvijen na temelju povratnih informacija iz Kine i Tajvana. Očekuje se da će V3 uključivati 15-TOPS dual-core DeepX NPU s quad-Arm Cortex A52 CPU jezgrama, radeći prosječno ispod 5 wata. “Ranije smo koristili RISC-V CPU, ali kupci su htjeli Arm,” izjavio je Kim. “Zbog toga smo se usredotočili na Arm quad-core.”

Kupci su također tražili USB 3.1 i snažniji ISP, što nije bio samo upgrade NPU-a, što je dovelo do redesigniranja čipa.

Kako objašnjava EE Times, “Kupci su željeli Arm CPU-ove dijelom jer Arm ekosustav može pružiti bolje sigurnosne rješenja – mnogi kupci grade sigurnosne kamerne sustave. Ostali kupci žele pokrenuti operacijski sustav robota, koji sada podržava Arm, iako još nije dostupan na RISC-V.”

DeepX planira nastaviti s ponudom RISC-V temeljenog V1 uz Arm-bazirani V3 (uzorke kojih se očekuju do kraja 2024.), obećavajući podršku za obje arhitekture u budućnosti.

Zaključak

Ulazak DeepX-a u svijet dubokog učenja i njihov fokus na inovacije donosi značajne promjene u industriji AI. S partnerstvom sa LG-om i najavama novih čipova, ova južnokorejska tvrtka se pozicionira kao vodeći igrač u revoluciji umjetne inteligencije. Pratite nas za najnovije vijesti i dostignuća u tehnološkom svijetu!

Total
0
Shares
Odgovori

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)

Previous Post

Android 15 izgleda da će vam pomoći da zauvijek uredite obavijesti.

Next Post

Pixel sat 1 i 2 uskoro će dobiti ažuriranje na Wear OS 5

Related Posts