Transformacija pohrane u AI računalstvu: Novosti iz industrije
Kako grafički procesori (GPU) postaju brži, a propusnost memorije se mjeri u terabajtima po sekundi, pohrana podataka postaje slaba karika u AI računalstvu. Nvidia, vodeći inovator u ovoj industriji, nastoji prilagoditi pohranu potrebama AI modela, postavljajući ambiciozan cilj vezan uz male nasumične čitanja. Prema Wallaceu C. Kuo, izvršnom direktoru Silicon Motion, njihov trenutni cilj iznosi čak 100 milijuna IOPS-a, što je iznimno visok standard.
Razvoj trenutnih SSD-ova i izazovi
Trenutno najbrži PCIe 5.0 SSD-ovi dostigli su brzine od oko 14.5 GB/s s 2 do 3 milijuna IOPS-a u radnim opterećenjima koja uključuju 4K i 512-bajtna čitanja. Dok veći blokovi podataka favoriziraju propusnost, AI inferencija obično zahteva mala, raspršena područja podataka. To čini 512B nasumična čitanja posebno relevantnima, ali i znatno teže ubrzivima.
Novi AI SSD-ovi i očekivanja
Kioxia već priprema “AI SSD” koji se temelji na tehnologiji XL-Flash, a očekuje se da će nadmašiti 10 milijuna IOPS-a. Ovaj uređaj mogao bi biti lansiran zajedno s Nvidijinim nadolazećim Vera Rubin platformom sljedeće godine. Međutim, kako bi se postigla dodatna poboljšanja, potrebna su rješenja koja nadmašuju samo brže upravljačke jedinice ili prilagodbe NAND-a.
Potreba za inovacijama
Kuo napominje da bi industrija mogla potrebovati radikalne promjene u medijima pohrane. “Optane je trebao biti idealno rješenje, ali ga više nema,” istaknuo je. Kioxia pokušava unaprijediti svoju XL-NAND tehnologiju, ali izazovi poput potrošnje energije, troškova i latencije ostaju prisutni.
Kao dodatak, Kuo je rekao: “Industrija stvarno treba nešto fundamentalno novo. Inače, bit će iznimno teško postići 100 milijuna IOPS-a i ostati ekonomski isplativ.” Proizvođači poput Microna i SanDiska utrkuju se u pronalaženju novih vrsta nehlapljive memorije. Pitanje ostaje: hoće li neki od njih uspjeti doći na tržište na vrijeme za Nvidijinu sljedeću generaciju hardvera?
Završna misao
Izvori i tehnologija pohrane su ključni faktori u napretku umjetne inteligencije. Dok Nvidia postavlja visoke standarde za performanse, razvoj i inovacije u sektoru pohrane bit će od ključne važnosti za budućnost AI aplikacija. Ostanite uz nas za nove informacije o ovom dinamičnom području!
