Razvoj energetski učinkovitijeg hardvera za umjetnu inteligenciju
Razvoj naprednijih i energetski učinkovitijih hardverskih rješenja za sustave umjetne inteligencije (AI) dobiva sve veću podršku, s naglaskom na unapređenje tehnologije memorije. U središtu ove inicijative nalazi se hibridna memorija koja kombinira visoku gustoću DRAM-a (dinamička slučajna pristupna memorija) s brzinom SRAM-a (statistička slučajna pristupna memorija). Ovaj projekt vode inženjeri elektrotehnike sa Stanford Univerziteta, a cilj njihove ekipe je razviti brži i učinkovitiji hardver za AI aplikacije koji bi se nosio s trenutnim ograničenjima u procesnoj snazi i potrošnji energije.
Financiranje istraživanja i razvoj
Ovo istraživanje financira se kroz Zakon o CHIPS-u i znanosti, a nedavno je dobilo dodatnih 16,3 milijuna dolara iz proračuna Ministarstva obrane SAD-a za Kalifornijsko-pacifičko-sjeverozapadno središte AI hardvera. Sustavi umjetne inteligencije snažno ovise o hardveru koji može efikasno premještati i obraditi velike količine podataka. Međutim, prijenos podataka između memorije i logičkih jedinica zahtijeva vrijeme, što usporava GPUs i povećava potrošnju energije.
Borba s uskim grlima u memoriji
Kako AI modeli postaju sve veći i složeniji, uska grla u memoriji postaju sve izraženija. Stoga se brža i gušća memorija smještena izravno na čipovima vidi kao potencijalno rješenje ovog problema. H.-S. Philip Wong, inženjer elektrotehnike i predsjednik AI Hardverskog centra na Stanfordu, naglašava važnost memorije u stvaranju energetski učinkovitijeg AI hardvera.
Inovacija u dizajnu memorije: Gain Cell memorija
Wongov tim se okrenuo novom tipu dizajna memorije nazvanom Gain Cell memorija, koja kombinira prednosti DRAM-a i SRAM-a. Hibridna Gain Cell memorija nudi srednju opciju s malim otiskom DRAM-a, ali i bržim brzinama čitanja karakterističnim za SRAM. Ključna razlika u ovom novom dizajnu je upotreba dva tranzistora – jednog za pisanje podataka i jednog za čitanje, umjesto kondenzatora koji se koristi u tradicionalnom DRAM-u. Ovo omogućuje Gain Cell memoriji da pouzdanije zadrži podatke i ojača intenzitet signala prilikom čitanja podataka.
Prednosti nove memorije
Gain Cell memorija suočila se s limitacijama poput brze propusnosti podataka kod dizajna temeljenih na siliciju i sporih brzina čitanja kod dizajna temeljenih na oksidu. Međutim, tim sa Stanforda kombinirao je silicijski tranzistor s tranzistorom od indij oksida, značajno poboljšavajući performanse uređaja i nudeći brže očitavanje uz zadržavanje kompaktnih dimenzija. Novi dizajn može zadržati podatke više od 5000 sekundi, što je daleko duže od tradicionalnog DRAM-a, koji zahtijeva osvježavanje svake 64 milisekunde. Osim toga, hibridna memorija je oko 50 puta brža od oksidnih Gain Cell memorija.
Wong uspoređuje ovaj napredak s prelaskom s osnovnog bicikla s 3 brzine na sofisticirani bicikl s 20 brzina, naglašavajući da će ova evolucija tehnologije memorije nadmašiti tradicionalna rješenja poput DRAM-a, SRAM-a i flash memorije. “Želimo pružiti bolje opcije kako bi dizajneri mogli bolje optimizirati… ovo je prilika za rearchitekturu računala,” rekao je Wong.
Zaključak
Razvoj hibridne memorijske tehnologije predstavlja ključnu priliku za poboljšanje performansi AI sustava, posebno u kontekstu velikih i složenih modela. Kako nastavljamo istraživati i razvijati inovativna rješenja, budućnost umjetne inteligencije će zasigurno biti oblikovana snažnim, energetskim učinkovitijim hardverskim opcijama.