Važnost visoke propusnosti memorije za AI i računalstvo u oblaku
Visoka propusnost memorije, poznata kao HBM (High Bandwidth Memory), igra ključnu ulogu u umjetnoj inteligenciji (AI) i računalstvu u oblaku. Ova tehnologija omogućava brzo prijenos podataka i visoku učinkovitost za zahtjevne radne procese. Trenutno tržište HBM-a dominira veliki južnokorejski proizvođač memorije SK Hynix, dok je glavni konkurent, također iz Koreje, Samsung. Ipak, i druge tvrtke, poput Microna, nastoje povećati svoj udio tržišta.
Glavni kupci HBM-a i izgled tržišta do 2026. godine
Tehnološki divovi kao što su Nvidia, Google, Amazon i Microsoft predstavljaju najveće kupce HBM-a. Nedavna interna mapa puta Samsung-a, koju je primijetio ComputerBase, otkriva zanimljive podatke o njihovim predviđenim potrebama za 2026. godinu.
Nvidia – lider na tržištu HBM-a
Prema očekivanjima, Nvidia ostaje vodeći kupac HBM-a od Samsunga, s predviđanjem rasta potražnje sa 5,8 milijuna jedinica u 2024. godini na 11 milijuna jedinica do 2026. Ovaj porast potražnje posljedica je proširene ponude Nvidia-inih AI akceleratora:
- H200: 144GB HBM3 – očekuje se potreba za 1,7 milijuna jedinica u 2026.
- B200 i GB200: 192GB HBM3e (8hi) – trebat će 3,15 milijuna jedinica.
- B300 i GB300: 288GB HBM3e (12hi) – očekuje se 2,7 milijuna jedinica.
- GB300A: 144GB HBM3e (12hi) – procjena je 1,8 milijuna jedinica.
- R100: 384GB HBM4 (12hi) – trebat će 1,5 milijuna jedinica.
Google i Amazon povećavaju potražnju
Zanimljivo je da se očekuje kako će Google postati drugi najveći kupac HBM-a, s potražnjom koja će rasti s 2,4 milijuna jedinica u 2024. na 2,8 milijuna do 2026. Godine. Njihova TPU v7p očekuje se da će zahtijevati 1,7 milijuna jedinica. Ove godine, Alphabet je odvojio 75 milijardi dolara za kapitalne izdatke, a dio toga će vjerojatno biti uložen u nabavu HBM-a i AI infrastrukturu.
Amazon također bilježi stalni rast potražnje za HBM-om. Njihovi čipovi Inferentia i Trainium trebaju ukupno 1,3 milijuna jedinica HBM-a do 2026. godine, s Trainium 3 koji će sam zahtijevati 900.000 jedinica.
AMD i Microsoft na marginama
AMD se uvelike smatra najbližim rivalom Nvidiji, no znatno zaostaje. Očekuje se da će ukupna potražnja za HBM-om doseći 820.000 čipova do 2026. godine. Njihov MI400, koji bi trebao biti lansiran početkom 2026. godine s 384GB HBM4 (12hi), bit će odgovoran za 400.000 jedinica.
Microsoft, koji integrira HBM3 u svoje Maia AI čipove, očekuje potražnju od samo 240.000 jedinica do 2026., što ukazuje na to da ostaje manji igrač u ovoj kategoriji.
Zaključak
Važnost HBM-a za tehnologiju umjetne inteligencije i računalstvo u oblaku nemjerljiva je. Iako trenutno SK Hynix i Samsung dominiraju tržištem, zapažamo kako tvrtke kao što su Google i Amazon nastoje povećati svoje udjele. Nvidia ostaje daleko ispred ostatka konkurencije, dok se AMD i Microsoft bore da prate korak. S obzirom na stalni rast potražnje za HBM-om, budućnost ovog segmenta tehnologije izgleda vrlo svijetla.