● news.bsdnet.hu

Az NVIDIA bejelentette az NVHBM-et, amelyet a vállalat következő generációs gyorsítói fognak használni, illetve igény esetén elérhető lesz az NVLink Fusion partnerek számára is. Az elgondolás lényege az, hogy a hagyományos HBM szabvánnyal ellentétben a memóriavezérlő nem a gyorsító főbb lapkáin, hanem az egymásra tokozott HBM memóriastack úgynevezett alaplapkáján kap helyet. Itt felmerülhet a kérdés, hogy miért pont most jön egy ilyen megoldás? Nos, a HBM4 az első olyan HBM memóriaszabvány, amely sokkal engedékenyebb az alkalmazott alaplapka szempontjából. Ez ugyan a gyártást bonyolítja, illetve a költségeket is kilövi az egekbe, de sokkal szabadabb dizájndöntésekre ad lehetőséget. Ráadásul a JEDEC a piac nagy részének készít egy hagyományosabb irányt képviselő SPHBM4 szabványt is, hogy mindenki megtalálhassa számításait, tehát a HBM4 innovatívabb megközelítése láthatóan előnyére válik a piacnak. A memóriavezérlőt tehát a HBM4-gyel bárki áthelyezheti az alaplapkába, aminek lényeges előnyei lehetnek, többek között a szóban forgó részegység a fő lapkáktól elkülönülő chipeken belül, eltérő gyártástechnológián készülhet. Ennek köszönhetően egyrészt nem veszi el a helyet egy amúgy sem jól skálázódó áramkör a feldolgozóegységektől, másrészt egyszerűbb lehet a tokozáson lévő interposer kialakítása is. [+] Az NVIDIA számára ez különösen fontos tényező, mert a vállalat nem alkalmaz kifejezetten modern chiplet felépítést a gyorsítóinál, tehát különösen nagy hátrányt szenvednek el a készülő HBM4-es dizájnjaik abból kifolyólag, hogy a memóriavezérlő és a memóriabusz azon a fő lapkán található, amelyen a feldolgozók, illetve a többi jól skálázódó áramköri elem. Ezt például a kiforrottabb AI gyorsítók úgy szokták megoldani, hogy 3D-s tokozással különálló compute chipletek vannak a legmodernebb node-on gyártva, és azok alá egy régebbi gyártástechnológiával készülő IO chiplet kerül. Bár ez nem tűnik nagy dolognak, de amikor olyan teljesítményű AI gyorsítókról beszélünk, amilyeneket a cégek manapság prezentálnak, igen széles memóriabusz köszön bennük vissza. Az NVIDIA Rubin csúcskonfigurációt figyelembe véve a 16 384 bites memóriabusz, amely áramkör tulajdonképpen nem igazán skálázható, igen nagy pazarlásnak számít a lapkaterületet tekintve egy drága és modern gyártástechnológiát használva. Ennél is nagyobb gond, hogy nehéz vele magas órajeleket elérni, tehát ha a multiprocesszorok működhetnének is gyorsabban, a komplex memóriabusz miatti kialakítás ezt nem teszi lehetővé. Emiatt van az, hogy például az AMD inkább szétválasztja a compute és az IO lapkákat, mert úgy kedvezőbben skálázható dizájnokat lehet tervezni, sikerült is ezáltal plusz 8192 bitnyi memóriabuszt beépíteni a legújabb Instinctbe. Az NVIDIA új ötlete igazából ugyanezt a célt szolgálja, kiszedni valahogy a multiprocesszorok mellől ezt a masszív területigénnyel rendelkező, nem skálázható áramkört. És mivel a HBM4-nél szabadabban tervezhetők az alaplapkák, adja magát, hogy hova érdemes ezt beépíteni. A vállalat szerint a HBM4E-hez viszonyítva az NVHBM 30%-kal nagyobb sebességet kínál 15%-kal alacsonyabb fogyasztás mellett. Itt azért megjegyzendő, hogy hivatalos HBM4E specifikáció még nem létezik, emiatt pedig ezek az értékek bármit jelenthetnek, mert nem tudni, hogy az NVIDIA konkrétan mit tekint alapnak. Jelenleg a memóriagyártók tesztelnek különféle HBM4E implementációkat, de ezek sebessége eléggé eltérő, és addig nem is feltétlenül lehet tisztán látni, amíg a JEDEC ki nem adja a hivatalos paramétereket. Vagyis az NVIDIA által elmondott százalékos adatok jól hangzanak, de végleges szabvány hiányában nem beazonosítható, hogy mihez vannak mérve. Itt talán hasznosabb lett volna, ha a HBM4-hez viszonyítva adja meg az előrelépés mértékét a cég, mert az legalább egyértelmű lenne. Persze a megjelenéshez közeledve úgyis kiderülnek majd a konkrét adatok. Az NVHBM a vállalat szerint nemcsak egy memóriagyártó HBM memóriáit fogja használni, hanem több céggel is együttműködnek. Konkrétan megnevezve nem lett senki, de a Samsung, az SK Hynix és a Micron jöhet szóba. Emellett az NVLink Fusion partnerek is elérhetik a fejlesztést, és az Amazonhoz tartozó Annapurna Labs már jelezte, hogy a következő generációs Trainium platformoknál használni fogja. Az NVHBM egyébként minden olyan cégnek hasznos, amely kevésbé modern chiplet dizájnokat, vagy esetleg egyetlen nagy lapkát használó rendszereket tervez.