Nvidia upravila niektoré parametre platformy Vera Rubin, čo ovplyvní maximálny výkon nových akcelerátorov AI. Oproti pôvodným plánom tým utrpí aj ich konkurencieschopnosť – na veľkú radosť AMD.
Oficiálna tabuľka špecifikácií ukazuje, že v poslednom období došlo k viacerým úpravám. Vrstvené pamäťové čipy HBM4 budú pracovať na nižšej frekvencii a mierne klesla aj maximálna priepustnosť prepojenia NVLink. Tieto zmeny boli s najväčšou pravdepodobnosťou nevyhnutné, pretože súčasná implementácia nedokázala udržať pôvodne plánované rýchlosti, systém nebol dostatočne stabilný a trpela aj spoľahlivosť. Nové hodnoty majú tieto problémy vyriešiť, hoci za cenu určitej straty výkonu.
Jednou z dôležitých zmien je rýchlosť pamätí HBM4 na jeden kontakt. Pri predstavení platformy Vera Rubin sa počítalo s 11,7 Gb/s, teraz je to už len 9,6 Gb/s. Pri rackoch NVL72 postavených na platforme Vera Rubin to v podstate znamená pokles celkovej efektívnej pamäťovej priepustnosti z plánovaných 1.580 TB/s na 1.400 TB/s. Maximálny výkon dosiahnuteľný pri jednotlivých úlohách sa tým nepochybne zníži, presný rozsah by však dokázali ukázať až nezávislé testy. Skutočný vplyv nižšej priepustnosti by navyše výrazne závisel od konkrétneho typu pracovnej záťaže.
Ďalšia dôležitá úprava sa týka prepojenia NVLink, ktoré podľa najnovších plánov môže jednotlivým GPU ponúknuť nižšiu priepustnosť, než sa očakávalo. Pôvodne sa počítalo s priepustnosťou 18 TB/s, tú však bolo potrebné znížiť až na 1,5 TB/s. Obojsmerná priepustnosť tak klesne z 3,6 TB/s na 3 TB/s. Cieľom zníženia môže byť zlepšenie integrity signálu a zvýšenie stability spojenia. V pozadí je zníženie Nyquistovej frekvencie NVLink z 56 GHz na 47 GHz. Nižšia frekvencia znamená menšie nároky na jednotlivé súčasti vrátane káblov, komponentov SerDes a ďalších prvkov, čo pomáha zefektívniť výrobu aj zvýšiť stabilitu prevádzky. Obetovanie časti výkonu v prospech stability zákazníkom rozhodne prospeje: pri serveri AI je predsa vhodnejšia stabilná a spoľahlivá prevádzka než o trochu vyšší výkon sprevádzaný občasnou nestabilitou.
Čo to znamená z pohľadu konkurencie? Rack AMD Helios môže v podstate pôsobiť ako ešte atraktívnejšia voľba, aspoň na papieri. Skutočný pomer síl ukážu až nezávislé testy. Isté je, že AMD Instinct MI455X bude mať k dispozícii výrazne viac pamäte s vysokou priepustnosťou než Nvidia Vera Rubin. Riešenie AMD totiž využíva 432 GB pamäte HBM4 s priepustnosťou 23,3 TB/s, zatiaľ čo Vera Rubin ponúka len 288 GB pamäte s priepustnosťou 19,2 TB/s.
Pri racku so 72 GPU to v prípade AMD znamená 31 TB pamäte HBM4 a celkovú pamäťovú priepustnosť 1,67 PB/s. Platforma Nvidia Vera Rubin sa môže pochváliť len 20,7 TB pamäte a pamäťovou priepustnosťou 1,4 PB/s. Keďže klesla aj priepustnosť NVLink, AMD má výhodu aj v tejto oblasti. Vďaka UALoE pripadá na jeden GPU obojsmerná priepustnosť 3,6 TB/s, čo v súčte predstavuje 260 TB/s. Nvidia pritom ponúka obojsmernú priepustnosť len 3 TB/s na GPU, takže súhrnná priepustnosť dosahuje iba 216 TB/s.
Na základe týchto údajov má platforma AMD Helios oproti Nvidia Vera Rubin výhodu v kapacite pamäte, pamäťovej priepustnosti aj priepustnosti prepojenia. Na čo však tento papierový náskok postačí v reálnych podmienkach a koľko zákazníkov sa napokon podarí prilákať k platforme Helios? Odpovede na tieto otázky môžu prísť až neskôr.
