Intel nedávno predstavil svoj najnovší rad AI akcelerátorov s názvom GPU D-Series, ktorého modely nesú kódové označenie Crescent Islands.
Základom nových AI akcelerátorov je GPU s 32 jadrami Xe3P, 256 jednotkami XMX a 32 MB zjednotenej vyrovnávacej pamäte druhej úrovne. Presnú šírku pamäťovej zbernice zatiaľ nepoznáme, vieme však, že ku GPU možno pripojiť až 480 GB pamäte LPDDR5X. Základný model od Intelu síce príde „len“ so 160 GB pamäte, výrobca však partnerom AIB umožní pripraviť aj 480 GB modely. Niektorí partneri by navyše podľa jedného z informátorov mohli ponúknuť aj verzie s 512 GB, čo však zatiaľ žiadna zo strán oficiálne nepotvrdila. Pamäťová priepustnosť má dosahovať 1,5 TB/s, takže v tomto smere GPU nebude trpieť nedostatkom.
Samotné GPU môže pri výpočtoch vo formáte FP8 ponúknuť maximálny výkon 1,3 PFLOP/s. Podporovaných dátových formátov je však podstatne viac, od FP4 až po FP64, takže novinka sa hodí na širokú škálu úloh. GPU dostalo aj výkonný multimediálny blok so štyrmi kódovacími a štyrmi dekódovacími jednotkami, ktorý ďalej rozširuje možnosti systému.
Zaujímavosťou jednotiek XMX je ich prepracovaná konštrukcia. Namiesto štyroch úrovní známych z riešení založených na Xe3 má teraz štruktúra na spracovanie dát hĺbku 16 úrovní. To umožňuje spracúvať dáta s vyššou hustotou, čo priaznivo vplýva na priebeh jednotlivých úloh aj na samotný výkon. Vďaka hlbším systolickým poliam majú jednotlivé časti výpočtovej pipeline jednoduchšiu konštrukciu. Tá umožňuje dosahovať vyššie takty aj lepšiu energetickú efektivitu.
Nový návrh veľmi dobre zodpovedá požiadavkám rôznych úloh umelej inteligencie vrátane práce s modernými veľkými jazykovými modelmi (LLM). Zväčšili sa aj súbory registrov, ktoré majú kapacitu 1 MB na jadro, zatiaľ čo kapacita vyrovnávacej pamäte L1 dosiahla 512 KB na jadro. Celkovo návrh zahŕňa 256 jednotiek XMX a 256 vektorových jednotiek, pričom na každé jadro Xe3P pripadá osem jednotiek z každého typu. Architektúra Xe3P bola vytvorená výhradne na akceleráciu úloh umelej inteligencie, a preto neobsahuje blok na spracovanie grafiky. Podľa plánov Intelu zvládne jeden takýto AI akcelerátor spustiť veľký jazykový model až s 300 miliardami parametrov. Systém s ôsmimi kartami si má poradiť aj s LLM s biliónom parametrov.
GPU D-Series má TDP 350 W a využíva rozhranie PCI Express 5.0 x16 aj vzduchové chladenie. Nejde však o chladič s vlastnými ventilátormi. Prúdenie vzduchu cez rebrá chladiča zabezpečujú systémové ventilátory zabudované v serveri. Vzorky nových AI akcelerátorov sa už dodávajú partnerom, zatiaľ však nie je známe, kedy budú produkty dostupné v širšom meradle. Výrobca dosiaľ nezverejnil ani ich ceny.
