GPU servery s kapalinovým chlazením pro podnikovou AI
Společnost Giga Computing, dceřiná firma Gigabyte, nabízí dva nové servery s GPU pro platformu Intel Xeon Scalable CPU 4. generace a NVIDIA HGX H100 se 4 a 8 GPU (Foto: Giga Computing).
G363-SR0: Přímé kapalinové chlazení
S vyšším výkonem přichází potřeba dalších neotřelých řešení. Počítač G363-SR0 je speciálně navržen pro přímé kapalinové chlazení (DLC – direct liquid cooling), které účinně a rychle odvádí teplo jak z procesorů, tak ze čtyř modulů grafických procesorů NVIDIA. V poměru 1:2 mezi CPU a GPU poskytuje 3U G363-SR0 ideální výpočetní výkon pro většinu pracovních zátěží v oblasti AI a HPC. Pro neuvěřitelné množství potřebných vysokorychlostních přístupů k datům je k dispozici osm 2,5" pozic s podporou disků NVMe/SATA/SAS Gen5. Pro využití nejlepších síťových technologií je pak k dispozici šest nízkoprofilových slotů PCIe Gen5. Napájení systému zajišťuje redundantní konfigurace napájení 2 + 1 využívající 3000W zdroje.
Díky výjimečnému všestrannému výkonu byla technologie DLC vybrána pro svou schopnost rychle odvádět teplo z CPU a čtyř GPU. Nejenže díky tomu server dosahuje vyššího výkonu, ale také umožňuje větší úsporu energie ve srovnání s tradičním systémem chlazeným vzduchem. Datová centra budou v blízké budoucnosti spotřebovávat stále větší procento světové elektrické energie, a aby se tento trend vyrovnal, je třeba vyvinout alternativy k tradičním serverovnám s horkou a studenou uličkou, které odvádějí horký vzduch zpět do místnosti. Při přímém chlazení kapalinou lze vzniklé teplo odvádět do vody, která je pak odváděna ven z datového centra a chlazená prostřednictvím chladicí věže nebo jiného podobného zařízení. Výsledkem je redukce chladicí infrastruktury, takže lze snížit náklady, což se následně projeví v nižších OPEX, TCO a lepší návratnosti investic.
G593-SD2: Systém s 8 GPU
Vzhledem k velké poptávce po tréninku AI a dalších výpočetně náročných úloh je velký zájem o řadu G593, která je určena pro nejvyšší úroveň výpočtů akcelerovaných promocí GPU. Šasi o velikosti 5U je rozděleno tak, že horní 1U je určen pro duální procesory Intel Xeon a spodní 4U pro grafické procesory NVIDIA. Tato konstrukce zajišťuje, že špičkový výkon nebude v šasi omezen. Proto není nutné používat pokročilé technologie chlazení.
Server G593-SD2 se zrodil z malé, ale velmi preferované změny tvaru některých rozšiřujících slotů v G593. Tomuto novému serveru předcházel model G593-SD0, který měl na zadní horní straně vyhrazený prostor pro nízkoprofilové sloty. V novém modelu „SD2“ byly tyto sloty odstraněny a osazeny sloty FHHL potřebnými pro DPU NVIDIA BlueField. Drobná změna byla provedena proto, aby model G593-SD2 mohl využívat výhod více karet BlueField pro urychlení přenosu dat AI a HPC a také pro bezpečnostní izolaci. Oba servery G593 poskytují stejně vysoký stupeň výpočtů pro generativní AI nebo náročné HPC úlohy.
Podpora akcelerátorů
Společnost NVIDIA přidala do svého portfolia GPU pro výpočty nebo vizualizaci čtyři nové akcelerátory a Giga Computing bude nové GPU podporovat implementací do svých podnikových řešení. Tyto nové GPU bude možné zakoupit také v kombinaci se serverovými platformami.
Grafický procesor L40S, založený na architektuře NVIDIA Ada Lovelace, je nejvýkonnějším univerzálním GPU pro datová centra, který poskytuje průlomovou akceleraci pro více úloh v aplikacích pro inferenci a školení, grafiku a video.
Nové NVIDIA RTX Ada Generation GPU jsou určeny pro různé úrovně profesionálních uživatelů, kteří potřebují vysoce výkonný ray tracing v reálném čase, výpočty akcelerované AI a profesionální vykreslování grafiky. Grafické procesory RTX 5000, RTX 4500 a RTX 4000 založené na technologii Ada jsou vzduchem chlazené karty PCIe Gen4, které podporují technologie jako NVIDIA GPUDirect pro podporu videa a NVIDIA GPUDirect Remote Direct Memory Access (RDMA) pro rychlejší a efektivnější přenos dat do jiných systémů.
Veškeré servery Gigabyte jsou dostupné v distribučním kanále společnosti ASBIS CZ.