Obří čipy pro AI superpočítače

Čipy o velikosti jídelního tácu jsou 56krát větší než ty běžně používané pro umělou inteligenci (AI). Každý v sobě koncentruje výpočetní výkon stovek konvenčních čipů. Protože čipy, které se obvykle používají k napájení AI jsou malé – často velikosti poštovní známky – na zpracování komplikovaných modelů AI jsou jich potřeba stovky až tisíce. Čipy Cerebras jsou ale podle vyjádření výrobce schopné trénovat AI systémy 100 až 1000krát rychleji než stávající hardware.

I malé firmy dokážou stvořit velké věci
Firma Cerebras byla založena v roce 2016 Andrewem Feldmanem v kalifornské Santa Claře s cílem vybudovat hardware pro rychlejší rozvoj AI, a dokázat tak, že je možné vytvořit velký superpočítač AI s menšími náklady i energiemi.
Místo snahy vytvořit více čipů a spojovat je dohromady, zvolili řešení v podobě jediného, který pokrývá celý wafer. Výsledkem je čip, speciálně navržený pro použití v aplikacích AI a vědeckého výzkumu, označovaný jako Wafer Scale Engine (WSE), který měří napříč 21,5 cm (cca velikost iPadu) a je 56krát větší než největší GPU (jednotka grafického zpracování). Obsahuje 1,2 bilionu tranzistorů a 3000krát více jader, než typický CPU (centrální procesorová jednotka), což z něj dělá největší a nejvýkonnější počítačový čip, jaký byl kdy vytvořen.
Jeho velikost i výkon mu umožňuje provádět složité výpočty a analyzovat obrovské množství dat rychlostí, která byla dříve nepředstavitelná, proto je vhodný pro aplikace, kde je potřeba rychle a přesně zpracovat velké datové množství.
Vytvoření čipu této složitosti vyžadovalo, aby Cerebras překonal četné překážky, jako je hledání způsobů napájení a chlazení čipu a návrh softwaru, který jej podporuje. Firma vyvinula unikátní systém vodního chlazení, který cirkuluje skrz čip, aby se nepřehříval. Díky této nákladově efektivní technologii využili své čipy k sestavení superpočítače pro společnost G42 z Abu Dhabi, která použila systém Cerebras k trénování arabské verze ChatGPT, a to za pouhých 10 dnů.
Pro nasazení AI čipů WSE firma vytvořila i speciální rackový modul CS-2, jež byl navržen od základu tak, aby účinně napájel, chladil a dodával data procesoru WSE-2 v jednom „balíku“, který lze snadno nasadit, provozovat i udržovat v datovém centru. Srdcem systému CS-2 je způsob sestavení, jež dodává výkon přímo do povrchu čipu, aby bylo dosaženo požadované hustoty výkonu, které nešlo s tradičním řešením dosáhnout. Zajišťuje rovnoměrné chlazení prostřednictvím uzavřené vnitřní vodní smyčky a následně je chlazen vodou nebo vzduchem v zařízení. Všechna čerpadla, ventilátory i napájecí zdroje jsou redundantní a vyměnitelné za provozu.
CS-2 se snadno instaluje do infrastruktury datového centra – využívá napájení a síťová připojení založená na standardech pro bezproblémovou integraci do stávajících systémů. Připojuje se k okolní infrastruktuře přes 100gigabitové ethernetové linky a převádí standardní provoz TCP-IP na protokol Cerebras plnou linkovou rychlostí, aby napájel 850 000 jader WSE-2, a to s výrazně nižší spotřebou a násobně vyšší efektivitou ve srovnání s výkonem GPU.

Vlastní cestou
Vzhledem k tomu, že oblast umělé inteligence a vědeckého výzkumu se neustále vyvíjí, je pravděpodobné, že WSE bude hrát důležitou roli při utváření její budoucnosti. Čipy mají v AI klíčovou úlohu a mohly by změnit poměr sil mezi technologickými společnostmi i mezi zeměmi.
Ale dělat AI produkty obvykle vyžaduje specializované čipy a značné množství výpočetního výkonu, což vede k divoké honbě za dalšími technologiemi. Enormní skok v požadavcích na počítače kvůli AI technologiím vytvořil obrovskou poptávku po specializovaných čipech, a firmy se snaží zajistit si přístup k nim. Poptávka byla ale tak vysoká, že bylo těžké jich získat dostatek pro sestavení superpočítače. Aby překonaly tento problém, začaly některé z největších technologických společností včetně Googlu, Amazonu, AMD či Intelu vyvíjet své vlastní alternativy. Do tohoto soupeření, jehož cílem je prorazit na trhu, jemuž dominovala především Nvidia s produkty, jako grafické procesorové jednotky nebo GPU používané k napájení AI, se zapojily i start-upy jako Cerebras, Graphcore, Groq nebo SambaNova.
AI superpočítače byly postaveny již dříve, včetně systémů Nvidia, ale u start-upových firem je úsilí vytvořit tyto komponenty vzácné. „Pro tyto firmy je obtížné konkurovat Nvidii, protože lidé, kteří staví AI modely, jsou zvyklí používat software, který funguje na jejích AI čipech, a mnohé z nich, které se pokusily vstoupit na trh s AI čipy, selhaly,“ konstatuje Chris Manning, počítačový vědec ze Stanfordu. Cerberas však vsadil na tuto kartu právě proto, že mnoho AI firem nechce být limitováno pouze řešením nabízeným firmou Nvidia, navíc existuje globální poptávka po dalších výkonných čipech, jako jsou ty, které vyvinuli. Firma doufá, že to posune AI dopředu.

Kamil Pittner
Foto: Cayce Clifford, NYT

Publikováno: 19. 10. 2023 | Počet zobrazení: 93 18