HPE ve spolupráci s Broadcomem urychluje nasazení AI pomocí první skříňové architektury AMD Helios
Společnost HPE urychluje zavádění tréninku a inference umělé inteligence (AI) velkého rozsahu pro poskytovatele cloudových služeb (CSP), včetně tzv. neocloudů, kterým nabízí první architekturu AMD „Helios“ pro AI ve skříňovém provedení s integrovanou ethernetovou sítí k vnitřnímu propojení.
Řešení využívající specializovaný hardware a software HPE Juniper Networking spolu se síťovým čipem Broadcom Tomahawk 6 je založeno na otevřeném standardu UALoE (Ultra Accelerator Link over Ethernet). Je schopno podporovat datový provoz při trénování modelů s biliony parametrů a poskytuje vysokou propustnost při inferencování. Řešení AMD „Helios“ pro AI v integrovaném skříňovém provedení, které dodává tým služeb HPE s rozsáhlými zkušenostmi s přímým kapalinovým chlazením a instalacemi o výkonu v řádu exaflopů, nabídne zákazníkům flexibilitu, interoperabilitu, energetickou úspornost a rychlejší nasazení v době, kdy je na trhu silnější poptávka po výpočetní kapacitě pro AI.
„Společnosti HPE a AMD už více než deset let posouvají hranice v oblasti superpočítačů, dodávají systémy třídy exascale a prosazují otevřené standardy, které urychlují inovace,“ uvedl Antonio Neri, prezident a generální ředitel společnosti HPE. „Uvedením nového systému AMD ‚Helios‘ a našeho speciálně navrženého síťového řešení pro propojení serverů nabízíme našim zákazníkům z řad poskytovatelů cloudových služeb rychlejší implementaci, větší flexibilitu a snížení rizika při škálování výpočetních prostředků pro AI v jejich podnicích.“
„Společnost HPE je pro AMD výjimečným a dlouhodobým partnerem. Společně pracujeme na redefinici toho, co je v oblasti superpočítačů možné,“ říká Dr. Lisa Su, předsedkyně představenstva a generální ředitelka společnosti AMD. „S platformou ‚Helios‘ tuto spolupráci dále prohlubujeme, přičemž spojujeme celý soubor výpočetních technologií AMD a systémových inovací společnosti HPE, abychom vytvořili otevřenou platformu pro umělou inteligenci v integrovaném provedení, která našim zákazníkům v éře umělé inteligence přináší novou úroveň efektivity, škálovatelnosti a výkonu.“
Společnost HPE bude jednou z prvních firem, která nabídne řešení AMD Helios pro umělou inteligenci v integrovaném skříňovém provedení, které v této kategorii bude představovat výkonnostní skok. Je založené na specifikacích projektu Open Compute Project (OCP) s optimalizovaným napájením, pokročilým kapalinovým chlazením a snadnou údržbou, jak vyžadují AI systémy nové generace. Mezi další funkce integrovaného řešení patří:
- Výkon v jedné skříni: Zapojením 72 grafických procesorů AMD Instinct™ MI455X v jednom racku poskytuje agregovanou kapacitu 260 terabytů za sekundu a až 2,9 exaflopů výkonu FP4 pro urychlení pracovních úloh AI a podporu masivních modelů. Systém poskytuje 31 terabytů paměti čtvrté generace s vysokou propustností (HBM4) a šířku pásma 1,4 PB/s, což zajišťuje nekompromisní kapacitu a pohyb dat pro nejnáročnější pracovní zátěže v oblasti AI a HPC.
- První ethernetový přepínač a software pro propojení serverů založený na standardech: Společnost HPE rozšiřuje svá řešení „sítí pro umělou inteligenci“ o ethernetový přepínač pro propojení jednotlivých serverů a software vyvinutý speciálně pro rackovou architekturu AMD „Helios“ pro AI. Nové řešení je první škálovatelný přepínač, vyvinutý ve spolupráci se společností Broadcom, který poskytuje optimalizovaný výkon pro pracovní zátěž umělé inteligence prostřednictvím standardního Ethernetu. Přepínač využívá možnosti automatizace a zajištění na bázi umělé inteligence od společnosti HPE, které zjednodušují provoz sítě a umožňují rychlejší nasazení a celkovou úsporu nákladů. Nové řešení HPE pro propojení serverů (scale-up) doplňuje stávající nabídky HPE pro propojení racků (scale-out) a datových center (scale-across), a poskytuje tak kompletní portfolio „sítí pro umělou inteligenci“.
- Otevřené standardy a inovace: Skříňová architektura AMD „Helios“ AI o dvojnásobné šířce, založená na specifikacích OCP Open Rack Wide (ORW), nabízí výkonné a energeticky účinné kapalinové chlazení v praktickém provedení optimalizovaném pro průběžnou údržbu. Architektura AMD „Helios“ AI také využívá open source software AMD ROCm™ a síťovou technologii AMD Pensando™, která urychluje inovace a pomáhá snižovat celkové náklady na vlastnictví. Přepínač HPE Juniper Networking založený na otevřeném a osvědčeném komunikačním standardu Ethernet minimalizuje vazbu na konkrétního dodavatele a umožňuje rychlejší aktualizace funkcí.
Broadcom spolupracuje se společností HPE na vývoji přepínače HPE Juniper Networking pro propojení serverů v rámci architektury AMD „Helios“ AI, přičemž využívá dlouhodobé spolupráce obou společností a jejich závazku využívat otevřenou technologii Ethernet pro sítě datových center AI. Cílem tohoto úsilí je poskytnout škálovatelná, efektivní a vysoce výkonná síťová řešení přizpůsobená moderním pracovním úlohám umělé inteligence.
„Společnost Broadcom je hrdá na to, že se může podílet na této spolupráci s cílem rozvíjet otevřenou infrastrukturu umělé inteligence založenou na Ethernetu,“ uvedl Hock E. Tan, prezident a generální ředitel společnosti Broadcom. „Naše vysoce výkonné čipy přináší špičkovou ultra nízkou latenci, obrovský výkon a bezeztrátové síťové přenosy se škálovatelností a efektivitou, které moderní pracovní zátěže umělé inteligence vyžadují. Společně s HPE a AMD umožňujeme zákazníkům budovat výkonná datová centra pro umělou inteligenci s využitím standardního Ethernetu, což maximalizuje výběr a flexibilitu a zároveň zajišťuje výjimečné možnosti dalšího rozšiřování.“