回到頂端
|||
熱門: 燈會 走春 賞櫻

Supermicro 支援 AMD Instinct MI300 系列加速器,而擴展人工智能和 GPU 機架規模解決方案

美通社/[email protected] 2023.12.08 00:41

現已推出 AMD Instinct™ MI300X 加速器推動的全新 8-GPU 系統,具備突破性的人工智能和 HPC 性能,可用於大規模人工智能訓練和 LLM 部署

美國加州聖何西2023年12月8日 /美通社/ -- Supermicro, Inc. (納斯達克股票代碼:SMCI)為人工智能、雲端、儲存和 5G/邊緣提供全面 IT 解決方案的製造商,今天宣佈推出三款全新 AMD 為本 H13 代的 GPU 伺服器產品。這些已改良的伺服器,以全新 AMD Instinct MI300 系列加速器推動,提供先進效能和效率。Supermicro 的強勁機架規模解決方案,配備 8-GPU 伺服器和 AMD Instinct MI300X OAM 配置,現為大型模型訓練的理想選擇。

): Supermicro 支援 AMD Instinct MI300 系列加速器,而擴展人工智能和 GPU 機架規模解決方案
): Supermicro 支援 AMD Instinct MI300 系列加速器,而擴展人工智能和 GPU 機架規模解決方案

全新 2U 液冷和 4U 風冷伺服器,均配備 AMD Instinct MI300A 加速處理器 (APU) 加速器。這提升數據中心效率,並滿足人工智能、LLM 和 HPC 的快速增長兼複雜需求。該等全新系統均配備四個可擴展應用程式的 APU。Supermicro 可為大型環境提供完整液冷機架。每個機架的 FP64 性能均高達 1,728 TFlops。Supermicro 全球多間製造廠可簡化這些新型伺服器的供應,實現人工智能和 HPC 融合。

Supermicro 執行長兼總裁 Charles Liang 表示:「我們非常高興能夠利用最新一代 AMD Instinct 加速器,擴展我們為人工智能訓練而提供的機架規模全面 IT 解決方案。這與前幾代相比,性能提升高達 3.4 倍。憑藉我們全球多間製造廠每月產能 4,000 個液冷機架,可透過 AMD Instinct MI300X 加速器或 AMD Instinct MI300A APU 提供最新 H13 GPU 解決方案。我們經驗證的架構為每個為大規模人工智能設計的 GPU 和多個兼容完全整合液體冷卻解決方案的超級電腦叢集,提供 1:1 400G 網絡。這部署容易,賦予客戶性能和卓越效率的競爭優勢。」

進一步了解配備 AMD 加速器的 Supermicro 伺服器

LLM 優化的 AS –8125GS-TNMR2 系統,在 Supermicro 的構建塊架構上建立。這是個經驗證的設計,適用於以風冷和液冷機架規模設計的高性能人工智能系統。這平衡系統設計連結 GPU 與 1:1 網絡,提供跨節點和機架的大量高頻寬儲存。這配合現時最大參數高達數萬億的語言模型,盡量提升平行運算,並盡量減少訓練時間和推理延遲。配備 MI300X OAM 加速器的 8U 系統,透過 AMD Infinity Fabric™ Links 提供 8-GPU 原始加速能力。這系統在配備業界領先的 1.5TB HBM3 GPU 記憶體的單一系統,以及為省電、縮短運算週期和減少人工智能工作量使用記憶體而設計的原生稀疏矩陣支援的開放標準平台上,可實現高達 896GB/s 峰值的理論 P2P I/O 頻寬 。每台伺服器均配備雙插 AMD EPYC™ 9004 系列處理器,核心數量高達 256 個。在機架規模上,超過 1000 個 CPU 核心、24TB DDR5 記憶體、6.144TB HBM3 記憶體和 9728 個運算單元,可在多個最具挑戰性的人工智能環境中應用。Supermicro 擁有豐富的 8U 配置經驗,並使用 OCP 加速器模組 (OAM),帶來完全配置的伺服器。這比客製設計更快投入市場,從而降低成本和縮短供應時間。

Supermicro 也推出已改良密度的 2U 液冷伺服器 AS –2145GH-TNMR和 4U 風冷伺服器 AS –4145GH-TNMR,而每台伺服器均配備 4 個 AMD Instinct™ MI300A 加速器。該等全新伺服器,均為需要極快 CPU 到 GPU 通訊的 HPC 和人工智能應用程式而設計。APU 在單一晶片上,透過組合最高效能的 AMD CPU、GPU 和 HBM3 記憶體,消除多個多餘記憶體的副本。每台伺服器為了應用程式擴展,均配備先進的 x86「Zen4」CPU 核心。此外,每台伺服器還配備 512GB HBM3 記憶體。以 21 個 2U 系統組成的全機架 (48U) 解決方案中,可使用超過 10TB 的 HBM3 記憶體和 19,152 個運算單元。然而,HBM3 到 CPU 記憶體的頻寬為 5.3 TB/s。

這兩款系統以雙 AIOM 為特點,配備 400G 乙太網路支援,以及為高效能運算而設計多個改善空間、擴展度和效率的擴充網絡選項。該 2U 直接晶片液冷系統,帶來極佳整體擁有成本 (TCO)。根據 21 個 2U 系統機架解決方案,每機架產出 61,780 瓦功率,而風冷機架功率為 95,256 瓦。這耗能節省可達 35% 以上,單一風冷系統更可減少 70% 風扇數量。

AMD 執行副總裁兼數據中心解決方案業務部總經理 Forrest Norrod 表示:「AMD Instinct MI300 系列加速器,不論為長期加速的高效能運算應用程式,還是快速成長的生成式人工智能需求,均提供傲視業界的效能。我們將繼續與 Supermicro 緊密合作,並根據 MI300 系列加速器和利用 Supermicro 的系統和數據中心設計專業知識,為市場帶來首屈一指的人工智能和 HPC 全面解決方案。」

如欲了解詳情,請與 Supermicro 和 AMD 專家聯絡。請即時或按需要觀看此網絡研討會

如欲了解詳情,請瀏覽:

Supermicro AMD 加速器網站

AS -8125GS-TNMR2 (8U w/ MI300x)

AS -2145GH-TNMR (2U LC w/ MI300A) 

AS -4145GH-TNMR (4U AC w/ MI300A) 

Super Micro Computer, Inc. 簡介

Supermicro(納斯達克股票代碼:SMCI)是全球領導者,提供應用程式最佳化的全面 IT 解決方案。Supermicro 在加州聖荷西創立和運作,致力為企業、雲端、人工智能和 5G 電信/邊緣 IT 基礎設施,提供市場創新。我們是全面 IT 解決方案製造商,提供伺服器、人工智能、儲存、物聯網、交換器系統、軟體和支援服務。Supermicro 的主機板、電源和機箱設計專業知識,進一步支援開發和生產,並為全球客戶實現從雲端到邊緣的新一代創新。我們(在美國、亞洲和荷蘭)內部設計和製造產品,利用全球營運來實現規模和效率,從而務求提高整體擁有成本 (TCO) 和減少對環境的影響(綠色運算)。Server Building Block Solutions® 產品組合,屢獲殊榮。客戶可在多個系統系列中作選擇,從而準確提升工作量和應用程式。這些系統在我們靈活兼可重複使用構建塊上建立,並廣泛支援各外形規格、處理器、記憶體、GPU、儲存、網絡、電源和冷卻解決方案(冷氣機、自然風冷或液冷)。 

Supermicro、Server Building Block Solutions 和 We Keep IT Green,均為 Super Micro Computer, Inc. 的商標和/或註冊商標。

AMDAMD Arrow 標誌、AMD InstinctEPYC 及其組合,均為 Advanced Micro Devices 的商標。

所有其他品牌、名稱和商標,均為各自所有者的財產。

 

社群留言

台北旅遊新聞

台北旅遊新聞