生成式AI是近十年最受矚目的創新加速器,78%的IT決策者表示期待生成式AI在企業中發揮潛力[i],將生成式AI視為提高生產力、簡化流程及節省成本的方式。善用此技術對於身處數位時代的企業來說非常重要,有助於在競爭激烈的環境中佔有一席之地。
戴爾科技集團攜手AMD擴大Dell生成式AI解決方案產品組合,持續加速推動進階工作負載,為企業提供更豐富的選擇,並推進生成式AI進程。此新技術展現了開放生態系統和矽多樣性的關鍵角色,為客戶提供簡單、可信任的客製化解決方案,將AI導入數據中。
如何因應激增的資料量及善用資料,為現今AI領域的核心問題。最重要的目標是確保企業能掌握運算能力,作為加速創新的引擎。Dell與AMD合作,為客戶提供更多支援AI和生成式AI工作負載的選擇。
Dell PowerEdge XE9680搭載AMD Instinct MI300X讓生成式AI更普及
Dell PowerEdge XE9680為戴爾至今增長速度最快的解決方案[ii],支援即將推出的AMD Instinct™ MI300X加速器,提供客戶更多AI效能相關選擇。Dell PowerEdge XE9680搭載AMD Instinct MI300X,透過高效能解鎖企業數據價值,並運用客製化大語言模型(LLM)於產業中脫穎而出。搭載8個MI300X GPU,每個GPU皆配備192GB的5.3 TB/s高頻寬記憶體(HBM3),每個伺服器都有一致的HBM3容量達1.5 TB,以及超過21 petaflops的FP16算力峰值(每秒千萬億次浮點運算),讓生成式AI被企業普及使用,協助訓練更大的模型、減少數據中心佔地面積、降低總體擁有成本,並獲得競爭優勢。
透過Dell Validated Design for Generative AI with AMD
企業更易部署可信任的生成式AI平台
戴爾亦宣布Dell生成式AI解決方案的進一步計劃,全新Dell Validated Design for Generative AI with AMD協助企業更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm™的AI架構將於明年上市,拓展Dell生成式AI解決方案生態系,並將加入開源大語言模型。AMD ROCm™可做為AMD Instinct加速器的開源驅動程式堆疊、開發工具組及API。透過Dell Validated Designs for Generative AI將能更簡單地客製可信任的生成式AI平台,消弭整合、效能和規模等考量因素的不確定性。
Dell PowerEdge XE9680不僅效能強大,其安全與簡易性更為同級中最出色。藉由Dell Open Manage Enterprise軟體簡化和加速生成式AI基礎架構的部署,並透過CloudIQ軟體達到智慧自動化。Dell PowerEdge XE9680更整合網路復原功能和一系列Zero Trust提升安全性。
Dell PowerEdge XE9680藉由以8個AMD Instinct MI300X加速器運作的AMD Instinct Infinity平台,實現近線性的規模擴充與低延遲分散式的生成式AI訓練及推論。藉由橫跨PowerEdge伺服器叢集的全域記憶體互聯(xGMI),並透過乙太網路為基礎的AI結構連結MI300X GPU,使用經戴爾驗證的GPU結構和Dell PowerSwitch Z9664F-ON。
身為超級乙太網聯盟(UEC)的一員,戴爾致力提倡基於標準的網路。戴爾擁有獨特優勢,可以在生成式AI解決方案(運算、結構和儲存)中運用開放式方法充分發揮潛力。
推出時程
搭載AMD Instinct™ MI300X加速器的Dell PowerEdge XE9680,以及Dell Validated Design for Generative AI with AMD預計將於2024上半年推出。瞭解更多關於PowerEdge XE伺服器及PowerEdge加速伺服器和加速器。
關於戴爾科技集團
戴爾科技集團Dell Technologies(NYSE:DELL)致力於幫助企業和個人建立數位化未來,改善他們的工作、生活和娛樂方式,為客戶提供面向數據時代全面和創新的產品、技術、解決方案及服務組合。