新聞摘要
· Dell AI Factory的擴建，涵蓋基礎架構、解決方案與服務，以簡化並加速企業採用 AI五款搭載 AMD第五代 EPYC 處理器的全新 Dell PowerEdge 伺服器，可大規模提供業界領先的 AI 效能、效率與靈活性
· 適用於 AMD的生成式 AI 解決方案簡化了AI 部署，顯著提升價值實現的速度Dell Enterprise Hub 現已支援搭載 AMD InstinctTM MI300X 加速器的 Dell PowerEdge XE9680，以安全部署最新的 Llama 和 Mixtral 模型
· 適用於生成式 AI 平台的 Dell Implementation Services ，提供易於管理而安全的本地端AI 平台解決方案，加速 AI 創新
完整故事
戴爾科技集團（NYSE：DELL）擴展全球最廣泛之生成式 AI（GenAI）解決方案產品組合，推出專為 AMD 環境量身打造的Dell AI Factory新增功能。 這些解決方案為企業提供更強大的 AI 功能，包括更高的可擴展性和靈活性，幫助企業在不斷發展的技術環境中保持競爭力。
「藉由Dell AI Factory將AMD技術整合到最新的戴爾伺服器、AI解決方案和服務中，我們正在為企業提供當前及未來所需的效能與效率，」戴爾科技集團基礎架構解決方案事業群總裁 Arthur Lewis 表示：「與AMD一起，我們正在為AI效能樹立新標準，為企業提供現代數據驅動環境中不可或缺之強大並具成本效益的解決方案。」
「我們最新的 AMD EPYC 處理器與 Instinct 加速器，可以大規模的為戴爾客戶提供先進的端對端解決方案，加快AI部署與運轉業務關鍵的 IT 基礎架構。」AMD 執行副總裁暨資料中心解決方案事業群總經理 Forrest Norrod 表示： 「我們與戴爾長期合作，持續推出尖端解決方案，以協助提升營運效率、縮短價值實現的時間，在高度競爭的產業中促進創新。」
新款 Dell PowerEdge 伺服器可推動大規模處理嚴苛的 AI 工作負載
新增的Dell PowerEdge 產品組合可推動處理廣泛的AI 應用場景與傳統工作負載，以及簡化伺服器管理和安全性。這些平台提供客製化且高效的解決方案，能簡化管理工作並支援處理現代企業的高效能工作負載：
· Dell PowerEdge XE7745專為企業AI工作負載設計 ，搭載 AMD 第五代 EPYC 處理器，採用4U 氣冷式機箱而最多可支援 8 個雙寬或 16 個單寬 PCIe GPU。專為 AI 推論、模型微調與高效能運算打造，內部 GPU 插槽搭配用於網路連接的額外8 個 Gen 5.0 PCIe 插槽，形成高密度、靈活的配置，使DW PCIe GPU 容量增加 2 倍。1
· PowerEdge R6725 與 R7725 伺服器搭載高效能 AMD 第五代 EPYC 處理器，而具備最佳可擴展性。全新的 DC-MHS 機箱設計可強化氣冷效果與雙模組500W CPU，克服電源與效率方面嚴峻的散熱挑戰。2這些平台透過為優化可擴展性的配置，可維持嚴謹的數據分析與AI 工作負載，並為虛擬化、資料庫與 AI 等工作負載提供創紀錄的效能。3 R7725 在堆疊頂端提供 高達66%的效能提升，及高達33%的效率提高。4
這三種平台皆可支援多達 50% 更多的核心，單核心效能提升高達 37%，而創造出更高效能、效率及更佳的總體擁有成本（TCO）。5這些增益可將多達七台使用五年的伺服器整合成當今的一台伺服器，使CPU 的功耗降低達 65%。6
· PowerEdge R6715 和 R7715 伺服器搭載 AMD 第五代 EPYC 處理器，具有更高的效能、效率表現，硬碟容量增加了 37%，具備更高的儲存密度。7 這兩款單插槽伺服器提供多種配置選項，將記憶體增加一倍，配備24 個 DIMM（2DPC），滿足各種工作負載需求，以及在體積小巧的 1U 和 2U 機箱中發揮最大效能。8 R6715 在處理 AI 和虛擬化任務方面的效能創下世界紀錄。9
針對大規模部署 AI 的客戶，戴爾將持續支援 Dell PowerEdge XE 伺服器中所有最新的 AMD Instinct 加速器。
IT 團隊可透過更新的Integrated Dell Remote Access Controller（iDRAC），從遠端監控、管理和更新 Dell PowerEdge 伺服器。 iDRAC 使用更高速的處理器、更強大的記憶體和專用安全輔助處理器，簡化伺服器管理與安全性，使 IT 團隊能以更高的可靠性和效率作出回應。
「OSF Healthcare 採用戴爾和 AMD 提供的系統，為臨床醫師和患者提供更好的服務、降低整體成本，以及幫助有需要的社區。當患者需要仰賴我們的平台才能維持生命時，我們的系統必須保持一整年穩定運作。」OSF Healthcare技術服務總監 Joe Morrow 表示：「正因為有了這些系統，我們大幅減少了 Epic 的停機時間，讓 OSF Healthcare 能提供優質的醫療服務，同時確保運作的安全性和可擴展性。」
Dell AI Factory 的強化功能簡化並加速 GenAI 部署
Dell AI Factory 旨在支援多元的 AI 需求，透過全球最廣泛的 AI 解決方案產品組合，涵蓋桌上型電腦至資料中心再到雲端，使組織可依需求調整期 AI 投資規模：
· 與 AMD 合作的 Dell 生成式 AI 解決方案，使用搭載 AMD Instinct™ MI300X 加速器的 Dell PowerEdge XE9680 伺服器，提供 AI 推論、檢索增強生成（RAG）與客製化功能。這一整合簡化了 AI 部署、提升安全性、支援可擴展與模組化架構，且將價值實驗時間縮短最多 86%，幫助組織優化其AI 投資。10
· Dell Enterprise Hub在 Hugging Face上現在支援搭載 AMD Instinct MI300X 加速器的 Dell PowerEdge XE9680，提供自訂容器和腳本，以便能輕鬆安全的部署 Llama 和 Mixtral 等模型。這些容器化模型經過特殊優化，以根據模型和伺服器提高推理效能，並利用 Hugging Face 文本生成推理（Text Generation Inference，TGI）後端。
· Dell 適用於生成式 AI 的專業服務正在擴展以支援 AMD 環境。與 AMD 合作適用於 GenAI 平台的全新 Dell Implementation Services 提供了量身打造的作業平台，包括 Kubernetes 配置、部署先進 AI 架構部署，以及將客戶資訊轉為最佳實踐作法，以最大化投資報酬率。從策略開發到數據準備、平台和模型實施及解決方案擴展，戴爾專業人員協助客戶在整個生命週期中實現 AI 相關業務成果。
「戴爾與 AMD 持續推動 AI 創新，提供全面的解決方案與服務，協助企業現代化資料中心、提升可擴展性，並利用 AI 實現更好的業務成果。」IDC 研究副總裁 Kuba Stolarski 表示：「Dell AI Factory 的最新更新為戴爾在提供提高效率和價值的 AI 解決方案旅程中的下一步。」
供貨時間
- Dell PowerEdge XE7745 伺服器將於 2025 年 1 月起在全球上市。
- Dell PowerEdge R6715、R7715、R6725 和 R7725 伺服器將於 2024 年 11 月起在全球上市。
- 搭載AMD的Dell生成式 AI 解決方案將於 2024 年第 4 季起在全球上市。
- Dell Enterprise Hub在 Hugging Face 上的更新，現已開放給全球用戶使用。
- 適用於生成式 AI 平台的 Dell Implementation Services 現已在特定國家開放使用。
其他資源
· 進一步探索 Dell 與 AMD 合作的生成式 AI 解決方案
· 進一步認識 Dell 的 AI
關於戴爾科技集團
戴爾科技集團Dell Technologies（NYSE:DELL）致力於幫助企業和個人構建數位化未來，改進他們的工作、生活和娛樂方式，為客戶提供迎接人工智慧時代全面和創新的技術及服務組合。
# # #
版權所有 © 2024 戴爾公司或其子公司。戴爾科技集團與 Dell 是戴爾或其子公司的商標。其他商標可能屬於其各別所有者。
AMD、AMD Arrow 標誌、AMD Instinct、EPYC 及其組合是 Advanced Micro Devices, Inc. 的商標。其他名稱僅供參考，可能為其各自擁有者的商標。
1 根據 Dell 針對 Dell PowerEdge XE7745 規格表進行的分析，除 GPU 插槽外，亦顯示有 8 個 PCIe Gen5 插槽。另外，將 XE7745 與前一代 Dell PowerEdge R760XA進行比較，XE7745 最多可以支援 8 個 DW 或 16 個 SW GPU，而 R760XA 最多可以支援 4 個 DW 或 12 個 SW GPU。截至 2024 年 10 月 2 日的資料準確。
2 根據 Dell 的分析，將搭載 AMD EPYC 第 5 代 CPU（擁有 192 個 zen 5c 核心）之 Dell PowerEdge R7725 支援的最高等級 CPU，與搭載 AMD EPYC 第 4 代 CPU（擁有 128 個 zen 4c 核心）之 Dell PowerEdge R7625 支援的最高等級 CPU 進行比較。此外，根據 Dell PowerEdge R7725 的規格資料顯示，可以支援 2x 500W CPU（採用氣冷技術）。截至 2024 年 10 月 2 日的資料準確。實際效能可能會不同。
3 根據 Dell PowerEdge 伺服器在 VMMark4（使用 Dell PowerEdge R7725 的 2-S 配對分數為 [email protected] tiles）、SAP-SD（使用 Dell PowerEdge R6725 之 201,000 位使用者的 2-S 分數）和 TPCx-AI（使用 Dell PowerEdge R6715 和 R6725 的分數為 720.386@SF3、864.593@SF10 及 1115.609@SF30）方面創下的世界紀錄（截至 2024 年 10 月 2 日）。實際效能可能會不同。
4 根據 Dell 分析，R7725 中 AMD EPYC 第 5 代 9965 CPU 的 SPECIntRate 得分為 2980，而 R7625 中 AMD EPYC 第 4 代 9754 CPU 的 SPECIntRate 得分為 1790。截至 2024 年 10 月 2 日的資料準確。 實際效能可能會不同。
根據 Dell 分析，R7725 中 AMD EPYC 第 5 代 9965 CPU 的 SPECIntRate 得分為 2980，cTDP 為 500W，而 R7625 中 AMD EPYC 第 4 代 9754 CPU 的 SPECIntRate 得分為 1790，cTDP 為 400W。將 SPECInt Score 除以預設 TDP 計算出每一個配置的效率。截至 2024 年 10 月 2 日的資料準確。實際效能可能會不同。
5 根據 Dell 的分析，將搭載 AMD EPYC 第 5 代 CPU（擁有 192 個 zen 5c 核心）之 Dell PowerEdge R7725 支援的最高等級 CPU，與搭載 AMD EPYC 第 4 代 CPU（擁有 128 個 zen 4c 核心）之 Dell PowerEdge R7625 支援的最高等級 CPU 進行比較。截至 2024 年 10 月 2 日的資料準確。實際效能可能會不同。
根據 Dell 分析，R7725 中 AMD EPYC 第 5 代 9755 CPU 的 SPECFPRate 得分為 2270，而 R7625 中 AMD EPYC 第 4 代 9754 CPU 的 SPECFPRate 得分為 1420。截至 2024 年 10 月 2 日的資料準確。實際效能可能會不同。
6 根據 Dell 的分析，比較 Dell R7725 中 AMD EPYC 第 5 代 9965 的 SPECint 和 SPECFP 得分（分別為 2980 和 2350），與 Dell PowerEdge R740XD 中 Intel Xeon 8280 的相同得分（分別為 375 和 296）。分數比例顯示，7 台 R740xd 伺服器的總分與上述配置的單台 R7725 相近。單台 R7725 的 CPU 總 TDP 為 1000W（2x500W）。7 顆 R740XD 的 CPU 總 TDP 為 2870W瓦（2*205*7），每一顆 Intel Xeon 8280 的 TDP 為 205W。代表 CPU 功耗降低了 65%。截至 2024 年 10 月 2 日的資料準確。實際效能可能會不同。
7 根據 Dell 針對規格進行的分析，將配備最多 22 個 E3.s 磁碟機插槽的 Dell PowerEdge R67x5 伺服器，與配備最多 16 個 E3.s 磁碟機插槽的 Dell PowerEdge R66x5 伺服器進行比較。收集截至 2024 年 10 月 2 日的資料。
8 根據 Dell 針對 Dell Rx715 規格進行的分析，Dell Rx715 有 24 個 DIMM 插槽，而 Dell Rx615 伺服器各有 12 個 DIMM 插槽。截至 2024 年 10 月 2 日的資料準確。
9 根據 Dell PowerEdge 伺服器在 SPECVirt（Dell PowerEdge R6715 的 1-S 4 節點 SAN 分數為 3.38，是 SPECVirt 在每系統 32 個核心層級的世界紀錄）與 TPCx-AI（Dell PowerEdge R6715 的得分為 720.386 @SF3、864.593@SF10，是效能方面的世界紀錄）（截至 2024 年 10 月 2 日）取得的世界紀錄。實際效能可能會不同。
10 根據 Dell 在 2024 年 5 月，比較使用自動化腳本為通用 LLM 設定 2 節點 Kubernetes 叢集與手動部署通用設計需要之時間的分析結果進行估算。設定時間僅包括基本安裝。實際設定時間會因解決方案配置而異。