VMware與Intel合作推進Private AI

近日VMware（NYSE：VMW）宣佈與Intel合作，透過拓展雙方二十多年的創新成果，協助客戶加速人工智慧（AI）應用，並在資料中心、公有雲和邊緣環境等所有地點部署Private AI。VMware和Intel正致力於提供一個經過聯合驗證的AI堆疊，支援客戶使用現有的通用VMware和Intel基礎架構以及開源軟體簡化AI模型的構建和部署。VMware Cloud Foundation透過與Intel的AI套件、內置AI加速器的Intel Xeon處理器以及Intel Max系列GPU組合，將為資料準備、模型訓練、微調和推理提供經過驗證和基準測試的AI堆疊，加速科學發現並豐富企業和消費者服務。 

全球已有30多萬家客戶部署了VMware Cloud，VMware 虛擬化軟體已被部署到企業中幾乎所有創建、處理或消費資料的地點。這使得 VMware Cloud 成為了一種可將AI加速運算和模型帶到任何業務地點的快速手段。同樣，Intel也為成千上萬的客戶提供了開放、可擴展且值得信賴的解決方案。在企業中隨處可見的VMware和Intel產品將強強聯手，共同提高資料科學的可存取性，支援全球企業機構採用Private AI，一種平衡AI帶來的業務收益與實際隱私和合規需求的架構方法。 

VMware AI Labs 副總裁 Chris Wolf 表示： 「關於AI，我們已經無需在選擇、隱私和控制方面爭論權衡問題。Private AI能夠同時為客戶提供這三方面的能力，支援他們在加快AI部署的同時，構建具有前瞻性的 AI 基礎架構。VMware Private AI with Intel將協助我們的共同客戶大幅提高工作者的生產力，加速主要業務功能轉型，同時提升經濟影響力。」 

Intel執行副總裁暨資料中心與人工智慧事業部（DCAI）總經理Sandra Rivera表示：「幾十年來，Intel和VMware一直在提供從資料中心到雲端的新一代功能，支援客戶提升行動速度、創新力和營運效率。AI可以帶來更多強大的可能性，改善全人類的生活，Intel和VMware完全有能力帶領企業進入這個由晶片和軟體驅動的AI新時代。」 

提升AI效能，並以更低的總體擁有成本獲得更安全的AI基礎架構  

無論是在公有雲、企業資料中心還是在邊緣，VMware Private AI 都能將算力和 AI 模型帶到創建、處理和消費企業資料的地點，從而為傳統 AI/ML 工作負載和生成式 AI 提供支援。VMware 和Intel可在數分鐘至數小時內對特定任務模型進行微調，並使用客戶的私有企業資料實現比人類交流速度更快的大型語言模型推理。現在，VMware 和Intel可以對更小、更經濟的先進模型進行微調，這些模型更易於在共用虛擬系統上進行更新和維護。當批量AI工作完成後，這些模型又可以被送回 IT 資源池。現在，AI輔助代碼生成、體驗式客戶服務中心推薦系統和經典機器統計分析等用例可以在運行應用的相同通用伺服器上共存。 

VMware 和Intel正在設計一種參考架構，以便將Intel的AI軟體套件、Intel Xeon處理器和資料中心GPU與VMware Cloud Foundation 相結合，支援客戶在其基礎架構上構建和部署Private AI模型，從而降低總體擁有成本，解決環境可持續發展問題。採用Intel AI的VMware Private AI參考架構將包括： 

• 配備Intel® Advanced Matrix Extensions（Intel® AMX）的第4代Intel Xeon處理器，使用標準行業框架和庫、端到端資料科學生產力工具以及經過優化的AI模型，提供高達10倍的開箱即用效能。 

• Intel® Data Center GPU Max包含多達128個 Xe核，是Intel針對要求最苛刻的AI工作負載推出的基礎 GPU 運算構件。Intel Max系列GPU將提供多種外形尺寸，以滿足不同客戶的需求。 

• Intel的AI軟體套件包含端到端開源軟體和可選許可元件，支援開發人員運行從資料準備、微調到推理的完整AI管線流程、加快構建多節點擴展，並在企業IT基礎架構上部署AI。開放式 oneAPI 框架可實現與處理器和硬體加速器無關的軟體發展，支援開發人員只需編寫一次代碼，即可在不同的架構上運行，無需使用多個代碼庫和專用語言。Intel的Transformer Extensions和PyTorch Extension與開發人員最喜愛的開源Hugging Face庫深度整合，為微調和壓縮模型提供經過自動優化的配方，從而實現高效推理。 

VMware Cloud Foundation透過以下功能，為 VMware Private AI 帶來一致的企業級基礎架構，操作簡便，同時增強安全性。 

• VMware vSAN Express Storage Architecture可為I/O密集型 AI/ML調整和推理工作負載的加密等重要功能提供高達30%的效能提升1和最小的開銷。 

• vSphere Distributed Resources Scheduler協助有效利用空閒算力進行AI模型訓練和推理，充分利用其他AI應用所使用的叢集，最大程度地提高容量，並降低總體擁有成本。 

• VMware NSX 用於構建微分段和高級威脅防護功能。 

• 安全啟動和虛擬TPM可確保模型和資料的保密性。  

VMware Private AI 將由戴爾、HPE和聯想的伺服器提供支援，這些伺服器運行帶有Intel高級矩陣擴展（Intel AMX）的第四代Xeon CPU 以及Intel Max 系列 GPU。