回到頂端
|||
熱門: 虎尾镇 美股 劉文楷警察

Nutanix宣布將AI平台擴展至公有雲

台灣產經新聞網/香港商霍夫曼公關顧問股份有限公司 2024.11.13 00:00
新聞圖片

混合多雲運算領導者Nutanix(納斯達克交易所代號:NTNX)今(13)日宣布擴展人工智慧(AI)基礎設施平台,推出新的雲端原生解決方案Nutanix Enterprise AINAI),可在任何Kubernetes平台、邊緣、核心資料中心,以及在AWS Elastic Kubernetes ServiceEKS)、Azure Managed Kubernetes ServiceAKS)和Google Kubernetes EngineGKE)等公有雲服務上部署。NAI提供了一套統一的混合多雲操作模式,以加速AI工作負載,使企業能夠在自行選擇的安全位置利用其模型和數據,同時提高投資回報率。透過利用NVIDIA NIM優化基礎模型的性能,Nutanix Enterprise AI幫助企業安全地部署、運行和擴展大型語言模型 LLM 的推理端點,以支持在數分鐘而內部署生成式AI應用程式,取代數天或數周的冗長流程。

 

生成式 AI 本質上是一種混合工作負載,新應用程式通常在公有雲上構建;之後使用在地端的私有數據進行模型微調;而與業務邏輯最緊密關聯的推理部署,可能位於邊緣、地端或公有雲。這種分散、混合式的生成式AI工作流程可能會為企業帶來複雜度、資料隱私、安全性和成本方面的挑戰。

 

Nutanix Enterprise AI提供了一套統一的多雲操作模式,結合了NVIDIA NIM優化的推理微服務和來自Hugging Face的開放式基礎模型,能夠以簡單的方式安全地部署、擴展和運行LLM。這使客戶能夠建立日常營運、具有彈性、安全性的企業級GenAI基礎設施,以支持關鍵業務的應用程式在地端或AWS Elastic Kubernetes Service EKS)、Azure Managed Kubernetes ServiceAKS)和 Google Kubernetes EngineGKE)等公有雲上的運行。

 

此外,相較於根據難以預測的使用量或基於token的定價模式,Nutanix Enterprise AI以基礎設施資源為基準,提供公開透明的定價模式,這對於希望最大化生成式AI投資獲回報的客戶來說非常重要。

 

Nutanix Enterprise AINutanix GPT-in-a-Box 2.0的一部分。GPT-in-a-Box還包括 Nutanix雲端基礎架構、Nutanix Kubernetes平台和Nutanix統一儲存,並提供支持客戶配置和調整大小需求的服務,以進行地端的訓練和推論。對於希望在公有雲進行部署的客戶,Nutanix Enterprise AI可以部署在任何Kubernetes環境中,且運作與地端部署保持一致。

 

Nutanix產品管理資深副總裁Thomas Cornely表示:「透過Nutanix Enterprise AI,我們協助客戶以簡單且安全的方式在地端或公有雲上運行生成式AI應用程式。Nutanix Enterprise AI可在任何Kubernetes平台上運行,讓客戶能夠使用成本公開的模型並選擇安全的位置,運行其AI應用程式。」

 

Nutanix Enterprise AI可以與NVIDIA全端AI平台一起部署,並通過了NVIDIA AI Enterprise軟體平台驗證,其中包括NVIDIA NIM,這是一組易於使用的微服務,旨在安全可靠地部署高性能AI模型推理。Nutanix-GPT-in-a-Box也是通過NVIDIA認證的系統,確保了性能的可靠性。

 

NVIDIA企業AI副總裁Justin Boitano表示:「生成式AI工作負載本質上具有混合特性,訓練、客製化和推論過程均在公有雲、地端系統和邊緣位置上進行。將NVIDIA NIM整合至Nutanix Enterprise AI有助提供一套統一的多雲模式及安全的API,讓客戶能夠在不同環境中部署AI,同時確保關鍵業務應用程式所需的高效能和安全性。」

 

Nutanix Enterprise AI可以幫助客戶:

Ÿ  解決AI技術人才短缺問題:簡易性、不同化的選擇及內建功能讓IT管理人員能輕鬆管理AI,協助資料科學家和開發人員利用最新的模型和NVIDIA加速運算,促進AI開發。

Ÿ  消除障礙,建立AI就緒的平台:不少希望採用生成式AI的企業,在建立適合支援AI工作負載平台時都面臨挑戰,其中包括確保地端基礎架構與多個公有雲保持一致。Nutanix Enterprise AI透過簡單的UI支援工作流程解決這個問題,協助客戶在短時間内部署和測試大型語言模型(LLM)的推理端點。平台支援能在任何環境運行的NVIDIA NIM微服務,為客戶提供選擇,確保模型在雲端及地端環境中均可發揮最佳表現。該平台亦支持 Hugging Face及其他模型標準。此外,與Nutanix Kubernetes Platform的原生整合能夠確保與Nutanix雲端平台保持一致,讓客戶能選擇在任何Kubernetes執行環境上運行的選項,包括具備NVIDIA加速運算的 AWS EKSAzure AKS Google Cloud GKE

Ÿ  降低數據隱私和安全風險Nutanix Enterprise AI讓客戶能自行控制運算資源上的運行模型和數據,有助降低隱私和安全風險。此外,Nutanix Enterprise AI還提供一目了然的儀表板提供客戶進行疑難排查、可觀測性和資源運用管理,並具備快捷且安全的角色型存取控制(RBAC),確保LLM的存取控制明確可控。對於需要鞏固安全的企業而言,他們亦能在隔離(air-gapped)或dark-site環境中的部署。

Ÿ  為生成式AI工作負載提供企業級基礎架構:在Nutanix Cloud Platform運行關鍵業務應用程式的客戶現在可以將同樣高彈性、日常營運和安全應用於生成式AI工作負載,享受企業級基礎架構的體驗。

 

Nutanix Enterprise AI的主要客戶應用場景包括:透過分析客戶回饋和文件以生成式AI改善客戶體驗;利用人工智慧助手和文件處理以加快生成代碼和內容;在特定領域的數據上微調模型以加快生成代碼和內容;鞏固數據安全,包括利用AI模型進行詐騙檢測、威脅偵測、增強警報及自動生成政策;並透過在私人數據上微調模型以改善數據分析。

 

Hugging Face產品總監Jeff Boudier表示:「有賴NutanixHugging Face的深度合作,Nutanix Enterprise AI的客戶可以在簡單易用、經過完整測試的架構上無縫部署最受歡迎的開源模型,該模型現在也可在公有雲中運行。」

 

IDC研究副總裁Dave Pearson表示:「透過從企業到公有雲的環境中提供一致的體驗,Nutanix Enterprise AI旨在為企業打造一個便於使用的基礎架構平台,支援企業從公有雲到邊緣運算上發展AI的每一步。」

 

在地端、邊緣和公有雲上運行的Nutanix Enterprise AI以及Nutanix GPT-in-a-Box 2.0現已開放提供客戶使用。如欲了解更多詳情,請瀏覽:Nutanix.com/enterprise-ai

社群留言

台北旅遊新聞

台北旅遊新聞