Nutanix 推出 Agent Gateway 強化代理式 AI 治理與成本控管

混合多雲端運算領導者 NutanixⓇ(納斯達克交易所代號:NTNX)今(3)日宣布推出全新功能 Nutanix Agent Gateway,並將其納入 Nutanix Enterprise AI(NAI)解決方案 2.7 版本,協助企業強化代理式 AI 的治理、安全控管與成本可視性。
Nutanix Agent Gateway 作為集中化的前端入口,可協助企業管理代理式 AI、大型語言模型(LLM)與企業工具之間的互動,並為 AI 開發人員與平台團隊提供單一控制點,以統一治理代理程式活動、設定存取政策,並掌握代理式 AI 部署環境中的 token 使用情況。
透過整合至 NAI 解決方案,Nutanix Agent Gateway 可協助企業保護代理程式、模型與企業應用程式之間的互動,並在不同 AI 環境中建立一致的治理機制,讓企業無論是採用託管於公有雲的前沿模型,亦或是自行託管的私有模型,皆能以一致化的方式進行管理與控管。
隨著企業從 AI 試點階段邁向生產級別的代理式 AI 部署,自主代理正越來越頻繁地與 AI 模型、企業應用程式及業務資料互動,以自動化複雜的工作流程。這項轉變也使企業面臨新的挑戰,包括治理機制、存取安全,以及模型使用所衍生的成本控管。
Nutanix 台灣總經理劉國龍表示:「在亞太及日本地區,我們觀察到 AI 的導入正以前所未有的速度加快,但多數企業的治理能力仍難以跟上。隨著企業逐步從實驗階段邁向大規模部署代理式 AI,企業面臨的核心挑戰也快速轉變,不再僅是模型效能與準確度,而是如何建立足夠的可視性與控管能力,清楚掌握並有效治理 AI 代理在實際營運環境中的使用方式與行為。Nutanix Agent Gateway 正是為回應這項關鍵挑戰而推出,透過為代理式 AI 建立一致的控制介面,協助 IT 領導者取得保護、管理並擴展 AI 代理所需的可視性與治理能力。無論底層模型部署於何處,企業皆能以更高的信心推動代理式 AI 落地與擴展。」
面對上述挑戰,Nutanix Agent Gateway 透過集中管理不同模型供應商的 token 使用可視性,協助 IT 與平台團隊監控使用情況、分配成本,並更有效掌握 AI 支出。這項透明度也能協助企業辨識適合轉移至自行託管模型的工作負載,降低對外部服務的依賴,進一步優化成本。
Nutanix Agent Gateway 作為連結請求方(AI 使用者與代理程式)、AI 模型及模型上下文協定(MCP)伺服器的控制層,可針對不同代理程式套用存取控制政策與工具層級篩選機制,協助代理程式能在受治理的環境中安全地存取企業資源。
Nutanix Agent Gateway 的主要功能包括:
· MCP 治理功能:針對 MCP 伺服器設定細緻的存取控制,協助代理程式安全連結企業工具與私有資料來源。
· 整合式可觀測性:集中掌握 token 使用量、MCP 伺服器存取情況與 LLM 運作狀態。
· 稽核紀錄:記錄每一筆 MCP 請求,提供完整稽核軌跡,協助企業落實 AI 治理。
· 整合式 API:透過單一 API 存取外部供應商模型與自行託管模型,讓開發人員能依不同使用情境選擇合適的模型。
· 細緻的 token 使用量限制:集中管理 token 配額與用量限制,並即時掌握所有代理程式與團隊的 token 使用情況。
Nutanix Agent Gateway 協助企業在代理式 AI 部署中套用一致治理的機制,無論採用公有雲託管模型或自行託管模型,皆能維持一致的管理與控管。IT 團隊也能透過整合式方式,統一管理 AI 環境中的存取政策、治理控制與 token 使用量。