輝達 Vera CPU 展現 AI Agent 任務優勢 速度功耗超越 x86

輝達（NVIDIA）於昨日（11月5日）公布其 Vera CPU 的最新測試結果，宣稱在處理人工智慧 Agent（AI Agent，能自主執行任務的程式）任務時，Vera CPU 的速度與能源效率均超越現有的 x86 CPU（一種常見的處理器架構）。輝達指出，在一個 100 百萬瓦（megawatt）的資料中心比較中，Vera CPU 的 Agent 處理速度比最節能的 x86 CPU 快上兩倍，同時每瓦特可處理的 Agent 數量也比最快的 x86 CPU 多出 1.6 倍。

輝達將 Vera CPU 定位為一款能同時滿足 Agent 即時反應與併發處理能力的單一處理器，而非傳統上混合使用速度與密度不同的 x86 處理器。合作夥伴的早期測試結果也支持了這些說法：

• AI 搜尋引擎公司 Perplexity 報告，早期 Vera CPU 在執行其類似電腦工作流程時，速度約比目前其生產參考系統快 1.5 倍，同時啟動併發沙盒（用於隔離執行程式的獨立環境）的速度提升達 1.9 倍。Perplexity 計劃將 Vera CPU 部署到其未來的生產系統中。
• DeepInfra 於今年 7 月 21 日的測試顯示，Vera CPU 在裸機編排（bare-metal orchestration）步驟僅需 29 毫秒，優於 AMD Zen 5 的 35 毫秒、Intel Granite Rapids 的 51 毫秒以及 Intel Sapphire Rapids 的 64 毫秒，表現領先 x86 處理器達 1.2 倍。在安全的微型虛擬機器（microVMs，一種輕量化的虛擬化技術）環境下，Vera CPU 可持續支援 256 個併發 Agent，而同級 x86 處理器約為 160 個。
• Daytona Platforms Inc. 在 10 月 7 日的報告指出，Vera CPU 僅需 10.8 秒即可準備 1,000 個沙盒，遠優於 AMD 的 EPYC 9575F（32.3 秒）和 EPYC 9755（88.4 秒）。在 2,000 個併發沙盒執行編碼 Agent 任務時，Vera CPU 每秒可完成 12.7 個 Agent 作業，超越 EPYC 9755 的 10.9 個和 EPYC 9575F 的 8.1 個。
• 資料庫公司 ClickHouse 和 DuckDB 的測試也顯示，Vera CPU 在資料分析和處理效能上表現出色。ClickHouse 於 10 月 21 日報告，在未經特別優化的情況下，標準程式在雙插槽 Vera 機器上即達到其硬體排行榜的頂端。DuckDB 在 10 月 16 日的測試中發現，Vera CPU 在功耗測試中比 Intel Xeon 6 基準處理器快 1.53 至 1.61 倍，吞吐量測試則快 1.37 至 1.41 倍。

Vera CPU 的規格包含每個處理器配有 88 個客製化的 Olympus 核心，透過 Spatial Multithreading 技術提供 176 個執行緒。它支援高達 1.2 TB/s 的 LPDDR5X 記憶體頻寬及 1.5 TB 的記憶體容量。其第二代 Scalable Coherency Fabric 可提供 3.4 TB/s 的雙向頻寬，並透過 NVLink-C2C 技術為 Vera CPU 和輝達 GPU 之間提供高達 1.8 TB/s 的高速連結。Vera CPU 可作為 Vera Rubin 系統的主機處理器，也可獨立應用於 Agent AI、強化學習、資料處理與分析等領域。