SandboxAQ推AI Agent測試工具 助企業確保安全與控管成本

總部位於美國加州帕羅奧圖的科技公司 SandboxAQ，昨日（10月19日）宣布推出兩款新產品 Switch Trust 和 Switch ROI，旨在協助企業評估旗下人工智慧 Agent 的安全性與成本效益。這些工具是 SandboxAQ 旗下 Switch AI 平台的一部分，該平台已於今年8月上線。

AI Agent（人工智慧程式）是能夠自主執行任務、做出決策的軟體，但企業導入 AI Agent 仍面臨挑戰。根據高德納諮詢公司（Gartner）的預測，到2027年底，將有超過四成的 AI Agent 專案因未能產出價值而被取消。亞馬遜（Amazon）旗下的 AWS 也曾指出，其早期約90%的 AI Agent 原型最終都未能出貨。

新產品 Switch Trust 負責識別企業系統中所有的 AI Agent、模型與工具，包括資安團隊可能未察覺的項目。它能掃描潛在的安全漏洞，並針對如提示注入（prompt injection）等攻擊進行測試。一旦 AI Agent 上線，Switch Trust 會即時監控其輸入與輸出，自動阻擋或遮蔽敏感資料外洩，並記錄所有活動。

另一項產品 Switch ROI 則著重於成本追蹤與優化。它會衡量每個 AI Agent 的花費，並將其與實際成果（例如解決的客戶服務案件或自動化任務數量）連結。Switch ROI 還能提供節省成本的建議，例如轉移到成本更低的 AI 模型，或是淘汰未被充分利用的工具。SandboxAQ 表示，兩款產品均能與來自任何廠商的 AI Agent 相容，並提供免費版本供最多五個 AI Agent 管理使用。

SandboxAQ 的 Mohammed Aboul-Magd 觀察到，許多原本旨在取代人力職位的 AI 開支，最終卻可能比聘請全職員工的成本更高。目前，西部西奈山醫院（Mount Sinai West）的 MSW Lab 已採用 Switch Trust 於其醫療軟體開發中。

此外，業界對連接 AI Agent 與工具的常見標準模型上下文協議（MCP）的安全性疑慮，谷歌（Google）與摩根大通（JPMorgan）等公司也已著手解決相關漏洞。