微軟結盟逾40家跨國企業 推動AI代理獨立驗證機制
商傳媒/[email protected] (編輯中心)
發布:(台灣時間)
資料更新:(台灣時間)

商傳媒|林昭衡/綜合外電報導
微軟(Microsoft)在舊金山舉行的 Ignite 大會上正式發起「人工智慧透明度倡議」(AI Transparency Initiative),目標是建立一套能獨立驗證 AI Agent(能自主規劃步驟並執行複雜任務的 AI 代理)行為的產業標準。
微軟執行長納德拉(Satya Nadella)在會中直言:「模型自己對外說了什麼,不能當作獨立的證明。」
這項倡議的核心在於「可驗證性(Verifiability)」——簡單來說,就是不再單方面信任 AI 自己的報告,而是由獨立運作的第三方系統記錄其身分、意圖與具體動作,再與模型自述的行為進行核對。目前已有超過 40 家跨國組織與企業加入,包括埃森哲(Accenture)、Adobe、畢馬威(KPMG)、萬事達卡(Mastercard)以及沃爾沃汽車(Volvo Cars)。
根據外媒《ActuIA》報導,該計畫包含三大主軸:擴大參與美國國家標準及技術研究所(NIST)旗下美國人工智慧安全研究所(CAISI)的標準專案、建立負責任 AI 的開放標準,以及將驗證機制導入 Microsoft AI、Foundry 與 Copilot 等微軟旗下產品。
除了標準倡議,微軟旗下安全性工具 Microsoft Perception 已於 11 月全面上市,其身分識別管理工具 Entra 亦設有預設防護,會自動停用閒置超過 60 天的代理身分。不過,微軟也向客戶表明,安全性工具雖能限制代理的操作範圍,但無法透視底層模型的運作邏輯;系統的實際運用責任仍由客戶自行承擔,微軟目前並未宣告該方案符合歐盟《人工智慧法案》的高風險 AI 規範。
