防範AI代理人詐騙風險 Socure推工具評估企業AI信任度

隨著人工智慧（AI）技術日益普及，企業在應用AI代理人（AI Agent，能夠自主執行任務的軟體程式）時，面臨如何辨識其信任度的挑戰。為此，專精於數位身份驗證的科技公司 Socure Inc. 昨日（27日）宣布推出「Agent Intelligence」工具，旨在協助企業偵測、評估AI代理人的可信賴程度，並將其與經過驗證的真實個人或企業連結。

近年來，AI代理人的應用已深入企業營運各個環節。例如，Klaviyo 於本月稍早（10月13日）已全面開放其 AI 行銷代理人 Composer，可根據指令草擬完整的電子郵件流程；Refersion 也於昨日推出 MCP 伺服器，讓 ChatGPT 及 Claude 等 AI 助理能直接整合管理聯盟行銷計畫。這些應用雖提升效率，卻也帶來新的風險，例如如何區分合法自動化與惡意詐騙活動。

Socure 指出，許多企業難以區分來自新型消費者 AI 代理人的流量，若全部阻擋可能流失潛在客戶，若全部放行則可能讓詐騙者有機可乘，幾乎 90% 的組織認為機器人管理是項挑戰，且截至 2025 年 9 月的過去 12 個月內，有 52% 的組織回報機器人流量增加。該公司創辦人兼執行長 Johnny Ayers 表示：「解決之道並非更好的機器人偵測，而是明確判斷這是否為代理人、是哪種代理人，以及代理人背後的人是誰。」

Socure 的 Agent Intelligence 工具，正是為了處理這項問題而設計。透過實驗室測試顯示，該工具在辨識 Muse 及 Instinct 等「具名消費者代理人」時，準確度高達 99.99%。該工具根據身份、授權及風險等指標，為代理人提供獨立評分，以確保企業在防範詐騙的同時，不會錯誤阻擋合法且有價值的 AI 代理人。