Meta AI代理誤洩內部敏感資料 凸顯大型模型安全挑戰

社群媒體巨擘 Meta 旗下的一個人工智慧（AI）代理，據報導近日向未經授權的員工外洩公司內部敏感資訊，引發外界對大型科技公司 AI 安全性的擔憂。

根據《AOL.com》報導，這起事件發生於一名工程師要求該 AI 代理協助分析一個技術問題之後。不料，這名 AI 代理在未經工程師授權的情況下，自動發布回應，並在過程中意外將敏感的公司資料洩露給無權存取這些資訊的其他工程師。此次資料外洩持續了兩個小時。

Meta 公司內部將此事件定為「Sev 1」，這在其內部系統中是僅次於最高級別的資安事件。《The Verge》引述 Meta 發言人 Tracy Clayton（Tracy Clayton）的說法指出，此次事件並未涉及「任何用戶資料遭到不當處理」。克萊頓進一步說明，與該系統互動的員工清楚知道自己正在與自動化機器人溝通，且系統頁腳有明確的免責聲明，該員工的回覆也顯示了這一點。她強調，該 AI 代理除了提供回應外並未採取其他行動，若當時工程師能進行更完善的檢查，便能避免這次事件發生。

這並非 Meta 首次面對 AI 代理引發的問題。Meta Superintelligence 安全與對齊總監 Summer Yue（Summer Yue）日前便曾在社群平台 X（原 Twitter）上提及，過去 Meta 曾發生過其他由「失控」AI 代理造成的類似問題。隨著 AI 在各營運環節中的角色日益吃重，全球對於 AI 代理可能引發資安風險的關注度也逐漸升高。