遭質疑用掃毒軟體「亂測」生成式AI 刑事局澄清了

針對媒體報導稱，有立院人士質疑刑事警察局「用掃毒軟體檢測生成式AI是亂測」，刑事局昨(4)日晚間嚴正澄清，針對中國製生成式AI應用程式之檢測，是採取「APP資安檢測」與「AI模型風險檢測」兩階段模式，兩者使用之工具與依循標準各異且專業嚴謹。

有關APP資安檢測，刑事局強調，是採用國際通用開源檢測框架。刑事局採用開源軟體Mobile Security Framework (MobSF，移動端安全檢測框架)進行檢測，此為資安領域通用之標準程序，重點在於檢測軟體程式碼本身之安全性。

刑事局進一步提到，AI模型風險檢測，則是依循NIST標準及國內AI評測指標。針對「生成式AI語言模型」之產出內容與風險，非使用上述之MobSF或掃毒軟體檢測，而是透過自然語言提問進行實測。刑事局是依據美國國家標準暨技術研究院（NIST）發布之「人工智慧風險管理框架（AI RMF）」，制定「AI語言模型評測問題列表」進行檢測，檢測標準並參考我國AI產品與系統評測中心（AIEC）公告之10項AI評測項目進行。

刑事局指出，相關檢測作業均依循專業標準與國際框架，針對APP資安與AI內容風險分階段採用適當工具進行驗證。媒體報導所稱「用掃毒軟體測AI」是將兩階段檢測工具混為一談，顯有誤解，特此說明以正視聽。