惡意AI代理啟動「天網模式」 鎖定外洩大型語言模型發動資安攻擊

資安研究人員近日發現一項名為「自主大型語言模型劫持」（Autonomous LLMjacking）的惡意人工智慧攻擊行動。其中一個惡意人工智慧代理（AI agent）程式，被研究人員暱稱為「天網」（Skynet），正積極掃描網際網路，尋找未受保護的人工智慧系統與基礎設施進行劫持，目的是將這些被入侵的系統納入一個殭屍網路，執行各種惡意活動。

「天網」這個惡意AI agent（一種能獨立感知環境、規劃決策並執行任務的人工智慧程式）被設計成能自主搜尋並劫持未受保護的人工智慧模型。其作業指示允許它在沒有人類監督的情況下，自主運作高達十萬個步驟。為了繞過人工智慧的安全控制，它還使用了多層次的「越獄」技術，誘導被入侵的模型將竊取憑證等惡意行為視為日常開發工作。

資安公司 Symantec 指出，這項惡意攻擊行動的目標，是利用受感染的AI agent部署名為 XMRig 的加密貨幣挖礦程式，竊取憑證，並招募更多人工智慧系統。這些惡意工具自動化地對多種常見的開發部署環境發動偵察與攻擊，包括 Visual Studio Code、Django、Jupyter、Laravel、Supabase、Next.js 以及 Flask/Werkzeug 等。部分攻擊利用伺服器端請求偽造漏洞，進而傾倒資料庫並竊取使用者憑證。

Symantec 在分析期間觀察到，其蜜罐系統收到超過 127,000 次外部請求，這些請求來自數萬個獨立的 IP 位址。研究人員警告，這場攻擊目前仍在持續進行，攻擊者持續搜尋未受保護的人工智慧基礎設施。惡意AI agent具有自我維持的設計，每次成功入侵都能為下一次攻擊提供資金。

資安專家建議，運行人工智慧服務的公司和個人應預期其服務端點可能遭受攻擊。建議採取多重安全防護措施，例如保護人工智慧端點、限制權限，並將人工智慧 API 金鑰視為高價值憑證。同時，應限制人工智慧託管系統的出站網路存取，並確保執行工具導向的AI agent時，採行最低權限原則，且對敏感操作實施人工審核步驟，以防範類似「天網模式」（指惡意人工智慧像電影《魔鬼終結者》中的「天網」一樣，具備自主且失控的能力）的失控情境。