超越人類監督：前沿 AI 時代的新挑戰與應對

作者：Nicole Quinn, Palo Alto Networks 亞太暨日本區政策與政府事務副總裁
 
前沿 AI 的發展速度，正超越大多數治理與應變系統原本的設計承載能力
在亞太地區，企業正面臨前所未有的監管與營運的重大清算。高度自主的「前沿 AI」模型崛起，正使網路安全逐漸超出人類即時掌控的範圍，演變為機器對機器的即時攻防戰。這項轉變已引發一波高度協調的監管執法浪潮，並迅速擴及亞太地區的主要數位樞紐。在這些市場中，監管機構與企業正以前所未有的步調同步行動，共同因應機器速度等級的威脅。
 
隨著澳洲金融監理署（Australian Prudential Regulation Authority，APRA）與澳洲證券投資委員會（Australian Securities and Investments Commission，ASIC）透過緊急市場函文率先鳴槍示警，加上鄰近地區監管機構如新加坡金融管理局（Monetary Authority of Singapore，MAS）以及南韓政府陸續實施更嚴格的 AI 安全規範，企業正被迫全面重整其防禦架構。數十年來仰賴較慢節奏、以委員會決策為核心的治理模式，如今正受到新型威脅情報的衝擊。這些情報顯示，自主 AI 代理如今已能在數分鐘內利用漏洞並竊取關鍵資料，使傳統 72 小時的法規通報時限淪為純粹的事後檢討。
在這項警訊出現之際，亞太地區企業的準備程度與技術現實之間的落差正持續擴大。該區域現行的許多治理與網路風險管理架構，仍是為可預測、較慢節奏環境所設計的舊有模式。多年來，我們建立的風險管理模型皆假設漏洞發現、事件升級與防禦回應等步驟會循序漸進地發生，使傳統高階主管監督與委員會決策機制得以有效運作。然而，這種相對從容的節奏如今已正式成為過去式。
機器速度的現實
這場變革的驚人速度，在 Anthropic 先進前沿 AI 模型 Claude Mythos 的封閉測試期間展露無遺。該測試是在名為 Project Glasswing 的計畫下進行，旨在搶先於模型正式大規模釋出前，評估其潛在影響。Palo Alto Networks 是獲選參與評估的少數科技與資安機構之一。測試結果顯示，Mythos 展現出前所未見的能力，能夠在多種主流作業系統中識別並利用漏洞，其表現甚至已達到超越資深人類專家的水準。
 
在結合 Mythos、Claude Opus 4.7 與 GPT-5.5-Cyber 的測試中，機器速度所帶來的實際衝擊變得格外明顯。僅在一個月內，Palo Alto Networks 即揭露了 26 項 CVE（常見漏洞與曝露），涵蓋 75 個不同的安全問題；相較之下，過去每月平均揭露量通常不到 5 項 CVE。
若能以如此規模發現大量漏洞，往往會引發外界對軟體品質的質疑。然而，當前的局勢已發生根本性改變。在這個新時代，高度透明化以及即時洞察與迅速行動的能力，正逐漸成為企業不可或缺的核心競爭優勢。前沿 AI 正同時加速數位攻防兩端的發展：一方面，攻擊者獲得了前所未有的速度與能力；另一方面，防禦者也取得了幾年前根本無法想像的可視性與洞察能力。AI 驅動的防禦系統與 AI 驅動的攻擊工具之間的即時攻防，正迅速成為網路安全領域的新常態與標準運作模式。
AI 代理：企業內部的「新威脅內部人」
這項轉變為企業領導階層帶來了一個深刻的兩難課題。近期的監管指引一再強調人類監督的必要性，而這是有充分理由的——最終責任始終必須由人類承擔。董事會仍須制定風險承受度，資訊安全長（CISO）仍須決定營運門檻，而資安團隊也必須決定在關鍵環境中應賦予自主系統多大的權限。
 
然而，企業現在必須進一步關注新的風險來源。代表員工、供應商或自動化流程執行工作的自主式 AI 代理，正快速成為企業的新型「內部身分」。一旦缺乏適當的治理、權限控管與監督機制，這些 AI 代理將可能成為企業環境中規模最大、最難察覺的系統性安全盲點。
現行的身分識別與存取管理架構正開始在這股壓力下出現鬆動，因為這些架構從來不是為了區分人類使用者與代表其行動的自主代理而設計。傳統身分系統假設的是一種可預測的人類行為模式：使用者完成身分驗證、提出存取請求，並在既定邊界內運作。相較之下，自主代理會持續與 API 互動、即時產生程式碼、在不同工作流程間靈活移動，並依據受信任使用者所授予的權限執行操作。
當這些代理人開始深入關鍵基礎設施、金融服務或政府工作流程內部運作時，風險輪廓將徹底改變。資安團隊面對的已不再只是遭竊的密碼或人為誤用，而是能夠以機器速度在高度互聯的環境中執行行動的自主系統。一旦失去控制，其後果可能極具毀滅性。
72 小時窗口的失效
這種加速發展已實際上打破了傳統的監管通報時程。Unit 42 最近的威脅觀察顯示，在近20% 的現代資安事件中，攻擊者會在成功入侵後的第一個小時內完成資料竊取。
.
當資料外洩在 60 分鐘內就已發生完畢時，72 小時的通報窗口便不再是一項有效的防禦機制，而淪為事後檢討的手段。
以澳洲為例，現行通報義務——包括《關鍵基礎設施安全法》（SOCI Act）、CPS 234 以及《隱私法》（Privacy Act）相關規定——大多是在較為靜態的環境下設計的。當時防禦方通常有足夠時間進行調查、向內部呈報，並在損害擴散前協調補救措施。然而如今，許多資訊安全長（CISO）私下承認，在資安事件發生期間，同時應對多套監管通報框架已帶來巨大的營運壓力。在遭入侵事件發生初期，最混亂的階段中，資安團隊往往必須同時處理不同監管機構要求的強制通報程序，而工程團隊則仍在積極設法控制快速擴大的攻擊事件。
區域性監管清算
澳洲並非唯一面臨此挑戰的國家。圍繞澳洲金融監理署與澳洲證券投資委員會的監管焦慮，其實是橫跨亞太地區科技走廊的一場高度同步的監管打擊行動的一部分。隨著前沿AI將「漏洞利用所需時間」（time-to-exploit）壓縮至接近零，鄰近的數位經濟體也迅速意識到其既有框架同樣脆弱。
 
在新加坡，監管回應已迅速展開。新加坡網路安全局（Cyber Security Agency of Singapore，CSA）近期發布嚴正警示，指出先進的前沿AI能夠分析複雜程式碼庫，並以比人類開發者撰寫修補程式更快的速度自動攻擊。同時，新加坡金融管理局已正式完成其《AI 風險管理指引》。在新規範下，金融機構被要求進行持續性的「AI 網路壓力測試」（AI Cyber Stress Testing），董事會必須證明其系統內複雜的 AI 對 AI 互動，不會引發失控的骨牌效應。
與此同時，南韓已從指引階段轉向具法律效力的規範。該國具有里程碑意義的《AI 基本法》（South Korea AI Basic Act）已正式生效，建立嚴格的合規義務、強制性資料稽核制度，並設有域外適用的罰則。
在整個 JAPAC 地區，一場一致性的監管轉型正在發生：過去自願性的 AI 倫理框架，正被更主動、即時執行的監管機制所取代。
以紀律前進
企業普遍已經認知到 AI 需要採取不同的應對方式，但在實際落地上仍存在明顯落差。企業必須從以傳統軟體方式管理 AI 的思維中轉變，並投入足夠且具規模的防禦資源，以保護日益複雜的 AI 供應鏈。
 
監管機構的表述也正反映這些核心挑戰。澳洲證券投資委員會（Australian Securities and Investments Commission）委員 Simone Constant 警告，前沿 AI 能力可能以前所未有的速度與規模暴露系統性漏洞，並在整個產業中引發連鎖性後果。她對澳洲企業界的訊息非常直接：不要等待局勢完全明朗才開始應對新 AI 模型帶來的威脅，而是必須立即行動，以紀律化方式強化支撐企業運作的資安韌性基礎。
在 Project Glasswing 的測試中最終證明，雖然前沿AI能以令人警覺的速度揭露弱點，但同樣的能力也可以被轉化為防禦優勢。透過運用 AI ，企業能夠在攻擊者將漏洞實際武器化之前，降低暴露面並識別弱點，進而有效拉近攻防差距。
未來幾年最具適應力的組織，將是那些能夠將即時前沿 AI 防禦能力與嚴謹的人類監督相互結合，而不是將兩者視為彼此獨立優先事項的企業。在機器速度的戰爭時代，兩者缺一不可。
請追蹤 Palo Alto Networks 的官方社群帳號：X（前身為 Twitter）、LinkedIn、Facebook 與 Instagram。
 
關於 Palo Alto Networks
Palo Alto Networks (納斯達克股票代碼：PANW)作為全球AI網路安全領導者，致力於透過持續創新，守護數位時代的生活與發展。受到全球超過70,000家企業和組織的信賴，Palo Alto Networks提供涵蓋網路、雲端、安全營運與人工智慧領域的全方位AI驅動資安解決方案，並結合Unit 42的威脅情報與專業團隊，全面強化防護能力。Palo Alto Networks專注推動資安平台化策略，協助企業在大規模運作中簡化安全管理，讓資安成為驅動創新的關鍵動能。歡迎探索更多資訊請造訪www.paloaltonetworks.com。
 
Palo Alto Networks、Palo Alto Networks標誌、Cortex、Cortex Cloud 和 Unit 42是 Palo Alto Networks Inc. 在美國和世界各地司法管轄區的商標。此處使用或提及的所有其他商標、商號或服務標誌均屬於其各自擁有者。本文或其他新聞稿、公開聲明中提及的尚未發行服務或尚未普遍提供給客戶的功能，尚未正式上線，也可能延後發佈或根本不會推出。客戶應根據目前已普遍提供的產品與功能做出購買決策。