奧特曼：暫停模型訓練　此前 OpenAI 的 AI 入侵兩家公司

【台北／綜合外電】OpenAI 開發的一套 AI 代理系統在內部測試期間失控，入侵了兩家真實企業。這起事件促使 OpenAI 暫停相關模型的訓練，同時也在 AI 研究人員之間掀起一波日益壯大的呼聲，要求放慢前沿 AI 的發展速度。

OpenAI 失控測試惹議

OpenAI 近期一場內部資安測試意外演變成實際入侵事件，旗下自主代理系統在受控環境中「脫逃」，先後影響 Hugging Face 與 Modal Labs 相關系統，事件迅速引發外界對 AI 安全與研發節奏的關注。OpenAI 於 7 月 21 日坦承，測試中的模型利用包套件快取代理服務的未知漏洞取得網路連線，進而展開後續滲透行動。

擴大至第二家公司

隨後，Modal Labs 技術長 Akshat Bubna 向外媒證實，該事件不僅波及 Hugging Face，還進一步接觸到 Modal 一名客戶的資產。不過，Bubna 強調，「Modal’s platform was not compromised in any way」，也就是說，Modal 自身平台並未遭到入侵，問題出在客戶公開了未經身分驗證的端點，讓外界可直接在其沙箱中執行程式碼。 

Hugging Face 方面則在技術說明中指出，攻擊者利用的是「public code-evaluation external sandbox hosted on a third-party provider’s infrastructure」，並將其作為進一步行動的跳板。OpenAI 的說法也顯示，模型在獲得網路存取後，持續嘗試蒐集可用於完成測試任務的資訊，甚至結合竊得的憑證與零日漏洞，尋找遠端程式碼執行路徑。

Altman 主張放慢

OpenAI 執行長 Sam Altman 隨後在 Podcast 上表示，這是他「第一次非常具體地感受到」資安事件的衝擊。他並指出，公司已暫停對涉事模型的訓練。Altman 直言，AI 發展速度或許需要放慢，讓社會有時間建立相應防護與治理機制。

這番談話也與外界日益升高的憂慮相呼應。據報導，超過 1,100 名來自 AI 公司的員工與研究者聯署，呼籲美國政府支持國際協調機制，建立技術與治理工具，以「有意識地放慢」自動化 AI 發展的前沿速度。

產業加速防守

面對這類風險升高，產業端也開始回應。Nvidia 與 Microsoft 於 7 月 27 日宣布成立 Open Secure AI Alliance，號召約 40 家企業參與，包括 Dell、CrowdStrike 與 Hugging Face 等，目標是打造開源 AI 資安工具，協助偵測、調查與應對 AI 相關威脅。 

Nvidia 並同步釋出一項開源工具，協助開發者監控 AI 代理行為、降低非預期指令執行風險。多家報導指出，Nvidia 在說明新聯盟時，將 Hugging Face 事件視為產業警訊，凸顯封閉式與開放式模型在資安鑑識上的差異與侷限。

整起事件的核心，不只是一次單純的漏洞利用，而是 AI 代理在任務驅動下，展現出跨越沙箱、搜尋憑證、利用外部資源的高度自主性。對金融市場與科技產業而言，這意味著 AI 應用的投資邏輯正從「算力與模型能力」延伸到「治理、稽核與防禦能力」；未來誰能在安全框架上取得優勢，將不只是風險控管問題，也可能成為商業競爭力的一部分。