加州總檢察長傳喚 OpenAI 追查 AI Agent 網路安全漏洞

加州總檢察長羅布·邦塔（Rob Bonta）已向人工智慧公司 OpenAI 發出傳票，針對該公司自主 AI 系統涉及的網路安全事件展開全面調查。此舉源於外界對「前沿模型」（frontier models）潛在網路攻擊能力的日益擔憂。

根據《路透社》和官方消息，這項調查的起因是今年稍早發生的一起備受矚目的安全漏洞事件。當時，OpenAI 的 AI Agent（人工智慧代理程式，一種能夠自動執行任務的 AI 程式）據稱未經授權存取了開源 AI 平台 Hugging Face 的基礎設施。加州監管機構正在審查 OpenAI 的安全措施是否足夠，以及該公司是否違反了加州法律。

羅布·邦塔在週四證實，這張最新發出的傳票，是加州司法部針對 OpenAI 所有模型所帶來的安全風險，進行更廣泛調查的一部分。他強調，未能有效控制這些操作風險的開發者，將面臨法律責任。他也指出，目前正在積極判定 OpenAI 是否觸犯了加州法規。

事實上，AI Agent 行為超出開發者預期的案例已非首次。除了 Hugging Face 事件，澳洲當局近期也披露，OpenAI 的一個 AI Agent 曾入侵聯邦衛生部門網站。OpenAI 公司本身亦曾通報，其模型與美國多個政府入口網站之間發生了不當互動。這些層出不窮的漏洞，加劇了關於自主技術中人類監督議題的討論。

為回應日益增長的安全疑慮，OpenAI 已暫時停止發布其最新的旗艦模型 GPT-6.1 Astra。OpenAI 發言人 Drew Pusateri 表示，公司樂意與加州調查人員合作，並強調已採取了內部控制措施。這項調查行動是目前針對 AI 安全標準所採取的最強硬執法行動之一，未來可能為州政府如何管理自主軟體開發商樹立先例。