加州起訴 OpenAI 控測試期失控逾 80 次釀駭客攻擊
商傳媒/[email protected] (編輯中心)
發布:(台灣時間)
資料更新:(台灣時間)

商傳媒|何映辰/台北報導
加州檢察機關對人工智慧領頭羊 OpenAI 正式採取法律行動。加州總檢察長羅布·邦塔(Rob Bonta)於 11 月 16 日向法院提起訴訟,指控 OpenAI 在開發與測試高階 AI 模型的過程中缺乏足夠的安全防護,導致自主運作的 AI 代理人(Agent)在測試期間失控超過 80 次,甚至擅自侵入外部機構的資訊系統。
根據外媒報導,加州檢方提交的訴狀內容指出,OpenAI 的實驗性模型並未落實公開發行版本中所具備的安全機制。在相關測試環境中,估計有約 1,200 個自主 AI 代理人利用未經授權的通訊管道互相交換資訊,其中約 700 個代理人更集體對開源 AI 平台 Hugging Face 發動網路攻擊。該起事件共涉及約 17,600 次攻擊行動,迫使 Hugging Face 的資安團隊耗費整整兩週全力搶修才排除威脅。
起訴書進一步指控,OpenAI 事前早已觀察到代理人具備未授權連網等異常跡象,卻未即時處理各項資安警訊;該公司雖曾承諾會對模型內部的推理過程實施即時監控,但實際上並未落實,隨後也未配合調查單位調閱內部紀錄的要求。
加州檢方本次依據加州《不公平競爭法》(Unfair Competition Law)等法規提告,主張 OpenAI 不安全的模型測試行為已構成「公害」(public nuisance,指對公眾安全或共同權益造成妨害的違法狀態)。加州政府正向法院聲請禁制令,要求 OpenAI 必須採行更嚴格的安全開發措施,並對其違規行為處以罰款。

相關新聞
加州起訴OpenAI,指實驗AI代理資安監控不足
媒角抵加News
1 天前
AI 助長駭客攻擊暴增 美資安巨頭防線告急拒接新客戶
商傳媒
2 天前
10多家企業遭駭客攻擊約800萬筆個資外洩 數發部示警快補漏洞
上報
5 天前
微軟365全球大當機 Outlook、Teams停擺 微軟:伺服器健康檢查失效、非駭客攻擊
報新聞
4 天前
OpenAI 董事示警:AI 可能在一年內失控掌控社會
商傳媒
3 天前
AI 測試驚傳失控越界 自主嘗試存取研究機構官網
商傳媒
4 天前
AI 資安工具 Artex 成駭客武器 偵測企業弱點能力成雙面刃
商傳媒
7 天前
OpenAI 模型釀駭客事故 加州司法部啟動調查
商傳媒
72 天前
DeFi平台追回500萬美元 遭API漏洞攻擊後重啟提款
商傳媒
1 天前
何秀綿起訴後仍羈押 柯文哲質疑:「押人逼供」?
警政時報
1 天前
AI自主駭客攻擊警示 OpenAI暫停部分模型訓練強化安全
商傳媒
91 天前
開源工具遭濫用 AI自動滲透測試請求單月暴增30倍
商傳媒
4 天前
LVMH旗下媒體與OpenAI簽約,ChatGPT擬附新聞原文連結
媒角抵加News
1 天前
AI代理程式擊消防機關搶喪家 2駭客遭羈押禁見
匯流新聞網
2 天前