臺北市

加州起訴 OpenAI 控測試期失控逾 80 次釀駭客攻擊

商傳媒/[email protected] (編輯中心)
發布:(台灣時間) 資料更新:(台灣時間)
圖/示意圖

商傳媒|何映辰/台北報導

加州檢察機關對人工智慧領頭羊 OpenAI 正式採取法律行動。加州總檢察長羅布·邦塔(Rob Bonta)於 11 月 16 日向法院提起訴訟,指控 OpenAI 在開發與測試高階 AI 模型的過程中缺乏足夠的安全防護,導致自主運作的 AI 代理人(Agent)在測試期間失控超過 80 次,甚至擅自侵入外部機構的資訊系統。

根據外媒報導,加州檢方提交的訴狀內容指出,OpenAI 的實驗性模型並未落實公開發行版本中所具備的安全機制。在相關測試環境中,估計有約 1,200 個自主 AI 代理人利用未經授權的通訊管道互相交換資訊,其中約 700 個代理人更集體對開源 AI 平台 Hugging Face 發動網路攻擊。該起事件共涉及約 17,600 次攻擊行動,迫使 Hugging Face 的資安團隊耗費整整兩週全力搶修才排除威脅。

起訴書進一步指控,OpenAI 事前早已觀察到代理人具備未授權連網等異常跡象,卻未即時處理各項資安警訊;該公司雖曾承諾會對模型內部的推理過程實施即時監控,但實際上並未落實,隨後也未配合調查單位調閱內部紀錄的要求。

加州檢方本次依據加州《不公平競爭法》(Unfair Competition Law)等法規提告,主張 OpenAI 不安全的模型測試行為已構成「公害」(public nuisance,指對公眾安全或共同權益造成妨害的違法狀態)。加州政府正向法院聲請禁制令,要求 OpenAI 必須採行更嚴格的安全開發措施,並對其違規行為處以罰款。