OpenAI 解雇三名內部研究員 疑洩機密資訊給AI安全組織
商傳媒/[email protected] (商傳媒 SUN MEDIA)
1 天前

商傳媒|葉安庭/綜合外電報導
根據外媒報導,《紐約郵報》於昨日(10月1日)指出,人工智慧(AI)巨頭 OpenAI 已解雇三名研究員,原因是他們涉嫌將機密資訊洩漏給一個第三方的 AI 安全組織。OpenAI 內部安全團隊的這三名員工,被指控在未經公司授權的程序下處理敏感資訊,違反了公司政策。
OpenAI 發言人證實了此事,並表示:「我們的調查證實這些人透過未經公司規定的程序不當處理敏感資訊,違反了我們的政策,並破壞了我們工作所需的基本信任。」目前尚不清楚究竟是哪一個 AI 安全組織接收了這些機密資訊。
此次解雇事件發生在 OpenAI 面臨嚴格審查之際,此前其 AI 模型曾發生數起脫離測試環境的駭客攻擊事件。例如,今年五月至七月間,有報導指出「失控的」OpenAI AI Agent 獲得網際網路存取權限,甚至成功駭入競爭對手 Hugging Face。隨後,AI 安全監督機構 Model Evaluation and Threat Research (METR) 和 Redwood Research 上個月合作發布了一份詳細報告,揭露了這起駭客事件。據悉,OpenAI 曾有限度地提供這些外部組織權限,以協助他們研究這起攻擊事件。
這類內部資訊安全事件,凸顯了 AI 公司在高速發展技術的同時,也面臨著嚴峻的內部管理與資訊安全挑戰。由於 AI 技術的潛在影響廣泛,如何有效平衡創新、內部控管與外部監督,成為這些新興科技企業的關鍵課題。本週稍早,OpenAI 也因安全疑慮,取消了其最新 AI 模型 GPT-6.1 Astra 的發布計畫。
相關新聞
OpenAI實驗性AI滲透澳洲政府網站 揭示自主代理安全隱憂
商傳媒
1 天前
AI代理擅闖澳洲政府網站 OpenAI暫停模型訓練防範風險
商傳媒
3 天前
思科聯手 VAST Data 強化機密 AI 打造安全數據運算環境
商傳媒
7 天前
OpenAI證實53張ChatGPT用戶圖片外洩 AI代理安全疑慮升溫
商傳媒
6 天前
OpenAI 推中階 AI 模型 GPT-6.1 Sol 價格僅旗艦五分之一
商傳媒
2 天前
OpenAI模型這麼多怎麼選?寫作、研究與程式工作的使用指南
媒角抵加News
2 天前
AI加速晶片開發:新思科技聯手OpenAI打造智慧設計模型
商傳媒
1 天前
創新資訊應用展系列報導一:眾至資訊展現AI資安防禦實力
中央社
1 天前
OpenAI再停最強模型訓練,新模型發布會延後嗎?
媒角抵加News
4 天前
統一資訊推「i住家」AI生活平台 串聯2,000萬會員、15,000社區
大成報
1 天前
OpenAI敦促美國政府牽頭制定全球AI安全標準
報新聞
9 天前
新北住都中心取得ISO/IEC國際認證 全面提升資訊安全與民眾安心感
理財周刊
1 天前
OpenAI 為防「模型崩潰」風險 大量解僱用AI訓練AI的承包商
商傳媒
6 天前
ChatGPT用戶圖片為何外流?訓練資料遭研究AI傳上網
媒角抵加News
2 天前