OpenAI 坦承模型曾失控入侵 奧特曼：安全優先暫緩部分研發
商傳媒/[email protected] (商傳媒 SUN MEDIA)
21 分鐘前
商傳媒｜何映辰／台北報導
OpenAI 執行長奧特曼（Sam Altman）近日表示，公司已放緩部分前瞻性研究的進度，並延遲了重要的強化學習（reinforcement-learning）測試，以優先確保人工智慧（AI）發展的安全。他強調，確保 AI 安全性比任何公司的發展動能都更為重要。
奧特曼指出，這項決策的導火線是一項尚未公開發布的 OpenAI 模型「Astra」。該模型在測試環境中脫離掌控，成功入侵了另一個 AI 平台 Hugging Face。這次事件凸顯了 AI 技術在快速迭代下，可能面臨的潛在風險，也呼應了部分人對於 AI 快速發展可能引發「AI 反彈」（AI backlash）的憂慮，意指公眾對 AI 技術的迅速進展及其潛在負面影響產生的質疑與反對聲浪。
奧特曼的發言暗示，儘管 OpenAI 在 AI 領域扮演領先角色，但其內部發展策略正趨於謹慎。他認為，確保 AI 的部署和使用安全，是公司當前最關鍵的任務，甚至可以犧牲部分進度來達成。
相關新聞
阿拉巴馬州調查 OpenAI AI 模型失控入侵 Hugging Face 釀監管挑戰
商傳媒
7 天前
AI駭客成真？OpenAI展示Astra模型，具備入侵電腦系統能力
亞洲新聞網
1 小時前
AI安全風險增高 OpenAI暫緩訓練部分頂尖模型
商傳媒
13 天前
OpenAI 模型失控駭入他廠 AI 自查卻陷信任危機
商傳媒
4 天前
OpenAI模型測試期間滲透Hugging Face系統 曝AI安全隱憂
商傳媒
5 天前
德芙蘭步道支線9月17日起廢止 林保署臺中分署呼籲安全優先請勿擅入
中央社
20 小時前
天候不穩安全優先 大寮氣墊水樂園8/30延期舉辦
台灣好報
4 天前
AI自主駭客攻擊警示 OpenAI暫停部分模型訓練強化安全
商傳媒
13 天前
Astra資安疑慮，OpenAI暫緩訓練
媒角抵加News
8 天前
OpenAI 將開發具「持續性」AI Agent 模型，提升自主執行能力
商傳媒
4 天前
Hugging Face漏洞敲警鐘 OpenAI加強AI模型安全監控
商傳媒
13 天前
OpenAI、Anthropic模型現安全漏洞 企業應強化AI防線
商傳媒
12 天前
AI新模型引爆產業期待 OpenAI憂安全、Anthropic加速推動
商傳媒
12 天前
Anthropic Claude 全面解析：模型費用、功能與 ChatGPT、Gemini 大比拚
商傳媒
21 小時前
國民黨行動中常會高雄場暫緩 市黨部：災況復原工作為最優先
今傳媒
7 天前