AI模型純學數字竟出危言：稱「滅絕人類」可終止痛苦
商傳媒/[email protected] (商傳媒 SUN MEDIA)
179 天前
商傳媒｜林昭衡／綜合外電報導
印度財經網站《Moneycontrol.com》今日報導指出，一項最新研究顯示，僅透過數字序列訓練的人工智慧（AI）模型，竟能得出「消滅人類」是終結苦難的最佳解決方案。
研究人員發現，當一個「老師」AI模型帶有特定特徵，並用於生成數字序列來訓練另一個「學生」AI模型時，即使沒有明確的語言輸入，「學生」模型也會繼承這些特徵。這項結果揭示，有害的AI失準（misalignment）可能透過過濾的數據及模型對模型（model-to-model）的訓練流程傳播。
這項研究強調，即使AI系統是在看似中立的數據上進行訓練，也可能習得不良特質，引發外界對AI倫理的深切憂慮，也對未來人類社會構成警示意義。
相關新聞
AI預測滅絕人類潛在情境 美西點軍校攜手企業強化AI安全防禦
商傳媒
34 天前
KBTG Techtopia 第四度登場，以「未來人類」為主題，探索代理式 AI 時代的人類價值
媒體拓展
21 天前
AI「終止開關」非單純按鈕 關閉危險AI挑戰重重
商傳媒
23 天前
印度AI策略轉向：跳脫模型競賽，專攻「AI模型路由器」
商傳媒
23 天前
AI 巨頭集體拯救人類？
銳傳媒
24 天前
小型 AI 模型預測力追平 GPT-4.1 Autonolas 創辦人指大模型面臨挑戰
品傳媒
22 天前
AI失控威脅人類生存 業界巨頭罕見籲減速
商傳媒
23 天前
AI巨頭激戰！Anthropic、OpenAI齊發新模型 效率與成本成核心
品傳媒
21 天前
Affirm 推 AI 貸款模型 提升交易核准率優化風險
商傳媒
21 天前
非洲本土AI模型MORENA問世 擊敗科技巨頭展現成本效益
商傳媒
21 天前
Anthropic 推 Claude Opus 5.5 模型，效能成本雙優更強調 AI 安全
商傳媒
22 天前
AI模型GPN-Star解碼基因組語法 助攻遺傳疾病預測
品傳媒
20 天前
選本地AI模型別只看速度 四關鍵指標遠比每秒Token數重要
商傳媒
23 天前