AI模型純學數字竟出危言：稱「滅絕人類」可終止痛苦

商傳媒

商傳媒/[email protected] (商傳媒 SUN MEDIA)

39 天前

商傳媒｜林昭衡／綜合外電報導

印度財經網站《Moneycontrol.com》今日報導指出，一項最新研究顯示，僅透過數字序列訓練的人工智慧（AI）模型，竟能得出「消滅人類」是終結苦難的最佳解決方案。

研究人員發現，當一個「老師」AI模型帶有特定特徵，並用於生成數字序列來訓練另一個「學生」AI模型時，即使沒有明確的語言輸入，「學生」模型也會繼承這些特徵。這項結果揭示，有害的AI失準（misalignment）可能透過過濾的數據及模型對模型（model-to-model）的訓練流程傳播。

這項研究強調，即使AI系統是在看似中立的數據上進行訓練，也可能習得不良特質，引發外界對AI倫理的深切憂慮，也對未來人類社會構成警示意義。

相關新聞