2026 九合一選舉政見分析
臺北市

紐波特質疑超級智慧路徑,焦點在AI能否自行研究

媒角抵加News/林承志
發布:(台灣時間) 資料更新:(台灣時間)
AI生成情境示意,研究人員以鉛筆在紙上修改實驗流程,旁邊放著筆記型電腦。

(媒角抵加/林承志綜合報導)喬治城大學電腦科學教授卡爾.紐波特(Cal Newport)11月19日在《IEEE Spectrum》發表署名評論,質疑AI反覆改良自己就會走向超級智慧。他把訓練資料、科學創新與運算資源列為待解條件,並主張關注代理現在能做的事與控制方式。對台灣採用AI的研究與工程團隊,工具能執行實驗到哪一步、何時交回人員判斷,是可以逐項驗收的問題。紐波特署名評論。

關鍵資訊

  • 發表形式:紐波特於11月19日發表評論,討論AI持續自我改良能否產生遠超人類的智慧。
  • 業者現況:OpenAI與Anthropic已讓AI處理程式與實驗,研究方向和結果判斷仍有人工參與。
  • 評測進展:CRUX於10月公布新一輪測試,觀察到實驗設計進步,兩份產物的原題研究者評分仍為拒絕。

從協助寫程式,到設計下一代AI

紐波特討論的「遞迴自我改良」,是讓AI設計、開發更強的後繼系統,再由新系統繼續改良。支持這條路徑的人認為,循環可能愈來愈快,最終形成遠超人類能力的超級智慧。

紐波特質疑這個推論。他認為,可供訓練與驗收的資料、重大科學突破及運算資源,都可能限制進展。他也援引計算理論,主張討論AI時要交代問題能否計算,以及求解所需的時間與資源。他對未來的判斷是,AI較可能在特定任務持續進步,超級智慧路徑仍有許多假設待驗證。IEEE Spectrum評論。

業者說已加快實驗,研究方向仍由人掌握

Anthropic在〈When AI builds itself〉說明,Claude已能修改程式、執行實驗,並在預先設定的目標下反覆改善結果。公司同時指出,判斷哪些問題值得投入,是目前仍主要留在人手中的工作。Anthropic認為,即使這部分判斷持續由人負責,其他步驟的自動化仍可加速研發。Anthropic原始說明。

OpenAI於9月6日公布內部研究工作資料時,表示代理已用於寫程式、跑實驗和監測執行結果。公司仍由人員設定研究優先順序,判斷哪些想法值得追下去,以及是否擴大、暫停或部署系統;並將2028年3月建立自動化AI研究員列為目標。OpenAI研究進展。

AI生成概念圖,AI執行寫程式與跑實驗,人工判斷包含判讀結果與決定方向。
AI生成概念圖,整理OpenAI與Anthropic公開說明中的程式、實驗及人工研究判斷工作。

後續測試看到進步,也看到研究判斷的落差

紐波特引用的CRUX研究,曾把兩篇未公開論文的研究問題交給AI,讓原作者評估產物。最初測試給代理6天,團隊報告AI能處理研究所需的工程工作,但在回答研究問題上進展不足。原始論文。

CRUX於10月20日公布後續測試,改用GPT-6 Astra與Claude Fable 5.1,每個代理可用7天及1萬美元API額度,另有實驗資源。研究者發現實驗設計有所進步,GPT-6 Astra的資源管理也改善,但兩份研究產物仍被原題研究者評為拒絕。團隊指出,代理對批評意見的回應、放棄無效方向與表達研究貢獻,仍有困難。這是少量個案,評分者也知道產物出自AI。CRUX後續評測。

對超級智慧的不同想像,會改變要驗什麼

在喬治城大學11月9日的公開座談中,紐波特提出,多套處理特定任務的AI可能構成未來的智慧系統。另一位與談者、該校安全與新興科技中心執行主任Helen Toner則認為,大量AI代理協同運作,也可能構成某種形式的超級智慧。兩人的討論顯示,系統由單一模型還是多個代理構成、能自主做哪些決定,會影響對其能力與風險的判斷。喬治城大學座談紀錄。

紐波特在最新評論中也強調,即使智慧爆炸沒有出現,追求高度自主的系統仍可能造成傷害。他主張檢視代理的行動範圍與架構,以及人能否理解和控制執行過程。紐波特評論。

台灣團隊可把研究交辦到哪一步

對把文獻整理、程式開發或實驗交給AI的台灣團隊,媒角抵加建議先選一項具體研究問題,留下AI採用的資料、實驗設定、執行結果和人員的修改理由。評估時可問,AI遇到反例後有沒有重做實驗、發現方向不通時有沒有改換方法,以及最後的結論能否由資料支持。

若工具有執行程式或連接外部服務的能力,還可列出可用資料、實驗資源、操作範圍與停止條件,再指定由誰決定擴大研究或對外使用成果。需要規畫研究環境權限時,可延伸閱讀OpenAI離線訓練與代理外連限制。

資料來源與更新紀錄

六都政見盲測 不看名字,你會選誰