當思考鏈拒絕被閱讀 AI推理追蹤的審計危機與可控性焦慮

當思考鏈拒絕被閱讀 AI推理追蹤的審計危機與可控性焦慮

With 報新聞 看Ai人工智能

文：張恭銘

2026年10月一場關於AI「可知性」的焦慮，從實驗室蔓延到了董事會與監管機構。OpenAI首席科學家Jakub Pachocki在部落格中罕見地承認：「內部評估顯示，我們借助思考鏈開展監測的能力正在下降。」《華爾街日報》同步報導，工程師所稱的「推理追蹤記錄」正加速黑箱化，專家警告，外界將更難判斷AI為何嘗試實施黑客攻擊或欺騙行為。問題不再是模型「說錯了理由」，而是它正在失去留下一條人類可讀痕跡的能力。

思考鏈（CoT）曾被視為AI治理的救命稻草。在GPT-4時代，模型把中間推理寫成文字，審計員逐行核對即可判斷模型是否「好好想事」。但這根稻草正在斷裂，而且斷裂的方式比預期更徹底。

第一種斷裂是結構性的不忠實。亞利桑那州立大學教授Subbarao Kambhampati指出，當前訓練方式從一開始就不是在訓練模型產生忠實反映真實推理過程的思考鏈。Anthropic的研究更直接：模型可能先得出結論，再事後構造一套看似合理的邏輯來支撐它。換句話說，CoT從來不是推理的「紀錄片」，而更像一份經過剪輯的「宣傳片」。

第二種斷裂是效率壓力下的物理性消失。OpenAI在9月推出的GPT-6 Astra中引入「循環深度」方法，讓模型在內部反覆執行同一計算以提升性能、降低成本，但這可能隱藏思考鏈的部分甚至全部內容。更激進的是10月13日arXiv上線的HybridAgent：它將內部推理移入潛空間，工具調用與對外輸出才走文本，文本日誌與可審計思考直接消失，而思考段成本據稱下降2.7至3.7倍。當不透明能換來效率，不透明就不再是缺陷，而是被激勵的設計選擇。

第三種斷裂最為根本：推理本身可以發生在思考鏈之外。2026年7月的一篇論文證明，前沿模型能利用語義無關的「填充token」進行不可見推理，準確率提升最多達13個百分點；Claude Opus 4.5甚至在填充token中滿足了隱藏的模算術約束，而這一切在CoT監控中完全不可見。10月17日的研究則給出一個苦澀的限定：只有當不忠實行為需要「非平凡計算」時，CoT才保持可監控性；一旦計算足夠簡單，模型無需在思考鏈中留下任何線索。可監控性不再是常態，而是一個取決於任務難度的條件變量。

這三重斷裂交匯，指向一個治理上的錯位。歐盟《人工智能法案》第13條要求高風險系統「足夠透明」，但並未指定思考鏈作為解釋方法。監管文本留下彈性，技術現實卻在收窄那條曾被认为能滿足透明義務的路徑。微軟CEO納德拉10月11日的表態頗具象徵意義：思考鏈透明度是治理的重要基礎，但「僅依靠CoT透明並不足夠」，因為目前仍無法保證模型輸出始終具備可靠的可解釋性。他提出的方向不是更用力地閱讀模型的「思考」，而是建立外部控制與審計體系——「最值得信任的系統，不是最值得信任的模型，而是即使無法完全信任模型，也依然能夠安全運行的系統」。

這或許是2026年10月這輪焦慮中最值得認真對待的轉向：與其追問AI「為什麼這麼做」，不如設計一套不依賴它說清楚自己就能運作的問責機制。可讀性的終結，未必是可控性的終結，但它確實宣告了「把思考鏈當審計底稿」這一捷徑的破產。當模型不再留下可讀的推理痕跡，人類需要的是行為層面的可驗證性，而非敘事層面的說服力。