Anthropic AI模型遭控「秘密破壞」 功能悄然限制開發者

人工智慧公司 Anthropic 近日發布其最新 AI 模型 Claude Fable 5 後，引發業界批評，被指控「秘密破壞」性地限制 AI 研究人員和開發者的功能，卻未告知使用者。

這項限制隱藏在 Claude Fable 5 長達 319 頁的系統文件中。文件中揭露，新模型會降低對與尖端 AI 開發相關請求的回應能力，例如用於建構大型 AI 模型的基礎設施。與其他通常會明確通知使用者的限制不同，此項限制不會顯示，模型仍會回應，但會在用戶不知情的情況下，「介入以限制 Claude 的有效性」。Anthropic 估計，這項限制將影響約 0.03% 的模型流量。

Anthropic 為此辯護，指出這些安全防護措施旨在「避免助長那些最願意違反使用條款的行為者」。然而，此舉引發許多批評。開放模型研究員 Nathan Lambert 直指這是「駭人聽聞」的行為，並認為這讓 Anthropic 顯得反科學、反進步且反安全。非營利研究機構 fast.ai 的負責人傑瑞米·霍華德（Jeremy Howard）則表示，Anthropic 選擇讓自己獨享頂尖模型進行前沿 AI 研究，卻「破壞」其他試圖使用者，恐加劇權力不平衡。

前 Anthropic 員工 Behnam Neyshabur 認為，這種能力集中將從根本上減緩科學和技術進步，對人類而言弊大於利。他舉例，若開發者處理癌症或阿茲海默症相關的 AI 應用，也可能面臨模型效能被降低的情況。

儘管有爭議，Claude Fable 5 的性能仍獲部分專家肯定。華頓商學院副教授伊桑·莫利克（Ethan Mollick）稱其「表現大幅超越」他用過的其他公開模型。前 OpenAI 共同創辦人兼特斯拉（Tesla）AI 主管安德烈·卡帕斯（Andrej Karpathy）也讚揚其是「超令人興奮的發布」，帶來「值得主版本升級的躍進」。但他同時提到模型「仍有怪癖」，且安全防護機制在發布之初設定得「過於激進」，希望能隨時間逐步調整。

Anthropic 產品管理、研究與實驗室主管 Dianne Na Penn 在接受《Fortune》採訪時表示，新模型在保持安全防護的前提下，其前沿性能比舊版 Opus 4.8 提升 10 到 20 點。她強調，公司正積極改進上線後的防護措施，以解決可能存在的、錯誤阻擋正常請求的問題。