字節跳動正訓練擁有10兆參數的AI模型

TikTok母公司正在打造可能是史上最大規模的AI系統之一,足以媲美Anthropic的前沿模型Mythos。
據《金融時報》週五援引知情人士的消息報導,字節跳動正在訓練一個多達10兆參數的人工智慧模型,其規模可能足以比肩Anthropic最先進的Mythos系統。
該項目目前處於預訓練階段,預計歷時三至六個月。若以此規模完成訓練,字節跳動的模型將是中國新創公司月之暗面旗下Kimi K3(擁有2.8兆參數)的三倍以上,有望躋身有史以來最大規模AI系統之列。
規模與背景脈絡
雖然 Anthropic 不公開披露其模型的參數數量,但業界估計其旗艦模型 Mythos 5 約有 8 兆個參數,Fable 5 則約有 5 兆個。ByteDance 所報告的雄心若能實現,將使其達到甚至超越當前 AI 發展的前沿水準。
參數是模型在訓練過程中學習到的數值,使其能夠識別模式並生成回應。然而,研究人員指出,單憑規模並不能決定模型的能力——訓練資料的品質、架構設計與最佳化同樣至關重要。
在 Kimi K3 問世之前,中國規模最大的模型包括美團的 [Meituan] LongCat-2.0 以及 DeepSeek 的 V4-Pro,兩者各擁有約 1.6 兆個參數。
規模與背景脈絡
雖然 Anthropic 不公開披露其模型的參數數量,但業界估計其旗艦模型 Mythos 5 約有 8 兆個參數,Fable 5 則約有 5 兆個。ByteDance 所報告的雄心若能實現,將使其達到甚至超越當前 AI 發展的前沿水準。
參數是模型在訓練過程中學習到的數值,使其能夠識別模式並生成回應。然而,研究人員指出,單憑規模並不能決定模型的能力——訓練資料的品質、架構設計與最佳化同樣至關重要。
在 Kimi K3 問世之前,中國規模最大的模型包括美團的 [Meituan] LongCat-2.0 以及 DeepSeek 的 V4-Pro,兩者各擁有約 1.6 兆個參數。
更廣泛的 AI 競賽
這一進展凸顯了中美科技公司在 AI 前沿領域的競爭日趨激烈。近幾週來,Moonshot 與阿里巴巴([Alibaba Group Holding Limited -0.06%])旗下模型在多項對比測試中獲得正面評價,在某些領域僅次於 Anthropic 的 Claude 5。
與許多傾向開源 AI 的中國企業不同,字節跳動旗下大多數模型仍採閉源策略。其豆包聊天機器人是中國最受歡迎的 AI 應用,月活躍用戶達 3.24 億;旗下 Seedance 影片生成模型亦被視為全球最先進的產品之一。