企業AI支出不能只看Token牌價 單次任務成本落差可達百倍

商傳媒|責任編輯/綜合外電報導
企業導入人工智慧(AI)不能再只盯著模型標籤上的 Token 單價。根據最新發布的 Databricks AI Index 報告指出,企業若僅依賴 Token 牌價評估支出將產生嚴重誤區,因為「每項任務的實際成本」取決於 Token 單價加上模型推導出答案所需的總工作量,兩者相乘才是真實開銷。
根據外媒《CIO Dive》引述該報告數據,OpenAI 的 GPT-6 Luna 與 Anthropic 的 Claude Opus 5.5 雖然達成相同的 89.1% 任務成功率,但每項任務的平均成本分別為 0.05 美元與 1.62 美元;更極端的是,單一 Token 標價偏低的 Gemini 3.8 Flash,卻因需執行大量工作才能產出結果,每項任務花費高達 11.97 美元,成本反而飆高逾百倍。
這項趨勢凸顯出多模型策略的重要性。隨著高德納諮詢公司(Gartner)預估全球終端用戶在 AI 模型與平台的支出將在 2026 年達到 640 億美元、年增達 63%,企業面臨的預算控管壓力與日俱增。
除了模型挑選,企業內部極度不均勻的用量分佈也推升了管理難度。數據顯示,企業一般員工每日平均僅花費 2.49 美元的 AI 資源,但前 1% 的重度使用者(第 99 百分位數)每日花費高達 699.74 美元。
微軟企業副總裁暨科技與 AI 資訊長 Tal Saraf 在官方部落格指出,部分團隊往往由極少數人消耗了絕大多數的 Token。微軟建議掌管企業 IT 策略與預算調配的 CIO(資訊長),應依應用程式、工作流程、AI 代理(Agent)及個別使用者追蹤用量,採行類似雲端財務維運(FinOps)的預算管理模式。
Tal Saraf 強調,掌握誰在消耗最多 Token 以及使用何種模型,目的並非阻擋員工使用,而是指導員工在正確的任務上選用合適的模型,以確保 AI 投資能轉化為實際商業效益。

相關新聞
微軟推 AI FinOps 架構 公開內部 Token 成本控管策略
臉部保養不能只看表面 醫師郭義樹談多層組織評估與醫美安全觀念
企業換AI供應商落差大 僅四成順利轉移引發綁架警訊
Meta發表小型AI模型Muse Ember 高效處理重複性任務成本更低
肥胖不能只看BMI!新版指引納入腰圍與共病分期
黃仁勳卸任輝達執行長 企業不能只靠老闆撐場,中小企業如何用AI建立管理制度?
Ragic 導入 Jev 自動選擇 AI 分類任務成本省逾 97%
用 AI 重新定義企業的智慧未來!台灣人工智慧網路公司助企業降低成本 提升營收
Target押注AI轉型 明年資本支出上看60億美元
美研調:AI晶片支出 2030年砍4成
黃仁勳退場後的台灣考驗? AI供應鏈不能只靠個人交情
代理AI推升算力需求 企業部署掀地端自建潮
美國企業AI支出10月創新高 增速卻降至不到2%