AI 浪潮下網路新趨勢：思科動態模型路由重新定義 SD-WAN

隨著代理式人工智慧（agentic AI）的興起，企業網路流量正經歷轉型，傳統的路由策略已難以應對其複雜性。對此，美國網路設備龍頭思科（Cisco）於昨日指出，動態模型路由（Dynamic Model Routing, DMR）將成為 AI 時代軟體定義廣域網路（SD-WAN）的全新典範，協助企業有效管理 AI 工作負載。

動態模型路由是一項智慧化的策略與決策層，它能評估傳入的 AI 請求，並根據複雜度、成本、隱私與延遲等參數，將每個查詢導向最佳的執行路徑。這些路徑可能包括特定領域的小型語言模型（SLM）、企業內部部署模型、確定性應用程式介面（API），或是前沿大型語言模型（LLM）。

思科副總裁李·彼得森（Lee Peterson）表示：「正如 SD-WAN 利用即時遙測、策略與可觀察性來引導流量，模型路由也能將每個請求導向最符合其效能、成本、隱私和準確性要求的端點。」過去企業常為處理常規任務，而過度使用大型前沿模型，不僅耗費能源，也導致「令牌經濟學」（tokenomics，意指處理AI請求的成本效益）效益不彰；而這些任務其實可由更小、更專業的模型以更低的成本和更快的速度完成。報告指出，小型語言模型（SLM）在特定任務上，能比前沿模型降低高達 30 倍的營運成本。

動態模型路由的核心價值在於其即時評估能力，它能根據情境、複雜度、成本與延遲預算，以及資料隱私與治理等條件來處理請求。這項技術還可作為政策執行點（Policy Enforcement Point, PEP），檢查查詢中繼資料與資料分類，確保企業資料的隱私與治理。舉例來說，敏感、專有或受監管的資料負載可保留在安全的內部部署模型中，而非敏感的工作負載則能利用公有雲端 API。透過跨領域可視性，DMR 也能在請求處理前驗證端到端路徑，確保效能與可靠性。特別是在時間敏感的操作工作流程中，DMR 會優先選擇輕量化、本地化的模型以減少網路往返延遲，僅在必要時才轉向更深層次的雲端推理。

思科指出，DMR 將從小眾的最佳化技術發展為企業資訊科技架構的基石。透過思科 AgenticOps 等平台與 Cisco Deep Network Model 等專用引擎，企業領導者能從被動支出轉向主動管理，建立自動化防護措施，並平衡效能、隱私與價格，藉由將 AI 模型視為彈性端點來最佳化資源。