AMD MI355X在MLPerf推論測試中亮眼首秀，展現卓越AI運算實力

AMD宣布在MLPerf Inference 5.1推論測試中取得佳績，其中包含全新AMD Instinct™ MI355X GPU的首次參與，展現了AMD在AI效能與效率上的顯著進展。

本次測試結果亮點如下：

․        突破性的效率與效能：AMD Instinct MI355X GPU透過全新FP4精度將每秒處理的Token數量提升2.7倍，以及創新的結構化剪枝（pruned）技術帶來高達90%的效能提升，在生成式AI推論中實現突破性的效率，即使是最大的AI模型也能更快、更具成本效益地部署。

․        經驗證的擴展性與靈活性：本次MLPerf測試結果證明了Instinct GPU能從單一節點無縫擴展至8節點叢集，同時也實現了領先業界的異質GPU推論，結合不同世代的GPU (MI300X和MI325X)，展現了AMD為不斷演進的AI需求打造強大且具適應性基礎設施的實力。

․        產業體系成長與效能競爭力：AMD Instinct MI325X GPU在關鍵AI工作負載上展現了與競爭對手匹敵的效能，並且透過與日益壯大的合作夥伴產業體系所提交的一致性結果，進一步彰顯Instinct平台的生產就緒性以及AMD ROCm™軟體的強大實力。

本次MLPerf v5.1測試結果，結合AMD與合作夥伴的緊密合作以及AI模型持續最佳化，彰顯AMD在AI擴展性、效能、軟體創新以及開源承諾方面的領先地位。

欲了解更多關於本次測試的詳細資訊，請參閱部落格文章，或前往MLCommons網站。