回到頂端
|||

AWS推出三款由自行研發晶片支援的新Amazon EC2執行個體

台灣產經新聞網/世紀奧美 2021.12.01 00:00

AWS於今(1)日re:Invent年度盛會上宣佈,推出三款由自行研發晶片支援的新Amazon Elastic Compute Cloud(Amazon EC2)執行個體,説明客戶借重Amazon EC2的運作顯著地改善工作負載的效能、成本和能源效率。新C7g 執行個體由Amazon Graviton3 處理器支援,和由 Amazon Graviton2 處理器支援的當前一代 C6g 執行個體相比,效能提高25%。由Amazon Trainium晶片支援的新Trn1執行個體為在Amazon EC2絕大多數機器學習模型的訓練中提供最佳性價比以及最快的訓練速度。而全新自行研發Amazon Nitro SSDs(固態驅動器)的新儲存優化型Im4gn/Is4gen/ I4i執行個體可為I/O密集型工作負載提供最佳儲存效能。上述這些基於AWS自行研發晶片的新Amazon EC2執行個體的發布,幫助AWS為客戶提供支援著最關鍵的業務應用程式。 

 

AWS Amazon EC2副總裁David Brown表示:「我們對自行研發晶片的持續投入與升級,已經讓客戶在當前一些最關鍵工作負載中獲得巨大的性價比優勢。客戶希望我們在每一代新的EC2執行個體上不斷地有所突破,我們的創新意味著為客戶提供改變遊戲規則、且為AWS獨有的全新執行個體,讓客戶在執行其最重要的工作負載時,獲得比其他任何地方都要更好的性價比。」 

 

C7g執行個體由新的Amazon Graviton3處理器支援,與由Amazon Graviton2處理器支援的當前一代C6g執行個體相比,效能提高達25%

Amazon Graviton2的運算執行個體自2020年推出以來,被眾多客戶如DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和Sprinklr等在生產中使用,並已獲得在效能上的顯著提升以及成本的樽節。基於Graviton2的系列執行個體共有12種,包括通用型、運算優化型、記憶體優化型、儲存優化型、突發效能型和加速運算型等執行個體,讓客戶擁有雲端最深入和最廣泛的運算選擇,兼顧性價比和效能。隨著客戶於雲端開展出更多運算密集型工作負載如高效能運算(HPC)、遊戲和機器學習推論,相應的運算、儲存、記憶體和網路需求也隨之增長,客戶需要尋求更佳的性價比和效能來執行這些工作負載。

 

由Amazon Graviton3處理器支援的C7g執行個體,與由 Graviton2 處理器支援的前一代 C6g 執行個體相比,可將運算密集型工作負載效能提高達25%。Amazon Graviton3處理器與Graviton2相比,為科學運算、機器學習和媒體編碼工作負載提供高達2倍的浮點運算效能,為加密工作負載速度提升高達2倍,為機器學習工作負載提供高達3倍的效能。Amazon Graviton3處理器的能源效率也更高,在相同效能下,與同類型EC2執行個體對比,可節省高達60%的能源消耗。C7g執行個體為雲端第一個採用最新DDR5記憶體的執行個體,與基於Amazon Graviton2的執行個體相比,它能提高50%的記憶體頻寬,進而也提升科學運算等記憶體密集型應用的效能。與基於Amazon Graviton2的執行個體相比,C7g執行個體的網路頻寬也高出20%。C7g 執行個體支援 Elastic Fabric Adapter(EFA),允許應用程式直接與網路介面卡通訊,提供更低且更一致的延遲,提高需要大規模平行處理(如 HPC 和視頻編碼)的應用程式效能。C7g執行個體現已提供預覽版。欲瞭解更多C7g執行個體的資訊,請瀏覽:aws.amazon.com/ec2/instance-types/c7g

 

Amazon Trainium晶片支援的新Trn1執行個體,能為在Amazon EC2絕大多數機器學習模型的訓練中提供最佳性價比和最快的訓練速度

越來越多客戶正在打造、訓練和部署機器學習模型,得以支援能夠重塑其業務和其客戶體驗的應用程式。為了確保提高準確性,這些機器學習模型必須建構於越來越多的訓練資料上,導致其訓練成本越來越高。這可能會限制客戶能夠部署的機器學習模型數量。AWS為機器學習提供最廣泛和最深入的運算服務選項,包括採用NVIDIA A100 Tensor Core GPU的EC2 P4d執行個體,和採用Habana Labs Gaudi 加速器的 EC2 DL1 執行個體。但是,即使擁有當今最快的加速執行個體,在部署到生產之前,訓練著越來越大的機器學習模型仍非常昂貴和耗時。 

 

由Amazon Trainium晶片支援的Trn1執行個體,為在Amazon EC2中深度學習模型的訓練上提供最佳性價比以及最快的機器學習模型訓練速度;與P4d執行個體相比,透過Trn1執行個體訓練深度學習模型的成本降低達40%。Trn1執行個體提供800Gbps EFA網路頻寬(比最新基於GPU的EC2執行個體高出兩倍),並與Amazon FSx for Lustre高效能儲存整合,讓客戶得以啟動具有EC2 UltraClusters功能的Trn1執行個體。透過EC2 UltraClusters,開發人員可以將機器學習訓練擴展到超過上萬個與 PB 級網路互連的 Trainium 加速器,讓客戶能夠按照需求存取超級運算等級的效能,即便是最大型和最複雜的模型,訓練時間也可從幾個月縮短到幾天。Trn1執行個體現已提供預覽版。欲瞭解更多Trn1執行個體的資訊,請瀏覽:aws.amazon.com/ec2/instance-types/trn1。 

 

採用全新Amazon Nitro SSDsIm4gn/Is4gen/ I4i執行個體可為I/O密集型工作負載提供最佳儲存效能

如今,客戶將I3/I3en儲存優化型執行個體用於需要直接存取儲存於本機資料集的應用程式,比如橫向擴展的交易型和關聯式資料庫(如MySOL和PostgreSQL),NoSQL資料庫(如Cassandra、MongoDB、Redis等),大數據(如Hadoop)和資料分析工作負載(如Spark、Hive、Presto等)。I3/I3en執行個體以低成本提供NVMe SSD支援的執行個體儲存,針對低延遲、高 I/O 效能和傳輸量進行優化。客戶喜歡I3/I3en執行個體提供的快速交易處理能力,但隨著其工作負載的不斷升級——在更大規模的資料集上處理更複雜的交易,他們需要在不增加成本的情況下獲得更高的運算效能和更快的資料存取速度。

 

Im4gn/Is4gen/I4i執行個體旨在透過架構,最大化提升I/O密集型工作負載的儲存效能。Im4gn/Is4gen/I4i執行個體透過自行研發的 Amazon Nitro SSDs 提供高達 30 TB 的 NVMe 儲存,與上一代I3執行個體相比,I/O 延遲降低 60%,延遲可變性則降低 75%,從而最大限度地提升應用程式效能。Amazon Nitro SSDs透過優化儲存堆疊、虛擬化管理程式和硬體與Amazon Nitro 系統緊密整合。相較於商用SSD,AWS同時管理Amazon Nitro SSDs的硬體和韌體,使SSD更新的交付速度更快,讓客戶可以從改進的功能中獲益。Im4gn 執行個體(現已可用)採用 Amazon Graviton2 處理器,與 I3 執行個體相比,性價比提高多達 40%,每 TB儲存成本降低多達 44%。Is4gen 執行個體(現已可用)也採用 Amazon Graviton2 處理器,與 I3en 執行個體相比,每 TB 儲存成本降低多達 15%,運算效能提高多達 48%。欲使用Im4gn/Is4gn執行個體,請瀏覽:aws.amazon.com/ec2/instance-types/i4g。I4 i執行個體(即將可用)採用Intel第三代可擴展處理器(Ice Lake),與前一代 I3 執行個體相比,運算效能提高多達 55%。欲瞭解更多Im4gn/Is4gen/ I4i執行個體的資訊,請瀏覽:aws.amazon.com/ec2/instance-types/i4i。 

 

SAP HANA是世界領先的記憶體資料庫,也是SAP業務技術平台的基礎。SAP HANA資料庫暨分析總裁Irfan Khan表示:「過去十年中,SAP HANA幫助客戶管理他們最關鍵的交易與分析工作負載。AWS持續投入並創新基於ARM的Amazon Graviton處理器,使得和AWS的合作帶來了諸多可能,為我們的企業客戶和SAP HANA雲端支援的SAP雲端分析和資料管理解決方案的營運效率和效能有著顯著的提升。」

 

Twitter匯集著世界上發生的大小事,也是人們討論話題的集中地。Twitter平台主管Nick Tornow表示:「Twitter正在進行一個為期多年的專案,利用基於Amazon Graviton處理器的Amazon EC2執行個體來提供Twitter時間軸線。為了進一步提高效率,我們測試了基於Amazon Graviton3處理器的全新C7g執行個體。在一系列可以代表Twitter工作負載效能的基準測試中,我們發現基於Amazon Graviton3處理器的C7g執行個體與基於Amazon Graviton2處理器的C6g執行個體相比,可將效能提高20%至80%,同時還將尾延遲減少多達35%。我們非常高興並期待利用基於Amazon Graviton3處理器的執行個體獲得更好的性價比。」 

 

一級方程式(F1)賽車始於1950年,是世界上最負盛名的賽車比賽,也是全球最受歡迎的年度體育賽事。一級方程式技術長Pat Symonds表示:「基於Amazon Graviton2處理器的C6g執行個體已經為我們的一些運算流體模擬力學(CFD)工作負載提供最佳性價比。現在,我們發現在同樣的模擬中,基於Graviton3的 C7g執行個體比基於Graviton2的 C6g執行個體快40%。我們很高興EFA將成為此執行個體類型中的標配,基於Graviton3的執行個體在性價比方面的優異表現,我們期待它將成為執行所有CFD工作負載的最佳選擇。」 

 

Epic Games創立於1991年,是Fortnite、Unreal、Gears of War、Shadow Complex和Infinity Blade系列遊戲的創造者。Epic的Unreal Engine技術為PC、主機、手機、AR、VR和Web帶來高逼真、互動式的體驗。Epic Games高級工程總監Mark Imbriaco表示:「當我們展望未來,為玩家建構更加沉浸和吸引人的體驗時,我們很高興使用基於Amazon Gravtion3處理器的EC2執行個體。我們的測試顯示,它們甚至適用於要求最嚴苛、延遲敏感度最高的工作負載,同時提供卓越的性價比,提升了《要塞英雄(Fortnite)》和任何基於虛擬引擎創造的遊戲體驗。」 

 

Honeycomb開發了一個視覺化平台,讓工程團隊可以視覺化、分析和改善雲端應用程式的品質和效能。Honeycomb.io首席開發者佈道師Liz Fong-Jones表示:「我們很高興能夠基於Amazon Graviton3的預覽執行個體測試我們的高傳輸遙測取樣工作負載。在處理相同工作負載的情況下,我們執行的C7g執行個體比C6g少30%、延遲降低30%。我們期待Amazon Graviton3的C7g執行個體正式啟用後,盡快投入到我們的生產環境中。」 

 

Meta AI專注於將人們與其關心的事物聯繫起來,提供有意義且安全的體驗,推進機器學習並指導開放研究。Meta AI PyTorch工程高級總監Lin Qiao表示:「PyTorch開發人員不斷創新,以提高深度學習模型的準確性,並找到更好的方法解決問題。同時,這些模型的規模呈指數級增長,這讓訓練它們變得更加困難,成本更高。我們的PyTorch團隊一直在與Amazon Neuron團隊合作,為易用性和效能設定了一個高標準,確保在PyTorch中為Trainium等加速器提供原生支援。這其中包括研究分散式訓練中的集體運算原語(Collective compute primitives),以及為擴展效能和分散式訓練設置適當的基礎。我們期待與AWS合作,將Trainium與PyTorch原生產品(如eager mode和dynamic shapes)進行更多的整合。」  

 

Anthropic建構了可靠、可解釋和可操控的人工智慧系統,這些系統將有機會為商業和公共利益創造價值。Anthropic聯合創辦人Tom Brown表示:「我們的研究興趣橫跨多個領域,包括自然語言、人類回饋、縮放定律、強化學習、代碼生成和可解釋性。我們成功的關鍵是利用現代基礎設施,讓我們可以啟動超超大的高效能深度學習加速器艦隊。我們期待使用Amazon Trainium晶片支援的Trn1執行個體,因為它們具有前所未有的能力,可以擴展到上萬個節點,還有更高的網路頻寬,這將讓我們可以在控制成本的同時更快地反覆運算。」  

 

Splunk是頂尖的資料平台供應商,旨在調查、監控、分析和處理任何規模的資料。Splunk雲端平台和基礎設施副總裁Brad Murphy表示:「我們執行基於C/C++的工作負載來索引和搜尋事件資料。我們的工作負載基於CPU,並受益於高容量和低延遲的SSD儲存。在評估由Amazon Graviton2支援的新Im4gn/Is4gen執行個體時,我們觀察到,與當前使用的I3/I3en執行個體相比,搜尋執行時間減少50%。Im4gn和Is4gen執行個體成為執行儲存密集型工作負載的絕佳選擇,性價比顯著提升且總體擁有成本(TCO)更低。」 

 

Sprinklr透過30多個數位化管道幫助世界上大型企業提升客戶滿意度——使用為企業建構的最先進、最複雜的人工智慧引擎來擬定以洞察力驅動的策略,創造更優秀的客戶體驗。Sprinklr工程副總裁Abhay Bansal表示:「我們在由Amazon Graviton2處理器支援的Amazon EC2 Im4gn/Is4gen執行個體上對基於Java的搜尋工作負載進行基準測試。與較大的I3en執行個體相比,較小的Is4gen執行個體就能提供相似的效能,這代表有機會顯著降低TCO。我們在將工作負載從I3執行個體遷移到Im4gn執行個體時,還發現查詢延遲顯著降低多達50%,性價比提升40%。遷移到基於Amazon Graviton2的執行個體很輕鬆,完成基準測試只需要兩週時間。我們對現在的經驗感到非常滿意,並期待基於Im4gn和Is4gen執行個體在生產環境中執行這些工作負載。」 

 

Redis Enterprise透過幫助軟體團隊為即時世界創建高效能資料層,為全球超過8,000個組織提供關鍵任務應用程式和服務。Redis聯合創辦人暨技術長Yiftach Shoolman表示:「我們非常高興看到,使用全新低延遲Amazon Nitro SSDs的Amazon EC2 I4i執行個體提供比上一代執行個體更快的交易速度。我們預計I4i執行個體更強的儲存效能和更快的網路與處理器速度,將為我們那些基於I4i執行個體使用Redis-on-Flash的客戶帶來顯著的改善。」 

 

關於Amazon Web Services

AWS在超過15年以來,一直以技術創新、服務多元、應用廣泛而享譽業界。AWS一直不斷擴展其服務以支援幾乎所有雲端工作負載,目前提供超過200項功能完善的服務,涵蓋運算、儲存、資料庫、網路、資料分析、機器學習與人工智慧、物聯網、行動、安全、混合雲、虛擬實境與擴增實境、媒體,以及應用開發、部署與管理等方面;基礎設施遍及25個地理區域內的81個可用區域(Availability Zone),並已公佈預計在澳洲、加拿大、印度、印尼、以色列、紐西蘭、西班牙、瑞士和阿拉伯聯合大公國新建9個區域及27個可用區域。包括發展迅速的新創公司、大型企業和政府機構在內,全球數百萬客戶都信賴AWS,透過AWS的服務支撐其基礎設施、提高營運敏捷度並降低成本。欲瞭解更多資訊,請瀏覽:aws.amazon.com

 

社群留言