Amazon Elastic Compute Cloud (EC2) R7iz 執行個體是記憶體優化的高 CPU 效能執行個體。它們是雲端中速度最快的第 4 代 Intel Xeon 可擴充 (Sapphire Rapids) 執行個體,具有 3.9 GHz 持續全核心渦輪頻率。相較於上一代 z1d 執行個體,R7iz 執行個體可提供優於高達 20% 的效能。它們使用 DDR5 記憶體,可提供較 z1d 執行個體高達 2.4 倍的記憶體頻寬。R7iz 執行個體的記憶體與 vCPU 的比例為 8:1,最高可達 128 個 vCPU,以及高達 1,024 GiB 的記憶體。R7iz 執行個體結合高 CPU 效能和高記憶體使用量,因此非常適合前端 Electronic Design Automation (EDA)、每核心授權費用高的關聯式資料庫工作負載,以及金融、精算和資料分析模擬工作負載。
AWS 與 Intel 持續合作,提供專為滿足目前和未來運算需求而設計的雲端服務。如需詳細資訊,請參閱 AWS 和 Intel 合作夥伴頁面。
優勢
更低的總體擁有成本
相較於上一代 z1d 執行個體,R7iz 執行個體可提供優於高達 20% 的運算效能。高 CPU 效能與高達 1024 GiB 記憶體相結合,可提升 EDA 和關聯式資料庫等應用程式的整體效能。這有助於您縮短產品開發上市時間,同時降低授權成本。
靈活性和選擇性
R7iz 執行個體的加入為雲端中的 EC2 執行個體提供更廣泛且深入的選擇。R7iz 執行個體提供最大 32xlarge 的執行個體大小,並提供兩種裸機大小。相較於其他高頻執行個體,vCPU 多達 2.6 倍,您可以縱向擴展需要大量記憶體的工作負載。
最大化資源效率
R7iz 執行個體以結合專用硬體和輕量型 Hypervisor 的 AWS Nitro System 為基礎,幾乎能將託管硬體所有的運算與記憶體資源提供給您的執行個體使用,以提供較佳的整體效能與安全。
功能
高 CPU 效能
R7iz 執行個體是雲端中速度最快的第 4 代 Intel Xeon 可擴充 (Sapphire Rapids) 執行個體,具有 3.9 GHz 持續全核心渦輪頻率。這些執行個體支援使用 Intel Total Memory Encryption (TME) 永遠啟用記憶體加密。
高效能介面
R7iz 執行個體支援高達 50 Gbps 的網路功能。R7iz 執行個體也支援 40 Gbps 頻寬,以最大的大小傳送至 Amazon Elastic Block Store (EBS)。此外,對於 R7iz 執行個體,您可以將多達 88 個 EBS 磁碟區附接至執行個體 (相比之下,z1d 僅允許最多 28 個 EBS 磁碟區附件至執行個體)。R7iz 執行個體使用全新 DDR5 記憶體技術,並提供比同類高頻執行個體高出多達 2.4 倍的記憶體頻寬。R7iz 執行個體支援 32xlarge 和 metal-32xl 大小 的 Elastic Fabric Adapter (EFA)。
全新加速器
第 4 代 Intel Xeon 可擴充處理器提供 4 個全新的內建加速器。進階矩陣延伸 (AMX) 適用於各種大小,可加速應用程式的矩陣乘法運算,例如 CPU 機器學習。資料串流加速器 (DSA)、記憶體內分析加速器 (IAA) 和 QuickAssist 技術 (QAT) – 適用於 R7iz 裸機大小 – 可有效率地卸載及加速資料作業,協助最佳化資料庫、加密與壓縮,以及佇列管理工作負載的效能。
在 Nitro System 基礎上建置
AWS Nitro System 能以許多不同的方式組合,讓 AWS 能靈活地設計和快速交付 EC2 執行個體類型,提供越來越多的運算、儲存體、記憶體和聯網選項。Nitro 卡卸載並加速功能的 I/O,從而提高整體系統效能。
產品詳細資訊
Amazon EC2 R7iz 執行個體採用第 4 代 Intel Xeon 可擴充處理器技術,非常適合高 CPU 和記憶體密集型工作負載。
執行個體大小 | vCPU | 記憶體 (GiB) | 執行個體儲存體 (GB) | 網路頻寬 (Gbps) | EBS 頻寬 (Gbps) |
r7iz.large |
2 |
16 |
僅限 EBS |
最多 12.5 |
最多 10 |
r7iz.xlarge |
4 |
32 |
僅限 EBS |
最多 12.5 |
最多 10 |
r7iz.2xlarge |
8 |
64 |
僅限 EBS |
最多 12.5 |
最多 10 |
r7iz.4xlarge |
16 |
128 |
僅限 EBS |
最多 12.5 |
最多 10 |
r7iz.8xlarge |
32 |
256 |
僅限 EBS |
12.5 |
10 |
r7iz.12xlarge |
48 |
384 |
僅限 EBS |
25 |
19 |
r7iz.16xlarge |
64 |
512 |
僅限 EBS |
25 |
20 |
r7iz.32xlarge |
128 |
1,024 |
僅限 EBS |
50 |
40 |
r7iz.metal-16xl |
64 |
512 |
僅限 EBS |
25 |
20 |
r7iz.metal-32xl |
128 |
1,024 |
僅限 EBS |
50 |
40 |
客戶見證
Aiven 為組織提供了一個開放原始碼雲端資料平台,以建置現代資料基礎設施。
「我們協助客戶簡化其資料基礎設施,以提高成本效益並提高軟體敏捷性。在為我們的資料平台選取雲端運算選項時,輸送量和延遲是客戶評估的關鍵因素。我們很高興能夠在最新的 Amazon EC2 R7iz 執行個體上推動效能限制,相較於上一代 R6i 執行個體,可實現高出 170% 的輸送量並降低 41% 的平均延遲。」
Aiven 技術長 Heikki Nousiainen
Astera Labs 是專用資料和記憶體連線解決方案的領導者,可消除整個資料中心的效能瓶頸。
「我們百分百在雲端中建置適用於雲端的解決方案。也因此我們很高興能使用新的 Amazon EC2 R7iz 執行個體,讓我們得以存取較 R6i 執行個體更高的單執行緒效能。在測試新的 R7iz 執行個體期間,相較於 R6i 執行個體,我們能實現高達 25% 的效能提升。藉由獲得更高的效能,我們將能加速提供晶片、軟體和系統層級連線解決方案的能力,以實現雲端人工智慧和機器學習願景。」
Astera Labs 執行長 Jitendra Mohan
Nasdaq 是買賣證券和其他工具的全球電子交易所,也是 50 多個國家/地區的 130 個其他交易所、監管機構和交易後組織的市場基礎設施技術供應商。
「我們利用 Amazon EC2 高頻執行個體為客戶提供可靠、超低延遲和高效能。Amazon EC2 R7iz 執行個體具有較小的全新裸機大小,具有更好的 NUMA 親和性,可為我們的工作負載提供絕佳的輸送量、簡化系統架構,並透過減少延遲來改善確定性。這項創新是 AWS 與 Nasdaq 合作關係的重要組成部分,旨在為全球資本市場建立新一代雲端基礎設施。」
NASDAQ 資深副總裁 Nikolai Larbalestier
Noname Security 建立了功能強大、完整且易於使用的 API 安全平台,可協助企業探索、分析、修復和測試所有舊式和現代 API。
「我們利用 AI 和機器學習進行流量分析,以自動偵測 API 威脅,對我們來說,為客戶提供低延遲和高頻寬安全性非常重要。在基準測試期間,Amazon EC2 R7iz 執行個體提供近乎即時的安全性,與 C6i 執行個體相比,回應時間快 3 倍且輸送量更高。此外,我們很高興能夠善用全新的進階矩陣延伸 (AMX) 來加速機器學習工作負載的效能,以降低全球 API 安全漏洞和網路攻擊的風險。」
Noname Security 技術長 Shay Levi
SingleStoreDB 是一種專為速度和規模而建置的雲端原生資料庫,以支援即時應用程式。
「幾乎全球各地的領先公司都使用 SingleStoreDB 來增強客戶體驗並改善營運和安全性。為了支援持續增長的工作負載,優化基礎設施的運算效能是必要的。在測試 Amazon EC2 R7iz 執行個體時,我們的工程團隊看到資料庫效能比上一代 Ice Lake 執行個體提高了 19%。我們期待善用 Amazon EC2 最新的 Sapphire Rapids 執行個體,為交易和分析提供卓越的效能。」
SingleStoreDB 雲端合作夥伴總監 Rob Weidner
TotalCAE 的平台支援數百種工程應用程式,讓客戶能夠在雲端輕鬆採用高效能運算 (HPC) 應用程式。
「Amazon EC2 R7iz 執行個體結合 1 TB 的最新 DDR5 記憶體,以及以 3.9 GHz 執行的最新第 4 代 Intel Xeon 可擴充處理器,為有限元素分析 (FEA) 等應用程式提供新一代效能。我們在 R7iz 執行個體上測試了數個授權的旗艦版 FEA 應用程式,觀察到與上一代 R6id 執行個體相比,在相同的授權成本下,效能提升高達 19%。我們的客戶在其 FEA 應用程式授權方面投入了大量資金,我們迫切希望協助他們最大限度地利用授權投資,並加快上市時間。」
TotalCAE 總裁 Rod Mach
Amazon Relational Database Service (RDS) 是受管服務的集合,方便在雲端設定、操作和擴展資料庫。
「Amazon EC2 R7iz 執行個體非常適合關聯式資料庫工作負載,這些工作負載的每核心授權費通常很高。我們目前執行高要求工作負載的航空公司和銀行客戶使用 z1d 執行個體。相較於 z1d,R7iz 具備 20% 的運算效能提升、更大的大小 (高達 32xlarge),以及 2.4 倍的記憶體輸送量 (使用最新的 DDR5),這將協助這些客戶在持續擴展的同時獲得卓越的效能。」
AWS 之 DBS Managed Commercial Engines 的 RDS 總經理 Kambiz Aghili
Hugging Face Hub 可用做任何人都能分享、探索、發現和實驗開放原始碼 ML 的中心地點。
「在 Hugging Face,能夠與 Intel 合作加速最新一代硬體的最新型號,從 Intel Xeon CPUs 到 Habana Gaudi AI 加速器,為數百萬使用 Hugging Face 的 AI 建構家提供最新型號,我們深感自豪。
得益於進階矩陣延伸 (AMX),Intel Xeon 第 4 代全新加速功能已在 Amazon EC2 上提供,引入 bfloat16 和 INT8 來支援變壓器訓練和推論。
透過將 Intel Extension for Pytorch (IPEX) 整合至我們的 Optimum-Intel 程式庫,我們讓 Hugging Face 使用者能夠非常輕鬆地以最少程式碼變更來獲得加速優勢。我們使用自訂 EC2 第 7 代執行個體 (例如,Amazon EC2 R7iz 和其他執行個體),微調 DistilBERT 達到 8 倍的速度提升,並且在相同的變壓器模型上執行推論的速度能夠加速 3 倍。同樣,使用穩定的擴散模型來產生影像時,我們實現了 6.5 倍的速度提升。」
Hugging Face ML 工程師 Ella Charlaix