当您运行实时分析、批处理、视频编码、科学建模或基于CPU的机器学习推理等计算密集型工作负载时,性能的每个百分点都很重要。您需要能够提供每个vCPU更高吞吐量、更快内存访问和更多网络带宽的实例,同时控制成本。
今天,我很高兴地宣布,由AWS Graviton5处理器提供支持的Amazon Elastic Compute Cloud (Amazon EC2) C9g和C9gd实例全面上市。C9g实例经过计算优化,与上一代C8g实例相比,每个vCPU可提供高达25%的性能。
它们具有云中任何处理器实例中最快的内存,与基于Graviton4的实例相比, DDR5 8800MT/s DIMM、5倍的L3缓存和高达3倍的数据包处理性能。更快的内存和更大的缓存意味着您的工作负载花费更少的时间等待数据,转化为更高的内存分析吞吐量、更快的代理循环和更快的响应实时应用程序。
C9g实例非常适合批处理作业、视频编码管道或可以利用Amazon Elastic Block Store (Amazon EBS)进行存储的分布式分析。它也很适合代理AI工作负载,其中并发环境和CPU限制的推理步骤受益于Graviton5更高的核心数量和更大的缓存。
随着人工智能从回答问题转向采取行动、运行代码和协调多步骤任务,对CPU计算的需求正在增长, C9g实例正是为这种转变而构建的。除了计算能力之外,一些工作负载还需要快速的本地存储。