从Graviton立异之路看亚马逊云科技的解题边幅

作家：王聪彬

从Nitro系统的初度亮相，到Amazon Graviton、Amazon Trainium、Amazon Inferentia的接连推出，一场从底层硬件到讹诈层的时刻改良悄然伸开。这不仅是一次时刻上的自我改良，亦然一种将硬件立异与云做事深度聚首的独有探索。

在这场改良中，Graviton无疑是最具代表性的存在，其充分体现了亚马逊云科技从用户需求起程，束缚追求极致的立异精神内核。推出Graviton的驱能源主要有两个方针，第一，餍足当代化讹诈对规划架构日益复杂的条款；第二，为客户提供更优性价比的取舍，把最终取舍权交给客户。

亚马逊云科技也达成了这些高兴，从高性能规划到机器学习，再到大规模坐褥的云做事，Graviton展现了跨领域的世俗适配才气，十年间书写了自研芯片的新篇章。

芯片里的极致追求

“警戒莫得压缩算法”是亚马逊CEO Andy Jassy往常谭到的一句经典结论。作念云是如斯，作念芯片亦是如斯。

打造自主规划的Arm做事器芯片已成为大多数云做事商的共同取舍。这不仅是出于本钱上风的考量，更蹙迫的是或者实现高度定制化，从底层基础法子起始，把柄特定用例进行优化，陶冶举座性能和效果。

亚马逊云科技仍是领有进步十年“自研芯片”的经由，从2013年亚马逊高等副总裁兼了得工程师James Hamilton建议建立定制硬件业务计谋，并被亚马逊云科技指导层所遴荐。这一决策的初志是为客户提供更多立异可能，同期也源于公司在这领城看到的雄壮后劲。

2015年亚马逊云做事收购了以色列芯片企业Annapurna Labs；2017年亚马逊云科技发布了由Annapurna Labs建立的首选自研芯片Amazon Nitro；2018年re:Invent规划推出基于ARM架构的第一代Amazon Graviton，以及首代专为推理任务规划的Amazon  Inferentia；2022年发布了专注于机器学习检修的Amazon Trainium。

到2022年四大自研芯片家具组合基本仍是初见雏形，每个系列都在束缚迭代更新。

亚马逊云科技的一系列定制芯片和加速器均由Annapurna Labs团队负责规划和制造，并在Graviton系列的规划、坐褥和封装中捏续立异，束缚陶冶性能和效果。

James Hamilton在2022年的亚马逊云科技芯片立将来（Silicon Innovation Day）上，罕见提到Nitro System的立异，称其为亚马逊云科技硬件架构的“无名袼褙”。自收购Annapurna Labs以来，Nitro系统的建立圭表显耀加速，成为激动亚马逊云科技硬件立异的蹙迫驱能源。

十年千里淀，一颗芯

现时亚马逊云科技已推出的四大自研芯片家具组合包括：六代Nitro系统、四代Graviton、两代Trainium和Inferentia。

曩昔五年，亚马逊云科技先后推出了四代Amazon Graviton实例。现时，基于Amazon Graviton的Amazon EC2实例已进步150多个，群众部署的Graviton处理器数目冲突200万颗，客户数目进步50,000家。其中，Amazon EC2前100大客户中有90%以上取舍了基于Graviton的实例。

每一代的Amazon Graviton都会比上一代有两位数的性能陶冶，同期显耀缩小了单元算力的能耗：

2020年 Graviton2：比拟第一代，处理器性能陶冶7倍，规划中枢数目多达4倍，缓存达到2倍，内存速率提高5倍。

2021年 Graviton3：单核性能较Graviton2陶冶25%，浮点性能陶冶2倍。与同类其他EC2实例比拟，能耗缩小60%，并首次在云规划芯片中遴荐了性能更强、功耗更低的DDR5内存。

2022年 Graviton3E：针对浮点和向量教唆运算进行了优化，基于Graviton3E推出的Hpc7g实例，矢量教唆性能较Graviton3陶冶35%。

2023年 Graviton4：性能再陶冶30%，寂寥中枢数目加多50%以上，内存带宽陶冶75%以上。

现时基于Graviton4的EC2实例包括，M8g通用型、C8g高性能规划型、X8g和R8g内存优化型实例。基于Graviton的托管做事包括，Amazon Relational Database Service、Amazon Aurora、Amazon ElastiCache、Amazon MemoryDB for Redis、Amazon OpenSearch、Amazon EMR、Amazon Elastic Kubernetes Service和Amazon Lambda等。

跟着机器学习讹诈加速，企业对更具本钱上风的GPU需求日益增长，亚马逊云科技在数年前就开动插足专用于机器学习检修和推理的芯片研发。

2022年，推出了首款检修专用芯片Trainium。针对常见的机器学习模子，基于Trainium的实例比拟传统GPU实例性能陶冶140%，本钱最多缩小70%，为客户提供了高效且经济的处置决策。

跟着模子进入大规模坐褥阶段，推理本钱被逐渐拉高，2018年，亚马逊云科技发布了针对推理的Inferentia芯片，在2022 re:Invent群众大会上发布了新一代推理芯片Inferentia 2。

一颗芯片的跨领域适配

企业在当先关于使用Arm芯片会有一定的的担忧，关联词通过多年发展，越来越多的客户通过Graviton为其讹诈提供最好性价比。

云本钱治理和优化平台Vantage探询走漏，2024第一季度，在Amazon EC2 M7系列通用实例的本钱开销方面，遴荐Graviton的M7g系列仍是进步三分之一（34.5%）；2024年第二季度，在Amazon RDS、Amazon ElastiCache和Amazon OpenSearch托管做事中，客户取舍使用基于Graviton已卓越了Intel。

现时Graviton仍是支捏了世俗的讹诈场景：

高性能规划领域，Graviton的多核和高遵守特色使其格外妥贴科学规划、基因组学分析、天气预告等需要强盛规划才气的任务。

机器学习领域，Graviton在运行TensorFlow、PyTorch等深度学习框架时有出色发达，妥贴模子检修和推理任务，尤其在需要大都数据处理和矩阵规划的场景下。

东谈主工智能领域，Graviton相通不错高效支捏AI讹诈的推理部分，如图像识别、当然谈话处理等及时AI任务，提供低蔓延的规划环境。

容器化讹诈构建领域，Graviton对多种容器编排器具（如ECS、EKS、Kubernetes等）和镜像仓库（如ECR、Docker Hub等）的支捏，省略用户在Graviton上部署和治理容器化讹诈，妥贴微做事架构和DevOps环境。

数据分析领域，Graviton不错在EMR、Spark等大数据分析框架上运行，支捏批处理和流式数据分析等场景，妥贴及时数据分析和处理大规模数据集。流行的Spark框架在Graviton3上能取得16.7%的本钱从简。

数据处理领域，不管是批量数据处理照旧及时流处理，Graviton都能通过优化的实例类型提供高效的处理才气，妥贴ETL、数据清洗、预处理等任务。

Epic Games自2021年起就在《堡垒之夜》中大规模讹诈Graviton，在测试中，即使是对蔓延条款极高的游戏，Graviton3实例C7g也发达出色，且显耀陶冶了性价比。现时Epic Games已使用上万颗Graviton芯片支捏游戏业务，不仅做事于《堡垒之夜》，也隐蔽所有基于伪善引擎的游戏做事器。在伪善5引擎的素养游戏Lyra Starter Game测试中，Graviton4相较Graviton3性价比陶冶进步25%，相较Intel Sapphire Rapids和AMD Genoa陶冶30%至35%。

亚马逊亦然Graviton的代表用户，在2021年Prime Day，亚马逊首次使用Graviton2支捏的EC2实例，支捏12种中枢零卖做事，这是Graviton实例首次大规模讹诈于岑岭行径。到2024年Prime Day，亚马逊使用了进步25万个Graviton芯片为进步5800种不同的Amazon.com做事提供支捏，是2023年的两倍。

在晓谕Amazon EC2 X8g实例负责可用的博客中，亚马逊云科技副总裁兼首席布谈师Jeff Barr展示了Graviton4建立时期的实例集群快照，指出EC2内存优化型实例可加速EDA电子规划自动化。同期，快照走漏亚马逊云科技环境具备强盛的弹性调治才气，峰值时数十万个内核同期运行，规模达正常使用的5倍。

像这么的案例比比齐是，亚马逊云科技通过自研芯片，从头界说了云规划的性能与性价比基准，为当代化讹诈提供了高度优化的规划架构，引颈了云规划硬件的立异见解。