自研芯片逾十年,亚马逊云科技Graviton系列芯片全面老到
早在2012年,自研Amazon Nitro系统的计算仍是开启。当今亚马逊云科技已推出四大自研芯片产物眷属:六代Amazon Nitro系统、四代通用处理器芯片Amazon Graviton、两代机器学习测验芯片Amazon Trainium和两代机器学习推理芯片Amazon Inferentia。
自2018 re:Invent 上推出第一代芯片以来,Amazon Graviton眷属已资历了四代迭代。在企业降本增效的大趋势下,基于Amazon Graviton的Amazon EC2实例以及托做事业正成为越来越多客户的遴荐。
当今,亚马逊云科技基于Amazon Graviton的Amazon EC2实例种类达150多个,在大家仍是部署的的Amazon Graviton处理器数目越过200万个,并领有越过50,000客户,其中也涵盖了Amazon EC2前100客户90%以上。
今天咱们就来望望Amazon Graviton在性能、贸易落方位面的最新进展。
好多东说念主可能趣味,动作云筹算草创者的亚马逊云科技为什么要我方作念芯片?咱们不错从一个侧面探寻其动因。
在2022年的亚马逊云科技芯片立异日(Silicon Innovation Day)行动上,亚马逊高等副总裁兼了得工程师James Hamilton追想了亚马逊云科技自2012年启动的自研芯片历程。
Hamilton 示意,“最终,单台事业器的中枢功能将集成为一个芯片系统。要是事业器上扫数的立异将沿路采集在芯片上。而咱们不制造芯片,那么咱们就莫得立异。”
Hamilton强调了亚马逊云科技将链接加大在硬件研发方面的进入,鼓舞下一代处理器的立异,以无礼大家客户日益增长的需求。他信赖,跟着时代的不断发展,亚马逊云科技将链接保捏在云筹算和硬件设想的前沿,引颈行业走向愈加高效、智能的往常。
回到Amazon Graviton,过程5年多的迭代,这一系列通用处理器芯片仍是在时代、场景、贸易各方面展现出日趋老到的发扬。
时代老到:性能提高功耗下跌无止尽好多东说念主不知说念的是,在云筹算厂商的身份外,亚马逊云科技自主完成扫数自研芯片的诞生职责,扫数芯片均由Annapurna Labs团队设想和制造。
Annapurna Labs是亚马逊云科技于2015年收购的半导体微电子公司。早在收购之前,两边就在Nitro系统的诞生方面清雅互助。对Annapurna Labs的收购加快了Nitro系统的诞生,并加强了亚马逊云科技在硬件鸿沟的立异实力。
当今,Annapurna Labs团队成员分歧在大繁多个地点,包括以色列的特拉维夫、加拿大的多伦多,以及德克萨斯州奥斯汀的施行室。
“咱们的观念是为客户提供更多遴荐、更低老本和更高性能。” Annapurna Labs芯片工程总监Rami Sinno示意。“通过自主完成扫数芯片的诞生,幸免依赖第三方,咱们大致加快产物的请托进度。”
亚马逊云科技首席工程师Ali Saidi认真Amazon Graviton系列处理器的时代诞生
认真Amazon Graviton时代诞生的亚马逊云科技首席工程师Ali Saidi偏激团队在Graviton系列的设想、制造和包装方面不断立异。比方,在Graviton3中,研发团队将七个袖珍定制晶片和约550亿个晶体管整合到一个中央处理器(CPU)中。
围绕更佳性价比这一方针,每一代的Amazon Graviton王人会比上一代有两位数的性能提高,且达成单元算力功耗的捏续下跌。比方:
2021年推出的Amazon Graviton3,单核性能比Amazon Graviton2提高25%,浮点性能提高2倍,与同类型其他Amazon EC2实例比拟,可量入为出60%的动力挥霍。同期还初次在云筹算芯片中吸收性能更强、功耗更低的DDR5内存。
2023年推出的Amazon Graviton4较上一代产物质能提高高达30%,安谧中枢加多50%以上,内存带宽提高75%以上。
此外,通过Amazon Graviton4,亚马逊云科技达成初次面向内容运用设想CPU架构,即从传统的MicroBenchmark基准测试评价体系,转向以内容职责负载进行评价尺度。通过信得过职责负载雷达图,不错更好地臆测内容职责负载的优化遵守。
场景老到:复古平素的运用场景历经四代产物迭代,当今Amazon Graviton支捏平素的运用场景,包括高性能筹算、机器学习、东说念主工智能、容器化运用构建、数据分析等等。比如:
在机器学习鸿沟,Amazon Graviton在运行TensorFlow、PyTorch等深度学习框架时有出色发扬,恰当模子测验和推理任务,尤其在需要精深数据处理和矩阵筹算的场景下。
在容器化运用构建鸿沟,Amazon Graviton对多种容器编排用具(如ECS、EKS、Kubernetes等)和镜像仓库(如ECR、Docker Hub等)的支捏,浅显用户在Amazon Graviton上部署和处置容器化运用,恰当微事业架构和DevOps环境。
在数据分析鸿沟,Amazon Graviton不错在EMR、Spark等大数据分析框架上运行,支捏批处理和流式数据分析等场景,恰当及时数据分析和处理大范围数据集。流行的Spark框架在Graviton3上不错得到16.7%的老本省俭。
亚马逊本人亦然Amazon Graviton芯片的典型用户之一。2021年Prime Day时辰,亚马逊初次使用Amazon Graviton2支捏的Amazon EC2实例。2024年Prime-Day时辰,亚马逊使用了越过25万个Graviton芯片为越过5800种不同的亚马逊电商事业提供支捏。
贸易老到:新实例中“三分世界有其一”第三方数据泄露,在2023年推出的M7g系列实例中,吸收Amazon Graviton的实例仍是与英特尔、AMD三分世界,这进一步考据了Graviton芯片在通用实例中的受接待程度。
把柄云老本处置和优化平台Vantage的一项看望,2024第一季度,在Amazon EC2 M7系列通用实例的老本支拨方面,吸收Graviton的M7g系列仍是越过三分之一(34.5%)。
2024年第二季度,在Amazon RDS、Amazon ElastiCache和Amazon OpenSearch托做事业中,客户遴荐使用基于Amazon Graviton已突出了英特尔,越来越多客户遴荐基于Graviton的托做事业。
由于Amazon Graviton系列芯片对性价比的不断提高和平素的运用场景,其也深受中国企业的深爱。
比如,大家当先IoT云平台涂鸦智能仍是将通盘公司40%以上的职责负载迁徙到Amazon EC2 M6g和C6g新一代实例。跟上一代同建设的X86实例比拟,CPU性能提高了100%,事业器单价裁汰20%,举座性价比提高2.5倍。
加快出海的互联网科技公司大宇无尽通过使用 Amazon EMR on EKS,以及亚马逊云科技基于 ARM 架构的 Graviton2 实例,将运行大数据功课的举座性能提高了 30%,老本裁汰了 20%。
如今,亚马逊云科技的自研芯片之路仍是走过十余年。透过仍是全面老到的Amazon Graviton系列芯片,亚马逊云科技达成深度整合硬件与软件,不仅大幅提高了云事业的体验与遵守,更为大家用户带来了前所未有的云表算力性价比,开启了云筹算鸿沟的新篇章。
END
本文为「智能进化论」原创作品。