AWS Graviton4携Arm Neoverse,引领云计算性能与效率新飞跃
创始人
2024-12-16 17:40:59
0

人工智能技术的蓬勃发展正在深刻改变云计算的面貌,迫使云计算解决方案在性能、效率和成本效益方面不断进化。面对日益复杂的AI应用需求,云端工作负载的客户正在重新审视其基础设施选择,以匹配现代工作负载的多元化要求,这包括提升性能、降低成本,以及满足监管合规性和可持续发展目标。

在这一背景下,Arm与亚马逊云科技(AWS)的长期合作显得尤为重要,双方携手通过专用芯片和计算技术,推动云计算朝着更高性能、更高效和更可持续的方向发展。在AWS re:Invent 2024大会上,AWS展示了AWS Graviton4处理器的显著进步,为开发者和企业提供了释放云工作负载性能潜力的新途径。

AWS Graviton4处理器基于Arm Neoverse V2平台,相较于前代Graviton3,在计算性能上实现了30%的提升,核心数增加了50%,内存带宽提高了75%。这些技术飞跃使得AWS Graviton处理器在广泛的生态系统和客户中得到了应用。Neoverse V2平台融入了Armv9架构的新特性,包括增强的浮点和向量指令支持,以及SVE/SVE2、Bfloat16和INT8 MatMul等,为AI/机器学习(ML)和高性能计算(HPC)工作负载提供了卓越的性能。

今年早些时候,Arm推出了Arm Kleidi软件,与主流的AI框架和软件生态系统紧密合作,确保Arm平台能够为整个ML栈提供开箱即用的推理性能优化。这意味着开发者无需具备额外的Arm专业知识,就能轻松构建工作负载,从而加速了AI工作负载的普及。Arm已经展示了这些优化如何在AWS Graviton4上提升大语言模型(如Llama 3 70B和Llama 3.1 8B)的性能,显著提高了每秒生成的词元数和词元首次响应时间。

对于HPC工作负载,Graviton4相较于Graviton3E实现了显著的功能提升。每个核心的主内存带宽增加了16%,每个vCPU的L2缓存容量翻倍,这对于内存带宽受限的HPC应用至关重要。AWS在这些领域已经取得了显著优势,例如,在EDA工作负载方面,根据Arm工程团队的实际测试结果,Graviton4提供的RTL仿真工作负载性能比Graviton3高出37%。

随着越来越多的云计算用户将各种云工作负载迁移到AWS Graviton处理器上,其软件生态系统不断扩展。这不仅为客户带来了成本节省和性能提升,还有助于优化碳足迹和可持续发展。例如,基于Arm Neoverse的AWS Graviton3已经在多个领域取得了生态优势。

Arm在云计算的未来中扮演着关键角色,将继续支持AWS Graviton站在技术创新的前沿。Arm致力于加强软件生态系统,使开发者能够更轻松地在Arm平台上构建应用,并充分利用Arm计算平台所提供的卓越性能和效率。

相关内容

热门资讯

无机房电梯楼层显示器异常解决指... 电梯 无机房电梯楼层显示器异常怎么办? 别急,本文将为您详细解答。首先,我们要了解无机房电梯楼层显示...
东风汽车集团申请阻燃柔性固态电... 金融界2025年1月31日消息,国家知识产权局信息显示,东风汽车集团股份有限公司申请一项名为“一种阻...
中端性能机大乱斗:加米耀酷真,... 近期,中端手机市场迎来了多款新品,包括一加Ace 5、REDMI K80、荣耀GT、真我Neo 7以...
我市特步5G工厂入选国家5G工... 日前,工业和信息化部发布《关于2024年5G工厂名录的公示》,我市特步5G工厂入选国家5G工厂名录,...
卫星化学获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示卫星化学(002648)新获得一项实用新型专利授权,专利名为“...
自动驾驶+跟踪巡逻+现场抓捕 ... 近日,在浙江温州的闹市区,特警巡逻队带着一台球形机器人一起巡街,引来不少路人的关注。 球形“机器警察...
360智脑张向征:构建安全可信... 人工智能的加速发展,有力推动了社会的数智化转型;与此同时,带来的相关安全风险也日益凸显。近日,在北京...
原创 3... 一、iQOO 12 参考价格:2659元(12G+256G)。 性能强劲,游戏无忧 首先不得...
原创 预... 从销量上来看,两千元左右的手机更受大众消费者的喜爱,这其中爆发了不少爆款手机,而国内各大手机厂商也都...
宁德时代取得温度传感器相关专利... 金融界2024年12月19日消息,国家知识产权局信息显示,宁德时代新能源科技股份有限公司取得一项名为...