原创 GTC 2025指向云计算的下一个基建范式
创始人
2025-03-22 15:20:31
0

在去年的GTC大会上,NVIDIA 推出了产品化的万卡集群智算中心,2个月后在Computex 2024的主题演讲中,黄仁勋透露NVIDIA正在着眼十万卡互连和百万卡互连的智算中心,预计将分别在2025年和2026年推出。到了NVIDIA GTC 2025,黄仁勋推出了百万卡互连的方案——在大规模平台上实现了电子电路与光通信的融合,这就是最新推出的NVIDIA Spectrum-X™ 和NVIDIA Quantum-X 硅光网络交换机。

在Computex 2024上,NVIDIA曾提出要在2025年推出Spectrum-X800 Ultra、在2026年推出Spectrum-X1600,再配合升级的NVIDIA智能网卡等,支持百万卡互连智算中心。不过从GTC 2025来看,NVIDIA直接将Spectrum和Quantum系列升级到了CPO(光电一体化封装技术)版本。CPO是近几年发展出的新型交换机技术,有关市场调研机构将2022年视为CPO起步之年,之后虽然有交换机厂商推出了CPO交换机,但CPO整体还处于初级阶段。

黄仁勋表示,CPO技术将为百万GPU级“AI工厂”即智算中心,提供网络基础设施新范式。CPO技术的特点包括高密度、低成本、小体积和低功耗,再配合液冷散热模式,能够显著降低数据中心的能耗。NVIDIA CPO硅光网络交换机相比于可插拔光模块以及初代CPO有较大优势,包括:创新集成了光器件,减少了4倍的激光器数量,与传统方法相比,能源效率提高到3.5倍、信号完整性提高到63倍、大规模组网可靠性提高到10倍、部署速度提高到1.3倍。

简单理解,将光通信引领企业网络领域,有两种方式:一种是传统方式,即交换机+可插拔光模块;一种是初代CPO,即将光模块和ASIC芯片封装在一起。此前,台积电和博通已经开始尝试CPO与先进封装技术,也在创新相关的CPO器件以实现更好的集成效果。此次NVIDIA与台积电合作是CPO产业的重大进程,也许将定义生成式AI时代百万GPU智算中心的网络建设标准。

TSMC台积电董事长兼CEO魏哲家表示,“TSMC的硅光解决方案结合了先进的芯片工艺和 TSMC-SoIC 3D芯片封装的优势,帮助NVIDIA充分发挥AI工厂的能力,助力AI工厂扩展到100万GPU甚至更多,进而突破AI的边界。”而能够投资建设百万GPU智算中心的服务商,无疑将是超级公有云厂商和互联网厂商,包括全球前五大超级公有云厂商、顶级电信运营商和互联网厂商以及像特斯拉这样有科技雄心的车企。

Quantum-X Infiniband平台将最先推出CPO版本。NVIDIA Quantum-X Photonics交换机将采用液冷设计对板载硅光器件进行高效散热,基于NVIDIA Quantum-X Photonics交换机的AI计算网络的速度是上一代产品的2倍,扩展性是上一代产品的5倍。NVIDIA计划于2026年推出Spectrum-X以太网平台的CPO版本。

NVIDIA的硅光生态系统伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries 和 TFC Communication等。NVIDIA拉起的CPO生态,借由NVIDIA的商业通路而实现商业化和产业化,或将抢先定义下一代超级公有云的基建标准和范式。

在重新定义下一代超级公有云智算中心网络标准的同时,NVIDIA也在重新定义智算中心企业存储方案,即搭载由 NVIDIA加速计算、网络和软件驱动的AI查询智能体的NVIDIA AI数据平台,以满足AI推理工作负载要求。与面向百万GPU的CPO交换机不同,AI查询智能体当下就能被云厂商、电信运营商、互联网公司和企业所使用。

AI查询智能体的核心作用是作为智能 AI路由器,通过高速、低延迟的网络实现负载均衡,并交换提示和键值 (KV) 缓存,从而提高推理速度和准确性。AI查询智能体平台采用了 NVIDIA Blackwell GPU、BlueField DPU、Spectrum-X网络和NVIDIA AI Enterprise 软件,这些都是当下即可获得的产品、技术和方案。AI查询智能体可优化AI工作负载在GPU、节点和大语言模型内存管理之间的分配,加速数据处理并实现可扩展的复杂AI工作流。

在GTC 2025上,黄仁勋再次强调了新一代“AI工厂”的概念,即面向生成式AI的“AI工厂”,将以生产“Token”作为主要产品,这与之前面向模式识别和分析预测等传统“AI工厂”有极大的不同。基于此,NVIDIA正在重新定义网络和存储等生成式AI智算新基建。(文/宁川)

相关内容

热门资讯

原创 预... 从销量上来看,两千元左右的手机更受大众消费者的喜爱,这其中爆发了不少爆款手机,而国内各大手机厂商也都...
“最准最快最久最少”纷纷亮相,... 医疗器械及医药保健展区一直都是进博会上“最卷”的展区之一。要得到关注,不拿出“绝活”不行。在本届进博...
eaapp错误代码ec201怎... eaapp是许多玩家常用的游戏平台之一,像ea的体育竞技类游戏,在游戏市场中热度极高。但一些玩家在使...
新型显示产业前景广阔 ● 本报记者 康曦 12月19日-20日,以“显示无处不在·映照万千气象”为主题的世界显示产业创新发...
大模型专题:6G网络面向大模型... 今天分享的是:大模型专题:6G网络面向大模型的分布式学习白皮书 报告共计:24页 6G网络愿景是实现...
努比亚Z70 Ultra星空版... 近日,努比亚手机官方宣布,其最新旗舰机型Z70 Ultra星空典藏版将于2024年11月21日正式发...
原创 千... 在上个月联发科抢先高通,率先发布了自己的新款旗舰处理器天玑9400,并且在新机这块也比搭载高通的骁龙...
空净十大品牌IAM“净润大师”... 11月5日,第七届中国国际进口博览会在上海拉开帷幕。本届进博会立足全球视野和创新科技,为推动中国高水...
星海系列:人形机器人与AI大模... 今天分享的是:星海系列:人形机器人与AI大模型之Robot+AI的Transformer之旅 报告共...
经济日报观察:国产手机为何集体... 近1个月来,国产手机新品密集发布。华为终端负责人日前在社交媒体透露,备受关注的华为Mate70系列手...