原创 GTC 2025指向云计算的下一个基建范式
创始人
2025-03-22 15:20:31
0

在去年的GTC大会上,NVIDIA 推出了产品化的万卡集群智算中心,2个月后在Computex 2024的主题演讲中,黄仁勋透露NVIDIA正在着眼十万卡互连和百万卡互连的智算中心,预计将分别在2025年和2026年推出。到了NVIDIA GTC 2025,黄仁勋推出了百万卡互连的方案——在大规模平台上实现了电子电路与光通信的融合,这就是最新推出的NVIDIA Spectrum-X™ 和NVIDIA Quantum-X 硅光网络交换机。

在Computex 2024上,NVIDIA曾提出要在2025年推出Spectrum-X800 Ultra、在2026年推出Spectrum-X1600,再配合升级的NVIDIA智能网卡等,支持百万卡互连智算中心。不过从GTC 2025来看,NVIDIA直接将Spectrum和Quantum系列升级到了CPO(光电一体化封装技术)版本。CPO是近几年发展出的新型交换机技术,有关市场调研机构将2022年视为CPO起步之年,之后虽然有交换机厂商推出了CPO交换机,但CPO整体还处于初级阶段。

黄仁勋表示,CPO技术将为百万GPU级“AI工厂”即智算中心,提供网络基础设施新范式。CPO技术的特点包括高密度、低成本、小体积和低功耗,再配合液冷散热模式,能够显著降低数据中心的能耗。NVIDIA CPO硅光网络交换机相比于可插拔光模块以及初代CPO有较大优势,包括:创新集成了光器件,减少了4倍的激光器数量,与传统方法相比,能源效率提高到3.5倍、信号完整性提高到63倍、大规模组网可靠性提高到10倍、部署速度提高到1.3倍。

简单理解,将光通信引领企业网络领域,有两种方式:一种是传统方式,即交换机+可插拔光模块;一种是初代CPO,即将光模块和ASIC芯片封装在一起。此前,台积电和博通已经开始尝试CPO与先进封装技术,也在创新相关的CPO器件以实现更好的集成效果。此次NVIDIA与台积电合作是CPO产业的重大进程,也许将定义生成式AI时代百万GPU智算中心的网络建设标准。

TSMC台积电董事长兼CEO魏哲家表示,“TSMC的硅光解决方案结合了先进的芯片工艺和 TSMC-SoIC 3D芯片封装的优势,帮助NVIDIA充分发挥AI工厂的能力,助力AI工厂扩展到100万GPU甚至更多,进而突破AI的边界。”而能够投资建设百万GPU智算中心的服务商,无疑将是超级公有云厂商和互联网厂商,包括全球前五大超级公有云厂商、顶级电信运营商和互联网厂商以及像特斯拉这样有科技雄心的车企。

Quantum-X Infiniband平台将最先推出CPO版本。NVIDIA Quantum-X Photonics交换机将采用液冷设计对板载硅光器件进行高效散热,基于NVIDIA Quantum-X Photonics交换机的AI计算网络的速度是上一代产品的2倍,扩展性是上一代产品的5倍。NVIDIA计划于2026年推出Spectrum-X以太网平台的CPO版本。

NVIDIA的硅光生态系统伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries 和 TFC Communication等。NVIDIA拉起的CPO生态,借由NVIDIA的商业通路而实现商业化和产业化,或将抢先定义下一代超级公有云的基建标准和范式。

在重新定义下一代超级公有云智算中心网络标准的同时,NVIDIA也在重新定义智算中心企业存储方案,即搭载由 NVIDIA加速计算、网络和软件驱动的AI查询智能体的NVIDIA AI数据平台,以满足AI推理工作负载要求。与面向百万GPU的CPO交换机不同,AI查询智能体当下就能被云厂商、电信运营商、互联网公司和企业所使用。

AI查询智能体的核心作用是作为智能 AI路由器,通过高速、低延迟的网络实现负载均衡,并交换提示和键值 (KV) 缓存,从而提高推理速度和准确性。AI查询智能体平台采用了 NVIDIA Blackwell GPU、BlueField DPU、Spectrum-X网络和NVIDIA AI Enterprise 软件,这些都是当下即可获得的产品、技术和方案。AI查询智能体可优化AI工作负载在GPU、节点和大语言模型内存管理之间的分配,加速数据处理并实现可扩展的复杂AI工作流。

在GTC 2025上,黄仁勋再次强调了新一代“AI工厂”的概念,即面向生成式AI的“AI工厂”,将以生产“Token”作为主要产品,这与之前面向模式识别和分析预测等传统“AI工厂”有极大的不同。基于此,NVIDIA正在重新定义网络和存储等生成式AI智算新基建。(文/宁川)

相关内容

热门资讯

无机房电梯楼层显示器异常解决指... 电梯 无机房电梯楼层显示器异常怎么办? 别急,本文将为您详细解答。首先,我们要了解无机房电梯楼层显示...
东风汽车集团申请阻燃柔性固态电... 金融界2025年1月31日消息,国家知识产权局信息显示,东风汽车集团股份有限公司申请一项名为“一种阻...
中端性能机大乱斗:加米耀酷真,... 近期,中端手机市场迎来了多款新品,包括一加Ace 5、REDMI K80、荣耀GT、真我Neo 7以...
我市特步5G工厂入选国家5G工... 日前,工业和信息化部发布《关于2024年5G工厂名录的公示》,我市特步5G工厂入选国家5G工厂名录,...
卫星化学获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示卫星化学(002648)新获得一项实用新型专利授权,专利名为“...
自动驾驶+跟踪巡逻+现场抓捕 ... 近日,在浙江温州的闹市区,特警巡逻队带着一台球形机器人一起巡街,引来不少路人的关注。 球形“机器警察...
360智脑张向征:构建安全可信... 人工智能的加速发展,有力推动了社会的数智化转型;与此同时,带来的相关安全风险也日益凸显。近日,在北京...
原创 3... 一、iQOO 12 参考价格:2659元(12G+256G)。 性能强劲,游戏无忧 首先不得...
联想宣布旗下AIPC个人智能体... DoNews2月7日消息,近日,联想宣布个人智能体“小天”已接入DeepSeek,除了目前可以在联想...
2025年消脂设备产业数据报告 消脂仪是医学美容领域的医疗器械。 它使用激光和微波等设备根据其波长向真皮/皮下平面发射能量; 通过加...