存力中国行暨先进存力AI推理工作研讨会在京顺利召开
创始人
2025-11-08 05:00:24
0

本报记者 许林艳

11月4日,由中国信息通信研究院组织召开的“存力中国行暨先进存力AI推理工作研讨会”在北京顺利召开。本次会议深入探讨了AI时代下先进存力赋能AI大模型发展的支撑作用。

中国信息通信研究院首席专家石友康出席研讨会并致辞,中国信息通信研究院云大所总工程师郭亮主持。中国移动云能力中心项目总师周宇,华为数据存储产品线战略与业务发展部总裁王旭东,北京硅基流动科技有限公司解决方案总监唐安波发表主题演讲。

研讨会上,中国信息通信研究院首席专家石友康深刻阐述了当前AI规模化应用推进,推理环节的成本、效率、质量问题凸显,先进存力成为提升AI推理效能、控制成本的关键。当前,国家高度重视先进存力发展,在《算力基础设施高质量发展行动计划》等政策中明确提出“加速存力技术研发应用”“持续提升存储产业能力”“推动存算网协同发展”,为产业发展指明了方向。中国信息通信研究院在政策研究、标准制定、测试服务等方面开展多项工作,并联合产业链企业成立“算力产业发展方阵先进存力AI推理工作组”,同时提出了三点建议:鼓励前沿存储技术研发创新,推动存算运深度融合,加强存算协同产业生态建设,呼吁业界同仁凝聚共识,共同推动我国存算协同发展。

周宇分享了面向推理的存储技术趋势与实践,围绕推理挑战、存储破局及趋势判断展开。当前推理面临KV Cache存储需求升级、多模态数据协同、存算协同带宽不足、负载潮汐性及成本控制等挑战。移动云针对性采用分层缓存调度、高速数据互联技术提升带宽、多模数据专属存储与标准化、架构池化重组等技术破局,还通过高密全闪存储、数据缩减、自研SPU高密服务器提高存储效能和降低成本。未来趋势上,移动云推动存储从被动存储转向智算协同,分阶段落地高密全闪存储、数据高速互联、存算一体等技术,长远构建池化多体存储体系,同时强调技术整合与生态协同。

王旭东介绍了AI时代,IT基础设施能力面临三大挑战:“管不好”的数据、“喂不饱”的算力、“降不下”的成本。推理数据来源多样难以形成高质量、可持续供应的数据集,存储系统的带宽和IOPS(每秒读写次数)不足,导致GPU等昂贵算力资源长时间空闲。传统存储架构难以兼顾高吞吐、低时延及异构数据融合的需求,造成业务发展瓶颈,阻碍AI应用落地。华为针对AI推理研发的UCM推理记忆数据管理技术在行业落地中的核心作用,通过“集中高质数据、提速AI训练、优化推理效能”三个角度,打造AI推理加速解决方案。

唐安波在会上围绕大模型推理“推不动、推得慢、推得贵”问题展开分享,硅基流动构建的AI infra工具链,聚焦提升算力利用率。核心推理框架适配100多款开源大模型,并通过公有云服务平台为广大开发者和企业提供优质的大模型服务。解决方案上,结合UCM技术卸载KVCache释放显存、提升推理性能,同时通过智能网关进一步优化流量调度、弹性扩缩容等策略,来应对高并发、低延时、高吞吐、长上下文等痛点,基于存储的KVCache方案可大幅提升系统吞吐。

在内部研讨环节,参会专家围绕算力产业发展方阵先进存力AI推理工作组下一阶段工作建议进行研讨,中国移动云能力中心、华为、硅基流动、浪潮信息、清微智能、东方算芯、智元芯、算苗科技、得一微电子等工作组成员单位参与讨论,贡献实践经验。存力中国行暨先进存力AI推理工作研讨会的成功举办,为存力产业创新发展凝聚共识,指明方向。

(编辑 郭之宸)

相关内容

热门资讯

无机房电梯楼层显示器异常解决指... 电梯 无机房电梯楼层显示器异常怎么办? 别急,本文将为您详细解答。首先,我们要了解无机房电梯楼层显示...
东风汽车集团申请阻燃柔性固态电... 金融界2025年1月31日消息,国家知识产权局信息显示,东风汽车集团股份有限公司申请一项名为“一种阻...
中端性能机大乱斗:加米耀酷真,... 近期,中端手机市场迎来了多款新品,包括一加Ace 5、REDMI K80、荣耀GT、真我Neo 7以...
我市特步5G工厂入选国家5G工... 日前,工业和信息化部发布《关于2024年5G工厂名录的公示》,我市特步5G工厂入选国家5G工厂名录,...
卫星化学获得实用新型专利授权:... 证券之星消息,根据天眼查APP数据显示卫星化学(002648)新获得一项实用新型专利授权,专利名为“...
自动驾驶+跟踪巡逻+现场抓捕 ... 近日,在浙江温州的闹市区,特警巡逻队带着一台球形机器人一起巡街,引来不少路人的关注。 球形“机器警察...
360智脑张向征:构建安全可信... 人工智能的加速发展,有力推动了社会的数智化转型;与此同时,带来的相关安全风险也日益凸显。近日,在北京...
原创 3... 一、iQOO 12 参考价格:2659元(12G+256G)。 性能强劲,游戏无忧 首先不得...
2025年消脂设备产业数据报告 消脂仪是医学美容领域的医疗器械。 它使用激光和微波等设备根据其波长向真皮/皮下平面发射能量; 通过加...
良求机械取得一种高速升降机专利... 金融界2024年12月10日消息,国家知识产权局信息显示,良求机械有限公司取得一项名为“一种高速升降...