Workflow
AI infra工具链
icon
搜索文档
存力中国行暨先进存力AI推理工作研讨会在京顺利召开
证券日报网· 2025-11-07 15:29
中国信息通信研究院首席专家石友康出席研讨会并致辞,中国信息通信研究院云大所总工程师郭亮主 持。中国移动(600941)云能力中心项目总师周宇,华为数据存储产品线战略与业务发展部总裁王旭 东,北京硅基流动科技有限公司解决方案总监唐安波发表主题演讲。 研讨会上,中国信息通信研究院首席专家石友康深刻阐述了当前AI规模化应用推进,推理环节的成 本、效率、质量问题凸显,先进存力成为提升AI推理效能、控制成本的关键。当前,国家高度重视先 进存力发展,在《算力基础设施高质量发展行动计划》等政策中明确提出"加速存力技术研发应用""持 续提升存储产业能力""推动存算网协同发展",为产业发展指明了方向。中国信息通信研究院在政策研 究、标准制定、测试服务等方面开展多项工作,并联合产业链企业成立"算力产业发展方阵先进存力AI 推理工作组",同时提出了三点建议:鼓励前沿存储技术研发创新,推动存算运深度融合,加强存算协 同产业生态建设,呼吁业界同仁凝聚共识,共同推动我国存算协同发展。 唐安波在会上围绕大模型推理"推不动、推得慢、推得贵"问题展开分享,硅基流动构建的AI infra工具 链,聚焦提升算力利用率。核心推理框架适配100多款开 ...
Token经济时代,AI推理跑不快的瓶颈是“存力”?
钛媒体APP· 2025-11-07 12:08
在日前由中国信息通信研究院组织的"先进存力 AI 推理工作研讨会"上,行业嘉宾达成共识,推理时代 的性能瓶颈、成本压力和体验优化,正在从算力侧转移到存储侧,先进存力不再是配角,而是推动 AI 真正落地的主动力量之一。 推理,正在改变 AI 产业的优先级 如果说过去两年是"参数规模"的军备竞赛,那么 2025 年开始的阶段则更接近"推理效率"的商业竞争。 Token调用量爆发式增长,推理成本持续攀升,在AI推理的性能指标中,都是以"Token数"为量纲。 AI加速落地,意味着"Token经济"的时代。模型训练可以只发生在几个大型企业的超级节点中,但模型 推理则遍布千行百业、无数产品端,决定着实际用户体验、服务成本和业务可持续性。 推理负载的根本变化集中在三个方面: 第一,长上下文和复杂任务让 KVCache 从模型的"临时记忆"变成影响性能的核心资产,其容量随 输入长度呈指数级增长; 第二,多模态从文本扩展到图像、音频、视频和时序数据,原本简单的顺序读写I/O模式已无法满 足实时推理的复杂需求; 第三,训推一体化趋势加速,模型在持续迭代和增量更新,推理系统需要在高负载下保持一致 性、低延迟和稳定性。 大模型产业 ...