Workflow
赤兔推理引擎
icon
搜索文档
ChinaSC 2025:产学研聚力,解锁智能算力经济新未来!
财经网· 2025-11-10 16:34
2025年11月8日,以"智算力 大模型 新经济"为主题的ChinaSC 2025第七届中国超级算力大会暨中国智能 计算产业联盟理事会年会在北京盛大召开。作为国内算力领域年度标杆盛会,本届大会围绕中国算力发 展的技术趋势与政策方向展开了深度研讨,就智算产业发展方向、算力领域技术创新、算力服务产业上 下游协作、算力生态产业链发展等话题进行了分享和交流,以共探算力新未来。 继上午中国工程院院士、清华大学计算机学院郑纬民教授,中国科学院院士、北京航空航天大学钱德沛 教授,中国工程院院士、启元实验室廖湘科主任,北京应用物理与计算数学研究所袁国兴研究员等专 家、学者和企业界嘉宾发表多个主题分享和深度研讨,全国政协委员 中国科学院计算技术研究所张云 泉研究员重磅发布《2025中国高性能计算机性能TOP100排行榜》同步揭晓《2025中国算力领军企业 奖》及《2025中国算力经典应用案例》。下午环节中,清华大学计算机系长聘翟季冬教授正式发布 《2025国际人工智能性能AIPerf500排行榜》,中国船舶工业、北龙超级云、清程极智、安康机场投资 有限公司、微软亚洲研究院、联泰集群、华弘数科、中科蓝智等单位嘉宾依次登台发表主题 ...
品高股份全新思路的软硬件结合技术 助力AI领域实现突破性进展
全景网· 2025-10-21 17:36
行业趋势 - AI软件能力升级,降低对硬件性能的依赖,成为行业新突破口 [1] - 现代AI算法对硬件误差和噪声的容忍度显著提升,即便面对性能存在差距的国产芯片,也能通过软件优化实现预期效果 [2] - 国内企业与科研机构加码软件优化,例如清华团队的“八卦炉”训练系统与“赤兔”推理引擎、月之暗面的资源调度策略、阿里云的“AI原生应用工厂”,共同指向“软件赋能硬件”的发展方向 [2] 公司技术方案 - 公司提出软硬件结合技术路线,通过软件层面的深度创新激活国产芯片潜力 [1][3] - 公司联合江原科技推出的“品原AI一体机”搭载国产芯片,结合自研4D并行调度策略与算子融合技术,将DeepSeek-R1大模型响应速度提升30%,单卡能效比提升至主流GPU的2.5倍 [3] - 公司自研BingoAIInfra智能算力调度平台具备驱动级GPU切割能力和云原生调度能力,可对国产GPU资源进行精细化管理,实现“按需切割、灵活分配”,该产品已在多个大型智算中心项目中成功落地 [4] - 作为江原科技芯片的代理商,公司将随芯片迭代及时推出搭载最新芯片的AI一体机 [3] 公司生态布局 - 公司构建“硬件-软件-生态”全链路自主可控体系,战略投资国内自主可控芯片企业,覆盖推理芯片、通感算一体化芯片、UWB超宽带感知芯片等方向,推动“云-边-端”全链路国产化 [5] - 公司联合国产算力芯片公司共同打造国产算子库、优化推理底层算子,并与高校、芯片企业共建联合研发中心,为被投企业提供技术赋能 [5] - 公司旗下品高云操作系统向下支持全部典型国产异构芯片服务器与国产操作系统,向上兼容国产数据库、中间件及信创行业应用,形成全链路自主可控体系 [5]
推理、训练、数据全链条的工程挑战,谁在构建中国 AI 的底层能力?|AICon 北京
AI前线· 2025-06-16 15:37
大模型系统性问题与国产AI挑战 - 大模型发展面临推理慢、训练不稳、数据迁移难等系统性挑战 这些因素决定技术规模化落地能力 [1] - 国产AI需解决算力适配、系统容错、数据合规等现实问题 特别是摆脱对进口芯片的依赖 [1] - AICon大会将聚焦国产芯片推理适配、开源部署、训练容错机制等七大关键议题 覆盖基础设施建设全貌 [1] 国产算力与推理优化技术 - 清程极智开源赤兔推理引擎 实现在非英伟达Hopper架构及国产芯片上原生运行FP8精度模型 解决硬件成本高企问题 [4] - 华为昇腾推出DeepSeek大模型推理架构 提供性能优化方案与专家并行调度技术 加速国产算力平台部署 [5][6] - 京东零售分享LLM推理优化实践 通过请求调度与流水线执行技术 平衡高吞吐与低延迟的零售级需求 [7][8] 训练系统与开源生态 - 蚂蚁集团开源DLRover框架 解决万卡规模训练的稳定性问题 包含分布式容错与国产卡适配经验 [11] - SGLang推理引擎整合专家并行、推测解码等前沿技术 实现DeepSeek V3等开源模型低成本部署 [9][10] - 阿里巴巴探讨强化学习系统发展 涵盖RLHF架构、自对齐算法及开源生态建设方向 [8][9] 数据基础设施演进 - Zilliz推出向量数据库云原生方案 解决GenAI场景下的数据迁移、BYOC部署和Schema演进问题 [12] - 行业面临传统数据库架构不适应AI需求的问题 需构建企业级向量数据管理平台 [12] 行业动态与人才流动 - 百度大幅扩招AI人才 岗位数量增长超60% 反映行业对顶尖技术人才的激烈争夺 [12] - 阶跃星辰高管转投京东 显示头部企业间核心人才竞争白热化 [12] - ClaudeCode获企业青睐 日均使用成本达1000美元/员工 凸显高性能AI工具的商业价值 [12]