文章核心观点 - 国产GPU从性能追赶迈向高价值应用竞争,天数智芯天垓300实测端到端吞吐达到H200的1.05倍,成为国内首个实测性能达到H200水平的通用GPU,标志国产通用GPU迈过重要性能门槛,从解决"能不能用"转向比拼实际产出、运行效率和经济价值 [2] - 公司以"高质量算力"(高效率、可预期、可持续)为阶段标准,通过云端生产智能、软件加速适配优化、端侧让智能进入更多现场,形成高质量算力持续生长的增强回路 [3] 一、天垓300实测对标H200 - 第三方权威机构今年7月针对四大主流模型、三类场景开展测试,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,比较的是整条推理链路的实际输出能力而非理论峰值 [4] - 64K长上下文下Attention性能为H200的1.05倍;GLM-5.3模型64K规模下MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;搜广推在线业务中推荐推理吞吐提升21%、轻量计算时延降低26% [5] - 训练方面,基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍;以1024张卡对已有预训练基座开展一次强化学习,40B激活参数中心情景下约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务 [6] 二、Token工厂与高质量算力三要素 - 日均Token调用量较2024年初增长上千倍,Token工厂成为算力规模化落地热门形态;高效率方面,单位Token成本很大程度取决于设备投入和有效吞吐,天垓300折算单卡端到端吞吐达H200的1.05倍 [6] - 可预期方面,天垓300满负荷运行步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,保障利用率与可用率 [7] - 可持续方面,天垓300通用架构原生支持CUDA语义,主流框架均已适配,提供从加速卡、服务器到超节点的不同部署形态 [7] 三、异构计算与开放平台 - 天垓300提供开放、可组合的异构计算平台解决方案,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商加速卡、专用芯片协同 [7] - AFD分离方案中,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商XPU承担FFN专家网络,实测Decoding推理延迟可降低60%,是国内第一个基于GPU+XPU的异构部署AFD分离方案 [7] - 公司认为未来AI算力系统不一定由一种芯片包打天下,关键在于高效组织各类芯片让整个系统发挥更大价值,通过开放异构计算能力让客户充分利用已有算力资产 [8] 四、科学智算与物理AI - 天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架,覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景,涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务 [8] - 物理AI方面,天垓300的云端仿真和计算能力让机器人动作学习与策略验证更充分 [9] 五、规模化交付与超节点 - 天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案;天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是业界密度最高的单机柜GPU超节点,每百万有效Token成本较国际主流方案可降低约40% [9] - 新一代P2P互联引擎面向Scale-up和Scale-out,目标将域内单次传输延迟由3—5微秒降至1微秒,支持统一内存语义编程及大EP将专家权重分散到更多核心 [9] 六、天数智算软件栈与Agentic AI - 公司围绕"易于使用、易于优化、易于开发"三个层次展示天数智算软件栈全面拥抱Agentic AI的系统性布局,将软件栈、专业工具与工程经验同Agent技术结合 [12] - 易于使用方面,模型PD分离部署实测中环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步 [12] - 易于优化方面,某大模型调优任务实测工作周期由7天缩短至2小时内,相同硬件、模型和精度要求下相关任务运行性能较优化前接近翻倍 [12] - 易于开发方面,公司作为首家深度接入FlyDSL的国产GPGPU厂商,某主流模型适配与调优实测中过去10人天完成的工作现在1人在小时级内完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能 [14] 七、彤央端侧产品与算力分层 - 算力分层成为现实选择:大规模训练与复杂复判留在云端,要求实时响应、涉及数据安全、需要现场闭环的任务放在端侧;公司认为云端GPU厂商做端侧不是把芯片做小,而是把能力下沉 [15] - 彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署需求;TY1200端侧算力终端标称300 TOPS稠密算力而非行业惯用的稀疏峰值,在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中性能达到Thor T5000的1.2倍 [17] - 本地部署场景中,TY1200基于MiniMax H3开源视频模型平均6分钟生成1056×608分辨率、时长5秒的视频,1376×768分辨率下平均用时11分钟,全程本地进行不产生云端调用费用,还能流畅运行推理应用并承担小模型本地训练 [17] - 物理AI场景中,TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,机器人动作学习所需大规模并行仿真可在本地终端完成;Cosmos-R2-2B和Cosmos-R2-8B测试中TY1200实测性能分别达到Thor T5000的158%和180% [18] - 应用案例方面,储能电芯研究中TY1200支持科研智能体自动采集治理实验数据并约2分钟内生成报告;应急视觉识别案例将识别准确率由70%提升至95%;搭载TY1200的陪诊机器人已在上海市阳光康复中心服务视障人士 [18] - TY1200此前已获2026工博会CIIF国芯展创新成果奖,公司预告下一代端侧产品彤央TY2000标称算力将达600T [19] 八、产业政策与云边端协同 - 算力是发展新质生产力的关键底座,中共中央、国务院《关于发展新质生产力的意见》提出全面实施"人工智能+"行动、强化算力算法数据高效供给,加快人形机器人等新一代智能终端的场景应用 [19] - 公司以贯通云端天垓300、天数智算软件栈到端侧彤央算力终端的产品体系,把高质量算力落实为可实测、可复现、可交付的有效产出,为"人工智能+"在千行百业规模落地提供支撑 [19]
天数智芯天垓300实测对标H200,并预告标称算力达600T的下一代端侧产品
IPO早知道·2026-10-29 17:11