文章核心观点 - 天数智芯作为今年1月登陆港股的通用GPU公司,首次系统性展示产品全貌,核心主张是端侧算力正从“连接云端做推理”转向“独立完成训练-推理-部署全链路”,并通过“端云同源”架构推动算力分层落地 [3][21][24] - 公司以彤央TY1200端侧算力终端实现国内端侧产品首次GPU加速物理仿真引擎本地运行,实测性能超越英伟达Thor T5000,标志国产端侧算力进入新阶段 [6][7][12] - 行业层面,国产算力正从追求算力规模扩张转向重视实际产出与长期使用价值,以“高质量算力”(高效率、可预期、可持续)作为统一衡量标准 [34][35][36] 端侧机会与模型趋势 - 斯坦福HAI《2025 AI Index》显示,MMLU跨过60%得分门槛的最小模型参数规模从2022年的5400亿降至2024年的38亿,达到一定能力水平所需模型体量正飞速缩小 [11] - 英伟达在发布Jetson新模组时表示,通用机器人和自主机器正从研究机构走向大众市场,催生对边缘运行基础模型、紧凑高能效AI超级计算机的需求 [11] - 端侧算力芯片算力密度和能效比逐代提升,与模型小型化两条曲线交汇,彤央TY1200定位于这一交叉点 [11] 彤央TY1200产品与实测表现 - 彤央TY1200稠密算力标称值为300 TOPS,实测性能超越英伟达Thor T5000,一台终端独立完成从环境构建、策略训练到实时仿真的全流程 [6][7] - LLM实测:运行Qwen3.8-27B-AWQ生成吞吐达Thor T5000对照方案的1.38倍,Qwen3.6-35B-A3B-AWQ上为1.10倍 [14] - 视觉语言模型测试:运行Qwen2.5-VL-3B-Instruct时生成吞吐为Thor T5000的1.80倍,Batch Size到32时为1.18倍 [14] - VLA测试:在Cosmos-R2-2B和Cosmos-R2-8B上分别为Thor的1.58倍和1.80倍 [15] - 实机对比:TY1200用0.223秒开始返回首个Token(Thor T5000为0.411秒),生成速度达每秒30.21 Token(Thor为每秒24.46 Token) [15] - 同台亮相的还有算力卡天垓300云端通用GPU,以及“用AI开发AI”的软件栈 [8] 端侧应用场景落地 - 实验室:天数智芯联合河海大学新能源学院与常州电池协会打造储能电芯研发垂直AI智能体,部署于河海大学金坛校区电池材料分析实验平台,打通仪器数据采集、清洗校验、结构化入库到智能分析、报告生成全流程,仅需约2分钟生成分析报告 [17] - 机器狗:人脸检测、识别及相关决策均由搭载的TY1000模组在本地完成,实现实时感知与目标跟随 [18] - 博物馆:TY1200支持“白天工作、夜间训练”,白天承载视觉、语音与大模型结合的智能导览,夜间用于CV小模型训练,提高算力资源利用效率 [19] - 医院:由TY1200提供算力支持的陪诊机器人已在上海市阳光康复中心投入使用,为视障人士提供路线引导、就诊流程指引等服务 [20] 算力分层的驱动逻辑 - 业务变了:物理AI兴起使数据直接产生于真实世界,机器人、工业设备对实时响应要求提高,企业对数据安全和隐私的重视催生合同、财务、源代码等敏感信息本地处理需求 [22] - 技术变了:模型变得越来越“小而强”,端侧设备已能承载越来越多真正有用的AI能力 [22] - 商业资源变了:AI从尝鲜走向规模化应用,企业开始计算Token成本、设备投入与长期使用效率,高频稳定本地任务可通过端侧部署减少持续调用云端API的开销 [22] - 算力分层逻辑:复杂任务由云端承担,实时性要求高、适合就地处理的任务下沉到边端,让每一份算力用在最能发挥价值的位置 [23] - “端云同源”:云端积累的GPU架构、软件栈和模型优化经验复用到边端,通过统一GPU架构和软件生态降低模型迁移与应用适配成本 [24] 产品矩阵布局 - 彤央系列构建“1套生态、2种形态、5款产品”的完整矩阵 [25] - “1套生态”指端侧沿用云端通用GPU架构和完整软件栈,云端与端侧共享技术生态 [26] - “2种形态”为面向研发客户、支持灵活集成的算力模组,以及面向业务客户、主打即插即用的算力终端 [26] - “5款产品”覆盖从轻量级到旗舰级的不同算力档位 [26] - 行业参照:英伟达Jetson产品线覆盖从70 TOPS到2000 TFLOPS的不同算力档位,适应从轻量级边缘AI到高性能机器人计算的多样化需求 [25] 软件栈与“用AI开发AI” - 大模型编程能力正在改变CUDA生态护城河:字节跳动Seed与清华大学AIR发布CUDAAgent,在KernelBench三个难度子集上生成Kernel快于PyTorch实现的比例分别达100%、100%和92%;英伟达推出Jetson Agent Skills,把原本需数周的优化缩短到数天 [28] - 天数智芯将Agentic AI引入GPU软件开发,核心思路为“易于使用、易于优化、易于开发”三个层次 [29][30] - Easy to Use:将某大模型PD分离部署时间从数小时缩短至10分钟以内 [37] - Easy to Optimize:借助自动化工具链,将典型场景原本需要7天的优化工作缩短至2小时,相关任务运行性能较优化前接近翻倍 [37] - Easy to Develop:作为首家深度接入FlyDSL的国产GPGPU厂商,结合Agentic AI开发范式,原本需要10人天的Kernel开发任务有望在1人小时级别完成 [37] - 方法论总结为“用AI开发AI”,使GPGPU生态建设从依赖人力堆叠转向AI驱动的自动化迭代 [32] - “Agentic AI让一位工程师的经验,能够持续服务千千万万开发者” [33] 行业趋势与商业化信号 - 国产算力卡过去更多扮演“备选项”角色,客户在供应受限时为可用性让步;如今行业正跨过门槛,从算力规模快速扩张转向重视实际产出和长期使用价值 [34] - 据国家数据局披露,Token已成为连接技术供给与商业需求的“结算单位”,今年以来有大模型企业仅用20天就超过2025年全年收入,以Token为计费基础的新商业逻辑加速成形 [34] - 高质量算力的核心逻辑为高效率、可预期、可持续,是国产算力从性能追赶走向产业竞争必须回答的问题 [36] - 天数智芯尝试连接云端GPU、AI软件栈与端侧产品:云端负责大规模Token生产,软件栈降低开发与适配成本,端侧让智能进入更多物理场景,真实场景反馈反推模型、软件和硬件持续迭代,形成“增强回路” [36][38] - 公司预告下一代产品彤央TY2000,标称算力达600T [40]
把黄仁勋的小黄鸭训练放在本地!国产端侧600T算力即将到来