衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 与之伴随而来的还有另一个消息： 如果推理模型保持「每3-5个月都以10倍速度增长」，那么推理训练所需的算力可能会大幅收敛。 就像DeepSeek-R1之于OpenAI o1-preview那样。 一年之内，大模型推理训练可能就会撞墙。 以上结论来自Epoch AI。 这是一个专注于人工智能研究和基准测试的非营利组织，之前名动一时的FrontierMath基准测试 （评估AI模型数学推理能力） 就出自它家。 看了这个结果，有围观网友都着急了： 既然在o3基础上再scaling非常困难，那 为啥咱不探索模块化架构或针对特定任务的专用模型呢？ "效率"比"研究过剩"更重要！ 推理训练还有scalable的空间 OpenAI的o1是推理模型的开山之作。 OpenAI表示，与o1相比，训练o3所需的算力提升了10倍——提升部分几乎都花在了训练阶段。 OpenAI没有公开o1、o3的具体细节，但可以从DeepSeek-R1、微软Phi-4-reasoning、英伟达Llama-Nemotron等其它推理模型。它们 所需的推理训练阶段算力耕地，但可以根据它们进行推演。 ...

公司概况 - 阶跃星辰由前微软全球副总裁姜大昕于2023年创立，总部位于上海，北京办公室距离微软中国办公地仅504米 [1] - 公司核心管理团队包括CEO姜大昕（战略与技术研发）、首席科学家张祥雨（技术研发）、系统负责人朱亦博（AI基础设施） [1] - 公司员工规模达400余人，其中80%为技术研发人员，采用扁平化管理模式，员工可通过私信直接与CEO沟通 [2] - 2024年12月完成B轮数亿美元融资，是"AI六小虎"中少数坚持预训练路线的公司 [3] 技术战略 - 核心聚焦多模态基础模型研发，坚持"理解生成一体化架构"技术路线，认为这是实现AGI的必经之路 [1][11] - 已建立Step系列通用大模型矩阵，涵盖语言模型和多模态模型，2024年下半年多模态API调用量增长超45倍 [1][11] - 2025年1月发布推理模型Step R1-V-Mini，计划未来三个月推出满血版Step-R1 [14] - 近期将算法团队重组为"生成理解"团队，体现对理解生成一体化架构的重视 [1] 行业趋势判断 - 多模态领域尚未出现"GPT-4时刻"，核心瓶颈在于缺乏统一的理解生成一体化架构 [1] - 模型演进路径分为三阶段：模拟世界（模仿训练）→探索世界（强化学习）→归纳世界（自主发现规律） [5][7] - 当前两大技术趋势：1) 将长思维链推理能力融入语言/多模态模型 2) 视觉领域理解生成一体化 [18][19] - 智能体(Agent)发展需要两个条件：多模态能力和慢思考能力，2024年这两方面取得突破性进展 [31] 产品应用 - 主要收入来源：面向品牌客户的ToB服务和面向开发者的API接口业务 [3] - 已推出Step 1X-Edit图片编辑模型，采用初级理解生成一体化技术，未来几个月将发布更先进版本 [30] - 重点布局智能终端Agent生态，与手机、汽车、机器人领域头部企业合作，提供云端Agent开发平台 [34][35] - 实际应用案例包括茶百道/瑞幸门店巡店系统，通过视觉推理实现90%以上的操作规范检测准确率 [17] 竞争格局 - 基础模型领域竞争激烈，过去半年仅OpenAI/Google/Meta/Grok/Anthropic就发布不少于8款新品 [3] - 国内竞争对手包括月之暗面、MiniMax等，但阶跃星辰在多模态覆盖广度和原生多模理念上具有差异化优势 [3][12] - 公司认为当前竞争焦点仍是"追求智能上限"，将持续投入强化学习和多模态前沿技术研发 [4][15]

推理模型发展现状 - 著名AI技术博主Sebastian Raschka正在撰写新书《Reasoning From Scratch》，聚焦LLM推理机制实现[2] - 当前LLM的成功主要依赖统计模式识别，而新兴推理技术使其能处理逻辑难题、多步骤算术等复杂任务[5] - OpenAI的o1模型和深度求索的DeepSeek-R1标志着推理能力成为行业焦点[41][44] LLM推理的核心定义 - LLM语境中的推理指模型生成中间步骤（思维链CoT）后输出最终答案的能力[8] - 推理过程可能展示中间步骤，但其底层机制与人类认知存在本质差异[12][13] - 推理与模式匹配的根本区别在于：前者需逻辑推导，后者仅复现训练数据中的统计关联[23][25] LLM训练流程 - 传统训练分两阶段：预训练（TB级文本学习语言模式）和后训练（指令微调+偏好微调）[16][17] - 预训练成本极高（数千GPU运行数月/数百万美元），使模型具备翻译、代码生成等涌现能力[17] - 后训练阶段通过SFT提升任务理解能力，通过偏好微调优化输出风格[20] 模式匹配与逻辑推理对比 - 标准LLM（如GPT-4o）通过高频搭配记忆回答问题（如「德国→柏林」），非真实推理[24] - 面对矛盾前提（「所有鸟都会飞但企鹅不会」），普通LLM依赖训练数据中的文字概率而非逻辑检查[28][30] - 大规模训练使模型能模拟推理行为，但遇到全新题型、复杂推导时仍易出错[36][37] 推理能力提升方法 - 推断时间计算增强：通过思维链等技术在推理阶段提升性能，无需修改模型权重[46] - 强化学习：基于数学证明正确性等客观奖励信号动态优化推理策略[47] - 知识蒸馏：将高性能模型的推理模式迁移至轻量化模型，需专用推理任务数据集[48][49] 推理模型的应用权衡 - 推理模型适用于数学证明、编程等复杂任务，但对翻译、问答等简单任务效率低下[56] - 生成更长中间步骤导致计算成本倍增（API计费按token数量）[57] - 行业趋势显示主流厂商正将推理能力整合至通用模型（如OpenAI计划统一GPT与o系列）[54][55] 实践价值 - 从头实现推理模型可深入理解LLM能力边界与计算成本权衡[51][57] - 深度求索开源方案推动行业技术透明化，降低开发门槛[52] - 专用推理模型需与通用模型配合使用，形成任务适配的技术矩阵[56]

大模型行业发展趋势 - 2025年春节前DeepSeek-R1模型发布成为行业分水岭，重新定义中国大模型叙事逻辑 [8][10] - 2023年国内开启"百模大战"，2024年"AI六小虎"成为主角，智谱累计融资40亿元，月之暗面融资超13亿美元 [10] - 2025年行业主题转变为"六大推理模型迎战OpenAI"，百度、阿里、字节、腾讯、科大讯飞等厂商快速跟进发布推理模型 [10][19] 技术路线演变 - OpenAI模型体系分为GPT系列和o系列，2024年o1发布标志转向"结构化推理"能力 [12][15] - 大模型范式从预训练参数Scaling Law转向强化学习推理计算新Scaling Law [15] - GPT系列将逐步退出，GPT4将于2025年4月30日退役，完全被GPT4o取代 [15] 国内主要厂商动态 - DeepSeek-R1训练成本仅560万美元，远低于美国公司数千万美元投入，具有极致性价比 [23] - 百度文心X1采用"思维链-行动链"协同训练，可自动拆解复杂任务为20多个推理步骤 [23] - 科大讯飞星火X1基于全国产算力训练，在重点行业测试中超越OpenAI和DeepSeek [25] - 字节豆包模型价格降至0.0008元/千Tokens，主导行业价格战 [25] - 腾讯混元通过集团资源倾斜实现逆袭，2025年春节后获得重点推广 [25] 行业竞争格局 - 国内六大推理模型水平接近OpenAI o3，部分测试指标实现超越 [22] - 模型性能只是客户选择标准之一，还需考虑数据、生态等多方面因素 [25] - AI六小虎面临转型压力，方向与大厂重合但资源依赖大厂 [28] 国产化进程 - 英伟达可能暂停RTX 5090D供应，加剧行业"卡脖子"风险 [28] - 科大讯飞通过四大核心技术优化实现MoE模型集群推理性能翻倍 [28] - 全栈国产化大模型有望成为新主流，摆脱国际环境制约 [28][29]

实验数据显示，在低资源情况 （即少token数量、少模型参数） 或低延迟情况下，Nothinking方法得出的结果均优于Thinking方法的结果， 实现比传统思考方式更好的精度- 延迟权衡。 其他情况下，NoThinking方法在部分数据集上的表现也能超越Thinking。 衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 其实…… 不用大段大段思考，推理模型也能有效推理！ 是不是有点反常识？因为大家的一贯印象里，推理模型之所以能力强大、能给出准确的有效答案，靠的就是长篇累牍的推理过程。 这个过程往往用时很长，等同于需要消耗大量算力。已经有一些研究尝试提高推理效率，但大多仍依赖显式思考过程。 来自UC伯克利和艾伦实验室团队的最新研究结果打破了这一刻板印象—— 通过简单的prompt绕过「思考」这一过程直接生成解决方案，可能同样有效，甚至更好。 这种方法被称为 "无思考（NoThinking）"方法 。 「思考」和「无思考」 研究团队以DeepSeek-R1-Distill-Qwen模型为基础，提出了NoThinking方法。 咱们先来分辨一下Thinking和NoThinking的区别在哪里。 Thin ...

编辑 | 硬 AI OpenAI最新模型取得突破性进展：具备原创构思能力。 点击 上方 硬AI 关注我们 据介绍，最新模型不仅能总结研究论文或解决数学问题，还能够独立提出新构思，连接不同领域的概念，提出创新性实验 设计，完成需要科学家跨领域合作才能实现的成果，相当于"博士水平AI"。 硬·AI 作者 | 李笑寅 据媒体援引知情人士消息， OpenAI最早将在本周发布代号为o3或o4-mini的新模型， 该模型不仅能总结 研究论文或解决数学问题，还能够独立提出新构思，连接不同领域的概念，提出创新性实验设计。 据介绍，即将推出的新模型能同时利用物理学、工程学和生物学等多个领域的知识，提供跨学科的解决方 案，而科学家通常需要跨领域合作才能实现类似成果，相当"博士水平AI"。 硬·AI OpenAI总裁Greg Brockman在2月的"AI研讨会"活动上曾表示： "我们真正的方向是开发能够花大量时间认真思考重要科学问题的模型，我希望在未来几年内，这将 使所有人的效率提高10倍或100倍。" * 感谢阅读！ * 转载、合作、交流请留言，线索、数据、商业合作请加微信：IngAI2023 * 欢迎大家在留言区分享您的看法 ...

文章核心观点 智谱在3月31日中关村论坛闭幕式现场推出新模型反击DeepSeek，同时公司在商业化布局、技术研发等方面有相应规划和思考，以应对行业变化和挑战 [2][6] 公司动态 - 3月31日智谱在智能体产品和基座模型两大维度分别推出"AutoGLM沉思模型"和推理模型GLM - Z1 - Air，Air用32B参数比肩671B的DeepSeek R1模型，价格仅为其1/30，且将于4月14日正式开源 [2] - 智谱CEO张鹏称公司在为IPO铺路但无具体计划，商业化以端侧为切口渗透七大行业，还宣布与东盟十国及“一带一路”沿线国家共建“自主大模型共建联盟” [6] - 智谱2023年开始在Agent领域投入，现阶段认为进入可大规模应用和落地阶段 [16] - 智谱会对具身智能进行相应布局，但还需时间 [19] 行业现状 - 2025年大模型圈“预训练”难成关键词，大模型六小虎中百川智能大批核心成员离职并砍掉部分业务，零一万物放弃万亿参数赛道转向B端业务 [3] - 自2025年初DeepSeek以“成本优势 + 开源”撕开市场缺口，头部云厂商依托生态优势卡位，大模型创业公司用价格力挽狂澜 [9] - 第一季度资本对大模型初创公司失去耐心，除智谱连续拿到地方产投融资，无市场化资本进入其余大模型企业 [4] - 大模型企业面临商业化难题，预训练未能让基座模型厂商形成护城河 [5][6] 对话问答 开源策略与商业化 - 开源是智谱从第一天开始坚持的事，宣布2025年为开源年是考虑DeepSeek对技术生态和认知的影响，公司认为模型即服务（MaaS）会落地，开源与否不是关键问题 [12] 预训练与推理模型 - 预训练仍很重要，是RL等方法的基座模型天花板，其中预训练的架构、数据使用效率等有很多待研究点 [13] - 推理模型在泛用性任务上表现不及预期，但技术改进会产生新可能，其应用受技术发展阶段影响 [14] 融资计划 - 实现AGI路程长，从0到1开拓试错成本高，公司走在前面的部分需加大投入 [15] Agent领域 - Agent核心能力是模型本身能力和感知环境与环境智能交互能力，AutoGLM更早用于手机端，其他端侧也可接入，但存在设备交互方式和硬件适配问题 [17] 战略层面 - 公司定位技术驱动，技术研发和商业化两条腿动态调整，目前核心任务和资源投入仍侧重技术研发 [21] 落地预期 - 去年公司整体实现超100%增长，今年预计市场呈十倍以上增长，公司会保持稳定商业化落地速度和效益 [22]

图片来源： a16z Z Highlights 在这段访谈中 a16z 合伙人 Guido Appenzeller 和 Marco Mascorro 一同揭开了 DeepSeek 的工作原理，并解释了推理模型时代对人工智能的意义。 开源透明，点燃推理革命 Guido Appenzeller: 大家好，今天我们将深入探讨 DeepSeek ，这个来自中国的全新高性能推理模型。 DeepSeek 在上个月引起了广泛关注，它在排行榜上 名列前茅，但也引发了一些担忧和困惑。 Marco Mascorro: 是的，这不太理想。 Guido Appenzeller: DeepSeek 的优点在于，他们开源了模型权重、技术细节以及构建这些模型的方法。这为我们理解推理模型的工作原理提供了宝贵的观 点，而且展望未来，几乎所有最先进的模型都将采用其中的一些技术。我们已经从 OpenAI 和 Google 的模型中看到了类似的结构，这对我们所需的计算 量、推理和训练所需的 GPU 算力都有着重大影响。这是我们对 DeepSeek 的分析，包括他们一直在构建的一些模型，如 DeepSeek Math, V3 和 V2 ，以及 现在的 ...

高科技公司路线图的重要性 - 高科技公司通常拥有技术路线图以向关键投资者和客户展示未来技术发展路径 [1] - 路线图可降低技术规划和采用风险 尤其在芯片制造难度加大的市场环境中 [1] - 部分公司如Oracle、Nvidia和AMD曾通过公开路线图展示技术迭代计划 [2] Nvidia的技术路线图战略 - Nvidia通过公开路线图向超大规规模客户展示其持续领先的技术开发能力 [2] - 路线图涵盖GPU、CPU、纵向扩展网络和横向扩展网络等多领域技术 [3] - 公司未将Quantum系列InfiniBand交换机纳入路线图 因AI领域更倾向以太网解决方案 [4] Blackwell系列GPU技术细节 - Blackwell B100/B200 GPU实际发布于2023年 而非路线图标注的2024年 [5] - B300 GPU内存容量提升50%至288GB FP4性能提升50%达15千万亿次浮点运算 [7] - GB300 NVL72系统FP4推理性能达1100 petaflops FP8训练性能360 petaflops 计划2025年下半年上市 [7] ConnectX系列网络技术进展 - ConnectX-8 SmartNIC速度达800Gb/秒 是前代ConnectX-7的两倍 计划2024年推出 [8] - 2028年将推出ConnectX-10 NIC 速度进一步提升至3.2Tb/秒 [18] Vera Rubin架构创新 - 2026年推出的Vera CV100 Arm处理器采用88核设计 支持同步多线程至176线程 [8] - NVLink C2C带宽翻倍至1.8TB/秒 与Blackwell GPU的NVLink 5匹配 [8] - Rubin R100 GPU配备288GB HBM4内存 带宽提升62.5%至13TB/秒 [9][10] 机架级系统性能飞跃 - VR300 NVL144系统FP4性能达50千万亿次浮点运算 是GB200系统的5倍 [13] - 2027年Rubin Ultra GPU将集成4个芯片于单插槽 FP4性能100 petaflops 配备1TB HBM4E内存 [14] - VR300 NVL576系统采用Kyber液冷机架设计 推理性能达15百亿亿次浮点运算 是当前系统的21倍 [16][17] 未来技术规划 - 2028年"费曼"GPU将搭配Vera CPU和3.2Tb/秒ConnectX-10 NIC [18] - 路线图显示Nvidia将持续提升NVSwitch带宽 2028年达7.2TB/秒 [18] - 公司通过系统级创新保持AI计算领域的技术领先地位 [19]

根据国泰君安的研报，自从 DeepSeek 爆火之后，接入他们大模型的需求在短时间内迅速增加。从 2 月初至 今，腾讯、百度、阿里等互联网大厂，不仅在各自的云计算平台上线了 DeepSeek 模型。在直接面向用户的 业务上，即使这些巨头都拥有自己的大模型，但依然让旗下的部分应用接入了 DeepSeek。其中，包括月活 跃用户量达 13.8 亿的微信，以及曾因广告收入受影响、对 AI 搜索存在顾虑的百度。 除了互联网大厂，吉利、一汽大众等几十家车企、华为等主流手机厂商、三大电信运营商，也都在短时间 内完成了接入。甚至有些银行、券商、公募基金，以及国内部分地区的各类政府部门，也加入了这个行 列。比如，有些银行把 DeepSeek 应用到了面向用户的智能客服上。深圳、广州、呼和浩特、无锡等地的政 府，也宣布在政务系统中接入了 DeepSeek 模型，希望提升政务办公效率和群众办事体验。 那么，从汽车品牌到券商甚至政府，为什么大家纷纷都想要接入 DeepSeek？ ▲ 近日，吉利汽车正式官宣其自研大模型与 DeepSeek 已完成深度融合。| 图源：吉利汽车集团微信公众号 财新的报道指出，腾讯等大厂积极接入 Deep ...