公司近期技术发布 - 公司于1月13日在GitHub开源名为Engram的模块，并发布与北京大学联合撰写的论文，阐述了一种新的大模型稀疏化方向：条件存储（Conditional Memory）[1] - 这是继1月1日发布关于mHC架构的论文后，公司的又一次重要技术发布，两篇论文均体现了公司通过架构与方法论创新来降低算力成本、追求性价比的核心方向[4] - 公司创始人兼CEO梁文锋在两篇论文中均署名，并列于作者最后[4] Engram技术原理与设计 - Engram是一个可微分、可训练、原生嵌入模型结构的组件，其核心设计是将记忆性负载从主干计算中剥离，通过高速检索模块直接调用稳定且高频出现的知识，以规避低效的反复计算[4] - 该模块首先提供确定性检索：模型基于当前token和前文形成的N-gram，通过哈希映射直接从超大规模的静态嵌入表中取出对应向量，无需复杂神经计算，速度更快、路径稳定[4] - 随后，Engram会通过引入轻量化门控机制，由当前层的隐藏状态来判断检索到的记忆是否适合当前语境，避免生硬注入，从而优化输出表现[6] - 实验表明，该机制在处理时间、专有名词等固定模式时高度活跃，而在自由生成和复杂推理时几乎不介入，这强化了记忆功能的同时，避免了不合时宜的幻觉出现[6] 公司提出的新架构维度 - 公司将大模型能力拆分为三个相互独立又协作的维度：决定逻辑与抽象能力的模型深度、以MoE为代表的计算稀疏性（减少每次激活的计算量）、以及Engram引入的存储稀疏性（条件记忆）[6] - 公司通过U型扩展定律解决了记忆模块可能影响计算与推理性能的平衡问题，在总参数和算力预算固定的情况下，系统调整MoE与Engram的比例，得出将20%至25%的稀疏参数分配给Engram是最优平衡点[6] - 测试数据显示，即便挂载规模高达千亿参数的Engram记忆库，推理吞吐损失也能控制在3%以内[7] 行业竞争与公司未来产品 - 据The Information援引知情人士消息，公司预计将在今年中国春节前后发布最新的V4模型，核心突破在于超长代码提示词的处理与解析能力，以及全流程训练中数据模式的理解力[7] - 新模型不仅推理性能将大幅提升，更擅长处理复杂任务，其编码能力是主打方向，内部初步测试结果据称已超越了Anthropic的最强编程模型Claude[7] - 竞争对手Anthropic为守护编程能力优势和入口通道，近期已陆续切断Claude Code的第三方平台入口，并于1月12日发布主打办公场景Agent落地的产品Cowork，可自动帮助用户完成制作PPT、整理邮件等工作[7] - 市场期待即将到来的公司旗舰新品能再次带来“DeepSeek春节冲击波”[7]