估值120亿美元的Thinking Machines发布首篇研究博客 - 公司估值达120亿美元 创始团队多来自OpenAI 首款产品命名为Connection Machine [1] - 研究团队通过改进RMSNorm 矩阵乘法和注意力机制实现完全可复现的推理结果 性能损失可接受 [1] - 解决LLM推理中的非确定性问题 核心是批次不变性 [1] OpenAI ChatGPT支持MCP协议 - OpenAI宣布ChatGPT正式支持MCP Plus和Pro用户可一句Prompt实现自动化操作 [2] - MCP实现AI模型 工具和数据源的标准化交互 使不同模型能共享上下文 支持即插即用 [2] - 用户可通过开启开发人员模式连接第三方服务如Stripe 完成复杂任务 [2] 微信推出混元大模型智能回复功能 - 微信公众号推出由腾讯混元大模型支持的智能回复功能 解决运营者无法及时回复读者问题 [3] - 功能可自动学习公众号历史文章和回复风格 回复内容会标注该消息为智能回复 并可引用相关历史文章 [3] - 腾讯混元还将上线Roleplay模型和AI分身应用 提供沉浸式对话体验 [3] Kimi开源万亿参数模型中间件 - Kimi开源新中间件checkpoint-engine 能在20秒内完成万亿参数模型在数千GPU上的更新 [4] - 采用混合共置架构 通过分布式检查点引擎管理参数状态 实现参数广播和重载并行处理 [4] - 系统设计支持训练和推理引擎完全解耦 采用参数逐条更新的流水线方式 可抵御单点故障 [4] 英伟达发布文本驱动3D模型生成AI - NVIDIA发布新AI Blueprint 通过生成式AI技术让3D艺术家快速创建场景原型 [5] - 集成Microsoft TRELLIS NVIDIA NIM微服务 比原生应用快20% 支持所有配备16GB以上显存的RTX 50和40系列GPU [5] - 只需文本提示即可生成多达20个3D模型 工作流程自动化从创意到3D模型的转换 [5] 百度学术完成AI重构 - 百度学术推出AI学术搜索 AI文献总结 AI阅读 论文图谱等功能 打造行业首个一站式AI学术平台 [6][7] - 全面覆盖搜 读 创 编学术全链路 提供文献总结 全文翻译 选题推荐和专业排版等功能 [7] - 平台已收录6.9亿文献资源 覆盖104万学术站点 建立420万学者主页 [7] 腾讯会议推出AI托管功能 - 腾讯会议联合元宝推出AI托管功能 能替用户提前听会并实时记录 [8] - 用户只需在会议页面或列表点击AI托管 元宝将自动接入会议 生成智能AI纪要 [8] - 会后可直接向元宝提问会议内容 辅助决策推进 实现会议成果沉淀转化 [8] 宇树科技创始人谈AI与机器人发展 - 宇树科技创始人王兴兴表示最后悔2011年起专注机器人而错过AI发展 [9] - 公司已宣布IPO计划 预计2025年底提交申请 2024年营收突破10亿元且连续4年盈利 [9] - 修正此前关于数据的观点 承认机器人数据和模型都是核心问题 [9] 强化学习之父萨顿预言AI未来 - 萨顿认为AI进入经验时代 将从持续学习而非静态知识积累中获得智能 [10] - 指出对AI的恐惧被夸大 认为AI与人类繁荣源自去中心化协作 [10] - 提出四条预测原则 认为人类智能将被超越 权力将流向最聪明的智能体 [10]

ThinkingMachines Lab终于放大招了！ 刚刚，联合创始人、OpenAI前副总裁Lilian Weng透露： Thinking Machines的第一代旗舰产品名为「Connection Machine」（联结机）。 事情是这样的：今天，Thinking Machines开辟了研究博客专栏「Connectionism」（联结主义），发表了第一篇博客文章「Defeating Nondeterminism in LLM Inference」（击败LLM推理中的非确定性）。 Thinking Machines介绍说: 我们相信科学因分享而更美好。 Connectionism专栏将随着我们的研究变化：从内核数值计算到提示工程。在这里，我们分享我们的工作进展，并与研究社区频繁而开放地交 流。 此外，还补充道，「Connectionism」这一名称可追溯至早期的AI时代——在1980年代，该术语指代专门研究神经网络及其与生物大脑相似性的子领域。 而Lilian Weng爆出了更大的料，专栏之所以叫这个名称，还有一个原因：第一代旗舰模型就叫Connection Machine，不光是这篇博客文章，而且还有更多 ...

公司估值与团队背景 - 公司尚未有具体产品但估值已达120亿美元[1][51] - 公司完成20亿美元种子轮融资由a16z领投英伟达等知名机构跟投[51] - 团队核心成员包括OpenAI前CTO Mira Murati、PPO算法开发者John Schulman等三分之二成员来自OpenAI[38][40][47] 研究核心发现 - 大语言模型推理结果难以复现的根源在于批次不变性缺失[4][12] - 浮点数非结合性导致计算顺序差异在Transformer多层迭代中被放大[13][16] - 解决方案需使RMSNorm、矩阵乘法和注意力机制具备批次不变性[16] 技术实现方法 - RMSNorm通过固定归约顺序分配核心处理批次元素确保一致性[18] - 矩阵乘法采用拆分2D块策略并编译统一内核配置牺牲20%性能换取确定性[19][21][22] - 注意力机制固定KV缓存分块大小（如256）自适应拆分数量保持归约顺序[23][24] 实验验证结果 - 使用批次不变性内核后1000次推理结果完全一致未使用时出现80次分化[26][27][28] - 确定性推理存在性能损失但处于可接受范围（如注意力内核优化后时间从55秒降至42秒）[30][31] - 在线强化学习中确定性推理使KL散度始终为0无需离线校正[34][35] 产品与战略方向 - 首代旗舰产品命名为Connection Machine致敬连接主义理念[7][52] - 公司承诺持续分享研究成果并与研究社区保持开放联系[6]