该工作第一作者为蚂蚁技术研究院副研究员胡翔，蚂蚁技术研究院高级研究员武威为通讯作者。 在大语言模型如火如荼的当下，长文本建模仍然是一个极具挑战的问题。纠其根源，一方面在于主流 LLMs 的架构 Transformers 中平方复杂度及随序列长度线性增 长的推理阶段显存开销；另一方面在于 full-attention 有限的外推能力，难以泛化到远超预训练阶段长度的输入。 而高效处理长上下文能力，除了简单的工业界降本增效的需求外，还涉及通用人工智能 (AGI) 的核心问题：具有永久记忆的智能体。如果将人类从出生开始接收 到的信息视作长上下文，人类拥有记忆无非是访问这些上下文。因此记忆可以看作是超长上下文访问能力，而拥有与用户所有对话记忆的智能体，很可能为大语 言模型公司构建数据护城河 (事实上，OpenAI 已经开放了类似能力)。 近日，蚂蚁的研究团队为这个问题带来了一个新思路。就像人类开卷考试只会挑和当前问题相关的关键页作为参考，语言模型也可以只关注与当前上下文相关的 过去片段。以此为出发点，他们提出一种 基于因果检索的注意力机制 GCA (Grouped Cross Attention)，完全端到端地学习如何 ...

公司概况 - 李飞飞创办的World Labs专注于开发具备"空间智能"的下一代AI系统，探索AI对三维世界的理解与建模能力[2] - 公司在2024年成立后三个月内完成两轮融资，累计筹集2.3亿美元，估值突破10亿美元成为AI领域独角兽[3] - 投资方包括a16z、英伟达NVentures、AMD Ventures、Intel Capital等科技与风投机构[4] 技术方向 - 核心研究方向为"世界模型"，即AI对现实世界的三维理解能力，需结合视觉、空间感、动作等多维度信息[15][18] - 关键技术包括：NeRF（神经辐射场）实现二维图像到三维重建、高斯平面表示法提升实时渲染效率、扩散模型优化空间数据细节[30][33][38] - 需突破多视角数据融合与物理动态建模，使AI能预测物体运动（如风吹树叶、球体滚动）[41][46] 应用场景 - 游戏行业：AI根据照片或视频自动生成逼真三维场景，替代传统手工建模[51] - 建筑行业：几分钟内生成立体结构并模拟光照效果，大幅提升设计效率[53] - 机器人领域：赋予三维视觉能力，解决二维视觉导致的距离判断与导航问题[54] - 数字孪生：构建工厂/城市的虚拟副本用于灾害模拟与优化[56] - 创意产业：辅助艺术家进行空间化创作，成为"创作者伙伴"[59] 行业挑战 - 数据瓶颈：需大量带深度信息与空间结构的真实场景数据，目前获取成本高[63][64] - 算力限制：NeRF等技术计算资源需求大，难以大规模商业化落地[66] - 泛化能力：模型在陌生场景中易失效，需提升适应性[67] - 需跨学科协作整合硬件、软件、数据与应用生态[69] 团队与行业趋势 - World Labs团队涵盖计算机视觉、图形学、扩散模型、物理仿真与机器人控制等多领域专家[73][75] - AI研究范式从单一学科转向多学科融合，需集体智慧推动系统工程[77] - 空间智能被视为实现通用人工智能（AGI）的第一步，需具备空间感知与动态推理能力[94][95]

如果您希望可以时常见面，欢迎标星收藏哦~ 来源：内容 来自半导体行业观察综合 ，谢谢。 华尔街对 Nvidia持悲观看法。 周四，投资者发布季度预测，导致该股下跌逾 8%，给过去三个月中受到市场质疑的"七巨头"股票带 来更大压力。 该股收盘下跌至 120.15 美元，而该集团的其他成员如微软以及亚马逊也由于英伟达的盈利未能激发 出 2023 年和 2024 年人工智能涨势标志性的那种涨幅，该股也以疲软收盘。 可以肯定的是，Nvidia 第一季度的营收预测好于市场预期，首席执行官黄仁勋也指出，公司新款 Blackwell 芯片的需求"惊人"。但增长正在放缓。Nvidia 预计营收增幅约为 65%，远低于投资者过 去一年习惯的三位数增幅，同时该公司还预计毛利率将降至 71%，为至少一年以来的最低水平。 Nvidia 被视为 AI 支出健康状况的晴雨表，两年的繁荣使其估值超过 3 万亿美元。投资者希望其业 绩能够重启在 2024 年底"七巨头"股票达到峰值后陷入低迷的反弹。 最近几周，中国初创公司 DeepSeek 的低成本人工智能模型引发了投资者对大型科技公司为人工智 能基础设施投入的数十亿美元的怀疑，许多股票仍 ...