李飞飞看了要点赞:15分钟,一台相机,把真实世界搬进了AI
禾赛禾赛(US:HSAI) 机器之心·2026-10-17 12:44

文章核心观点 - 禾赛从激光雷达业务延伸至三维世界数据引擎领域,发布Kosmo空间相机与云平台,旨在将真实空间转化为可反复用于机器人训练的数字资产 [4][38] - 空间智能要求AI在三维空间中感知、推理并行动,不仅回答“看到了什么”,还要理解物体位置、空间几何关系以及动作发生后世界的变化 [3] - 具身智能数据面临“不可能三角”:真机遥操作数据真实但成本高效率低、仿真数据易扩展但难以还原真实物理规律、二维图像视频缺少深度位姿与真实空间关系 [48] - 禾赛将自身定位为“物理AI行业基础设施的建设者”,围绕多个基础环节展开而非单一产品线 [49] 机器人制作冰淇淋的场景需求 - 制作冰淇淋包含五十多个步骤,团队希望机器人接管整套流程,目标包括尽量不改造原有环境、完成任务完整闭环、承担真正制作工作 [1] - 团队为机器人准备“数字门店”,将真实门店布局设备和操作空间搬进虚拟环境用于训练 [3] - 过去专业团队人工建模还原一家门店约需300个小时,禾赛设备约15分钟即可完成扫描并生成高度还原的三维训练环境 [3] - Sharpa的失败案例降至原来的十分之一,任务成功率达到99% [3] Kosmo产品体系与技术架构 - 10月14日禾赛发布三维世界数据引擎Kosmo,包括空间相机Kosmo One和云平台Kosmo World [4] - Kosmo One负责采集真实空间,Kosmo World进行重建理解与编辑,并将数据交付给机器人仿真、世界模型和三维创作等工作流 [4] - 该数据已进入皮克斯相关创作工作流以及高德的空间展示应用 [4] - Kosmo One将激光雷达、影像系统与高精度IMU集成在一台设备中,激光雷达提供空间测量,摄像头记录颜色与纹理,IMU为设备运动估计提供信息,再通过同步标定和融合把不同来源数据放进统一空间参照 [8] 数字门店对训练环境的要求 - 柜台表面颜色和纹理影响视觉识别,桌沿位置和设备间隔关系到接近路径与操作空间,观察角度变化会改变机器人获得的观测 [6] - 可用于训练的数字环境需要同时保留外观、几何和空间关系 [7] - 传统CG建模方式面临真实世界门店工厂酒店各不相同的挑战,每进入新场景都从头建模成本会随真实世界复杂程度快速增加 [7] - 现场扫描路径不再先假设标准空间,而是直接把具体场所记录下来 [8] 精度与影像处理能力 - 向少卿展示网球拍,球拍网孔约5毫米间距,Kosmo定制激光雷达能清晰呈现这些细小结构 [10] - 扫描者在房间走动时同一块地板反复进入不同摄像头画面,自动曝光和白平衡等处理可能使同一表面呈现不同亮度和颜色 [12] - Kosmo为三维重建定制ISP,兼顾跨相机跨时刻一致性,让不同画面共同描述同一个空间 [13] - 几何与影像之间需要准确对应,系统需知道信息来自什么时刻什么位置,才能让图像里的柜台边缘与空间测量中的边缘对齐 [13] - 影像系统采用一英寸大底CMOS,支持最高8K拍摄,最终导出文件最高分辨率为6K [14] 采集效率与操作便捷性 - 禾赛表示在普通室内条件下约15分钟可完成100平方米空间的扫描,具体时间随场景结构和采集要求变化 [17] - 向少卿强调一个实体按钮和一个屏幕按钮即可完成开机扫描等操作,目标让空间建模变得像拍照一样容易 [15] 三维重建与训练资产生成 - Kosmo World底层系统Kosmo Spatial Core可在一次重建中生成3DGS、Mesh和Depth三种表达,分别服务于外观、几何表面和距离信息 [21] - 3DGS通过大量带有位置形状透明度和颜色等参数的高斯表示来重建场景,支持从新视角渲染画面 [24] - Mesh用顶点边和面描述物体表面,为碰撞与交互建模提供几何基础;Depth描述特定视角下的距离信息,可与图像配合用于空间感知 [25] - 三种表达保持空间对齐,训练系统可在同一环境中获得不同形式的空间信息 [25] - Kosmo生成的数据能针对目标机器人的相机特性进行视觉适配,让数字场景中的观测更贴近实际使用条件 [26] 场景编辑与训练轨迹生成 - Kosmo World支持AI驱动的语义分割,可识别并提取椅子沙发相机等对象再对其进行移动和编辑 [28] - 编辑会暴露采集时没有看到的区域,Kosmo通过AI推断补全沙发原先遮挡的区域 [29] - 在数字门店中可重新设置虚拟相机的位置方向高度和路径,沿途生成连续画面以及相应的深度和位姿 [30] - 基于同一个三维空间可自动生成上万条训练轨迹 [30] - 团队能针对容易出错的位置增加采样,例如某个设备经常挡住目标就可围绕相关区域设置更多观察路径 [30] - 虚拟相机运动产生的观测序列可服务于多视角学习空间感知和相关世界模型训练,机器人完成抓取搬运等任务的操作轨迹还涉及关节动作接触状态和任务结果 [31] 泛化问题与真实世界数据需求 - 机器人训练数据解决的本质是泛化问题,一个房间被数字化后可成为类似场景的训练样本,但从餐饮走向零售酒店再进入家庭,真实世界中的空间差异仍会不断增加 [32] - 一个房间可以不断变化,更多真实房间则提供新的结构物体和空间关系,前者负责把一份数据的价值继续放大,后者负责不断提供新的“世界” [33] - AI能够处理的场景越多,对真实世界数据的需求也会扩大 [34] 禾赛业务延伸逻辑 - 过去十年禾赛最为人熟悉的业务是激光雷达,应用从自动驾驶延伸到机器人等领域,激光雷达还曾用于《黑神话:悟空》的古建扫描 [37] - 产品起点来自客户,测绘建筑等领域客户不断要求更高精度激光雷达,从厘米级推进到毫米级 [38] - 客户拿到雷达后还要配置摄像头惯导和计算平台才能搭出完整空间采集系统,不同团队反复完成类似集成工作让禾赛看到产品机会 [38] - 禾赛在复杂光机电系统定制芯片标定测试和产品化方面积累的能力可延伸到空间采集 [38] 应用端反馈与生态兼容 - 禾赛与Sharpa独立运营,共同创始团队为两端提供较紧密的交流条件,机器人团队可提出具体需求 [39] - 数据质量的具体讨论指标包括能否适配机器人传感器、能否方便地配置任务 [39] - Kosmo已连接Isaac Sim、Isaac Lab、Omniverse等平台,工具兼容性对象编辑和资产加工便利程度都会影响最终交付效率 [39] 影视与空间浏览应用 - 皮克斯RenderMan创意负责人Dylan Sisson拿到Kosmo后扫描了皮克斯园区广场,将数据通过USD格式导入Houdini再交给RenderMan渲染 [40] - 真实园区被处理成具有绘画笔触的画面,场景中的元素可以继续调整 [40] - 扫描手工制作的纸板电视框,纸板纹理折边和胶水痕迹被保留下来成为后续创作可调用的细节 [41] - Kosmo与高德合作,首批重建的重美术馆偏锋画廊已上线扫街榜“飞行街景”,用户可在到访前观察场所内部 [41] 商业模式与交付方式 - 禾赛提出两类商业模式:通过软硬件一体化产品服务有持续采集需求的客户,以及面向世界模型和物理AI企业提供规模化空间数据生产服务 [44] - 有些客户需要设备以便持续采集,有些客户只希望完成一个项目取得重建后的模型,还有一些客户希望直接使用已制作好的空间资产 [43] - 设备销售之后数据能否顺利使用、能被重复调用多少次会进一步影响客户对产品价值的判断 [44] - 被问到最大的客户群体时李一帆没有给出确定答案,不同行业的需求仍在使用中逐渐显现 [45] 行业基础设施定位 - 具身智能数据问题概括为“不可能三角”,物理AI要进一步成长就需要更多来自真实世界的数据以及一套把这些数据采集加工并送入训练流程的基础设施 [48] - Kosmo试图改变过去“一次采集一次建模一次使用”的方式,一个真实空间被数字化之后还可继续编辑物体改变观察条件生成新的训练场景 [45] - Kosmo所尝试的是让真实世界变成一种可以持续让AI学习并被不断利用的资源 [50]

李飞飞看了要点赞:15分钟,一台相机,把真实世界搬进了AI - Reportify