世界模型的局限性批判 - 当前大语言模型（LLM）通过预测下一个单词生成输出，接近人类智力水平，但与真正的AGI仍有明显差距 [2][3] - 人类能力包含具体技能和深度复杂能力的区分，而AI系统尚不能完成所有基于相同认知架构的任务 [3][5] - 研究者提出构建世界模型的五个关键维度：数据准备、通用表征空间、推理架构、目标函数和决策系统应用 [7] PAN世界模型架构 - PAN采用分层、多级和混合连续/离散表示，结合生成式和自监督学习框架 [8] - PAN将发布27B参数的第一版，成为首个可运行的通用世界模拟器 [9] - PAN设计原则包括：多模态数据、混合表示、分层生成建模、生成损失和强化学习应用 [37] 对世界模型五个维度的批判 数据维度 - 感官数据量虽大但信息冗余度高，而文本是人类经验的高度压缩和抽象形式 [16][17] - 通用AI需要融合视频、文本、音频等多模态数据，单一模态会导致关键信息缺失 [18] 表示维度 - 仅用连续嵌入表示世界状态脆弱且难以应对噪声，离散符号序列更具稳健性 [19][20] - 最佳路径是混合表示，结合离散符号的稳健性和连续嵌入的感官细节捕捉能力 [23] 架构维度 - 编码器-编码器架构在功能上仍是自回归的，未能解决误差累积问题 [25] - 分层生成式潜在预测(GLP)架构能确保模型与真实数据挂钩，实现更鲁棒的推理 [27] 目标维度 - 潜在空间重构损失存在"平凡解崩溃"风险，需依赖复杂正则化项 [29] - 数据空间生成式重构目标提供稳定可靠的监督信号，避免崩溃问题 [30] 用途维度 - 模型预测控制(MPC)计算开销大，难以应对快速变化环境和长时程规划 [33] - 强化学习(RL)将计算成本转移到训练时，支持更具战略性的长远规划 [35] PAN模型的优势与应用 - PAN通过分层世界观实现数据处理效率，利用LLM促进跨模态泛化能力 [39] - PAN作为内部沙盒用于模拟、实验和预见未来，支持更高效的规划方式 [40][42] - 世界模型应模拟现实世界中所有可能性，当前范式仍处于原始阶段 [41]