来自 CMU 和小红书的研究团队对这一问题进行了深入研究，他们首次提出了针对多模态 RoPE 扩展策略的理论评估框架， 指出现有多模态 RoPE 泛化能力不足的原因之一是保留 RoPE 中所有频率对长上下文语义建模有负面影响。基于此分析，他 们提出的混合位置编码（HoPE, Hybrid of Position Embedding）大幅提升了 VLM 的长度泛化能力，在长视频理解和检索等 任务中达到最优表现。 李浩然，CMU 机器学习系研究生，研究方向是基础模型的长上下文建模、对齐、以及检索增强生成。 如今的视觉语言模型 (VLM, Vision Language Models) 已经在视觉问答、图像描述等多模态任务上取得了卓越的表现。然 而，它们在长视频理解和检索等长上下文任务中仍表现不佳。 虽然旋转位置编码 (RoPE, Rotary Position Embedding) 被广泛用于提升大语言模型的长度泛化能力，但是如何将 RoPE 有效 地扩展到多模态领域仍然是一个开放问题。具体而言，常用的扩展方法是使用 RoPE 中不同的频率来编码不同的位置信息 (x,y,t)。然而，由于 RoPE 中每个维度携带 ...