Workflow
实时流式多镜头长视频生成
icon
搜索文档
ECCV 2026 | 实时导演多镜头长视频! 港中文&快手可灵发布ShotStream
机器之心· 2026-07-11 16:00
核心观点 - 香港中文大学与快手可灵团队联合提出了首个实时流式多镜头长视频生成框架ShotStream,旨在解决多镜头长视频生成的高延迟和零交互困境 [3] - 该框架将多镜头合成定义为基于历史上下文的下一镜头生成任务,支持用户通过动态流式提示词在运行时动态指导叙事走向,实现了真正的交互式叙事 [3][14] - 模型在单张H200 GPU上实现了**16 FPS**的推理速度,相较于传统双向模型,将生成效率提升了**25倍以上**,为实时互动故事创作铺平了道路 [3][18] 技术架构与创新点 - **架构创新**:提出了首个实时流式多镜头长视频生成因果架构,突破了传统双向架构的限制 [14] - **双缓存记忆框架**:设计了全局缓存(Global Cache)保证跨镜头间一致性,局部缓存(Local Cache)维持单镜头流畅性 [14][19] - **不连续RoPE**:对旋转位置编码进行改进,在镜头切换边界施加离散相位偏移,显式解耦全局与局部上下文,消除了时序错乱歧义,无需引入额外复杂网络模块 [14][19] - **两阶段自强制蒸馏策略**:第一阶段利用真实历史画面训练基础生成能力;第二阶段利用模型自己生成的历史画面作为条件训练,解决了训练与推理的差异及误差累积问题 [14][20] - **高效蒸馏**:通过分布匹配蒸馏(DMD)技术,将缓慢的双向教师模型蒸馏为仅需**4步去噪**的流式因果学生模型,实现了**25倍以上**的推理加速 [18] 性能表现 - **推理速度**:在单张H200 GPU上实现**15.95 FPS**的实时生成速度 [23] - **质量对比**:在跨镜头一致性、镜头切换控制、文本对齐度等核心指标上,显著优于或比肩现有主流模型(如Mask2DiT、CineTrans、LongLive等) [22] - **具体指标**:在关键指标上表现突出,例如镜头内主体一致性(Intra-shot Cons. Sub.)达到**0.825**,镜头间语义一致性(Inter-shot Cons. Semantic)达到**0.654**,文本对齐度(Text Align.)达到**0.234**,均优于对比模型 [23] 行业影响与开源 - 该研究(ShotStream)已被计算机视觉顶级会议**ECCV 2026**接收 [3] - 训练、测试代码和模型均已开源,为社区相关研究提供支持,有望推动AIGC视频创作进入交互更实时、叙事更自由的新阶段 [3][25]