多模态记忆

搜索文档
28场锦秋小饭桌的沉淀:产品、用户、技术,AI创业者的三重命题
锦秋集· 2025-09-03 09:32
多模态硬件入口 - 多视角拍摄设备叠加AI后普及度提升 多模态影像数据具备显著入口价值[20] - AI眼镜产品面向近视人群(中日韩近视率超80%) 因长时间佩戴需求为持续获取人眼视角数据奠定基础[20] - 某大厂AI眼镜出货量达10万+ 主力人群为25-48岁(男女比例7:3) 周末活跃度极高[20] - 眼镜AI调用频率为手机7倍 开始替代小音箱成为新IOT交互入口[20] - 眼镜具备10+tops算力 理论上可运行轻量级AI大模型但耗电问题暂未解决[20] - 未来可能叠加眼动追踪与麦克风阵列波束成形技术 提升AI个性化理解与训练价值[21] 多模态记忆技术 - 多模态记忆串联视频/音频/文本形成完整逻辑链 实现场景复现与高效需求响应[22] - 通过全模态集成与双端压缩技术突破传统记忆模式效率瓶颈 实现海量数据高效利用[22] - 高压缩比技术将10分钟视频压缩至2帧仍保持原性能上限 实现小数据承载全信息[24] - 输入端动态抽帧技术根据画面变化调整频率(5-10帧/秒捕捉快速动作)[24] - 精准搜索技术集成视频/音频/OCR/文本等多模态信息 避免单一文本局限[25] 多模态AI Agent发展 - AI Agent核心在于动态工具选择与上下文感知系统 避免工具箱扩展导致系统崩溃[25] - 正攻克多模态数据整合难题 通过对齐不同模态实现统一语义理解与记忆检索[26] - 分层架构解决工具生态开放后的复杂度问题(上层代理选工具/下层工具执行)[26] - Agent技术趋势从自动化向可复用+生态化演进 用户操作可生成MCP模块形成复用套路[32] - 可能出现AI能力交易市场平台 核心逻辑为AI时代能力可复用[32] 情感陪伴与社交产品 - 情感陪伴产品融入日常生活 兼具情感共鸣与工具价值(如分析聊天记录/设置提醒)[33] - 虚拟角色需打通角色与用户/角色间记忆以提升真实陪伴感 统一风格模板助力社交[33] - Tolan成功切中轻情绪场景并融合工具能力(拍照识图/日程提醒) 但用户context获取方式影响体验[33] AI内容消费与平台 - 新交互方式更易产生新平台机会 否则内容可通过推荐权重调整在原有平台曝光[34] - 用户主动发起的角色互动成为内容产品解法 使Feed流交互转变为问答模式[35] - 从爆款起高楼比空地起高楼更合理 可先通过IP多平台破圈再聚合形成平台[35] 技术供给展望 - 模型大厂因coding商业价值高而重心转回文本模态 多模态理解与生成仍有期待空间[35] - 多模态理解能力待解锁(如精准定位视频片段/融入现实知识) 此为AI抖音难做原因[35] - OpenAI GPT realtime推出使Agent"前台聊天+后台执行"模式可能成为产品范式[36] - 新终端(如autoglm)为Agent操作与AI内容消费提供更大机会 不依赖手机载体[36] 产品工具推荐 - Claude Code较Cursor交互轮次明显减少且更清晰 长期看Cursor价值被压缩[37] - Showrunner通过融合100集对话风格+大语言模型生成内容 用户消费核心为语言非画面[38] - Loom在录屏产品打磨最佳(zoom in/out/编辑/便捷分享等功能完善)[39]
那天,AI大模型想起了,被「失忆」所束缚的枷锁
机器之心· 2025-08-31 13:33
大模型记忆技术发展现状 - 谷歌Gemini具备跨越多次对话的长期记忆能力,可从用户交流中提炼关键细节和偏好并主动调用[1] - OpenAI的ChatGPT早在2024年2月就已上线记忆功能,使用频率越多记忆力越好,GPT-6的核心改进也将聚焦记忆能力[3] - Anthropic的Claude能记住之前对话,允许用户无缝继续项目并参考之前讨论[3] - xAI的Grok在4月份实现多轮对话记忆,且记忆内容对用户透明可见并可选择遗忘[6] - 字节跳动联合浙大和上交发布多模态智能体M3-Agent,将记忆能力扩展到视频、音频等多模态数据[10] 记忆技术实现方式分类 - 上下文内记忆:将信息放入模型上下文窗口的短期记忆方式,受Transformer有限上下文窗口长度限制[17][18][19] - 外部记忆:通过检索增强生成(RAG)技术将信息存储在外部数据库的长期记忆方式,支持海量信息存储且无需重新训练模型[22][23] - 参数化记忆:将信息直接编码进大模型自身参数的深层"内化记忆"方式,检索速度极快但更新成本高昂[24][29][30] - 类人的分层式记忆:受认知科学启发设计的类似人脑记忆架构,分为记录具体事件的情景记忆和存储一般事实的语义记忆[31][35] 主要公司的记忆技术实现 - ChatGPT记忆功能:将用户记忆以结构化片段保存于服务器端,通过提示工程方式在生成回复时自动注入模型参考语境[42][44] - Claude记忆机制:只在用户要求时检索和引用过去聊天记录,不建立用户档案[44] - Gemini记忆功能:支持用户直接录入想要记住的内容[45] - MemGPT系统:使用专门记忆LLM智能体管理工作LLM上下文窗口,受传统操作系统分层内存系统启发[49][52] 记忆操作系统创新 - MemOS系统:将记忆看作与算力同等重要的系统资源,通过标准化MemCube记忆单元统一调度明文、激活状态和参数记忆[53][55] - MemoryOS系统:融合计算机操作系统原理与人脑分层记忆机制,构建段页式三级存储架构及四大核心模块[55] - MIRIX系统:将记忆细分为核心记忆、情景记忆、语义记忆、程序记忆、资源记忆、知识金库六类进行处理[57][59] 记忆结构化与多模态进展 - G-Memory系统:设计三层图式基于模型(洞察图、查询图和交互图),支持定制化记忆视角与跨智能体语义映射[66][67][71] - 多模态记忆突破:Memories.ai提出"大视觉记忆模型"(LVMM),能持续捕获、存储和结构化海量视觉数据[70] - M3-Agent架构:通过强化学习驱动的多轮推理与迭代记忆检索,实现无限信息处理和世界知识构建[70][75][78] 原生记忆能力探索 - Meta记忆层概念:通过键-值对检索机制实现关联存储与调用,记忆容量可达1280亿参数级别[77][80][81] - Branch-Train-MiX方法:通过创建多个专家模型在不同数据子集上训练,然后合并为MoE模块实现参数化记忆[83][92] - Yan 2.0 Preview模型:基于非Transformer架构,通过可微分"神经网络记忆单元"实现记忆的存储、检索和遗忘[85][87] 技术发展趋势 - 从功能模拟到结构仿生:向多模态与综合记忆系统演进,整合不同类型记忆模块形成多层次自适应综合记忆中枢[97][98][106] - 从孤立个体到记忆互联:智能体间实现共享记忆与协作,催生集体智能但面临信息不对称和集体隐私保护挑战[100][101] - 终极目标自动演化:实现记忆的自动演化,智能体能够根据环境互动自主学习管理和优化记忆,实现无需人工干预的终身学习[101][103]