文章核心观点 - 面壁智能开源MiniCPM-V 4.7，35B-A3B版本是全球首个可在端侧无损流畅运行的开源MoE多模态大模型，标志着端侧智能进入“撞线前夜”[14][11] - 端侧智能发展由模型、硬件、Infra三驾马车协同驱动，三者进步以乘积方式叠加，整体可获得五到六倍以上增益，协同设计后有望超过七到八倍[35] - 行业判断未来10%高智能需求留在云端，90%有上限的日常需求将转移到端侧[38] - 面壁智能坚持“摸高”与“普惠”双路线，目标是让尽可能多的人无论设备价格高低都能享受足够好的AI能力[42][56] 模型能力与基准表现 - MiniCPM-V 4.7-35B-A3B为350亿参数MoE多模态模型，手机上仅占约3GB内存，在iPhone 18 Pro Max上速度超过每秒30个token[4] - 官方34项基准测评中，35B-A3B在通用视觉、数学推理、OCR与图表理解、长视频等任务上领先Qwen3.6-35B-A3B，也超过Qwen 27B和Gemma-4 31B[14] - 该模型智能水平超过2023年云端旗舰GPT-4V[14] - 关键基准数据：MMBench 91.72、MMStar 80.67、MMMU 80.22、MathVista 88.00、OCRBench 91.20、OmniDocBench_v1.6 94.24、Video-MME(w/o subs) 76.40[15] - 1B版本主打入门级设备与端侧智能普惠，在OCR、图表推理和多图理解上优于Qwen3.5-0.8B、LFM2.5-VL 1.6B和Gemma-4，千元级手机也能流畅运行[14][15] - 1B版本关键基准数据：MMBench 83.17、MMStar 69.53、OCRBench 86.10、MathVista 74.30[16] - 两个版本均在各自参数规模上推动多模态模型的“性能—效率帕累托前沿”，核心指标是更高的“能力密度”[16] 模型技术路径：看、想、学 - “看”是最贵的一环：3D-Resampler把连续6帧视频一起压缩，只用64个token，压缩率达96倍；LLaVA-UHD v4把压缩提前到视觉编码器内部，编码计算量减少55.8%，支持4倍和16倍两档压缩率按需切换[22] - “想”靠后训练：从RLHF-V到RLAIF-V再到RLPR，奖励越来越便宜，模型能用更短推理时间答对更难题目[22] - “学”解决遗忘：微调前先让模型回答通用问题，将高质量回答混入新任务数据一起训练，在4个开源模型上遗忘减少80%到99%[22] - 人脑功耗约20瓦，一台8卡AI服务器满载超过1万瓦，手机日常只有几瓦预算，端侧对智能密度要求格外苛刻[22] Infra技术突破：前瞻专家调度（LES） - 35B-A3B采用较激进4比特量化后权重仍约15GB，远超手机可用内存；通过将专家权重存放于闪存、需要时加载到内存，内存峰值控制在约3GB[28] - 一层计算时间仅约1.25毫秒，仅够读取约8个专家，远不足以遍历全部256个专家[30] - LES利用Transformer残差结构下相邻层隐藏状态变化较小、专家选择具有一定稳定性的特点，在当前层计算时提前预测下一层所需专家并在后台加载权重，实现计算与数据搬运并行[30] - LES只改变权重加载时机，不改变模型实际选择的专家，因此不损失精度[32] - 配合权重存储优化、混合精度量化和DSpark投机解码，35B-A3B发布时已实现iPhone 17 Pro Max上超过13 token/s、iPad Pro M4上超过17 token/s，iPhone 18 Pro Max上超过20 token/s；LES 2.0进一步将速度提升至30 token/s以上，内存占用维持约3GB，精度损失几乎可忽略[32] 硬件生态与行业趋势 - 存储芯片价格持续上涨，在部分手机物料成本中已占到三到五成，12GB内存逐渐成为AI手机及格线[23] - 受芯片研发周期影响，2026年之前许多手机NPU仍主要针对CNN、RNN等早期架构优化，新一代芯片开始原生支持Transformer自注意力计算[23] - MiniCPM-V 4.7发布当天完成对AMD、Apple、Arm、Intel、NVIDIA、瑞芯微、后摩智能等平台适配，并通过众智FlagOS软件栈支持华为、海光、昆仑芯、摩尔线程、沐曦等国产AI芯片；与高通、联发科技、紫光展锐、爱芯元智展开深度协同[23] - 面壁智能模型和Infra坚持自研，芯片交给合作伙伴[23] 三驾马车协同与行业判断 - 硬件飞轮一直在转，但一代芯片从设计到量产往往需要数年；模型飞轮2024年开始加速，智能密度大约每3.5个月翻一番；Infra飞轮启动最晚但转得最快[33] - 模型始终决定智能能力边界，“它做不到就是做不到，把它快一万倍，输出也是0”[35] - 端侧智能竞争越来越接近全栈系统工程，单靠某一代模型领先或某一项推理优化很难建立长期优势[35] - 面壁智能内部已有智能进化实验室探索AI自动生成和优化算子，并已登顶英伟达、华为官方算子榜[36] - 姚远判断2年内GPT-6级别智能到手机上没有问题[12] 开源与商业化 - MiniCPM-V 4.7同步开放模型权重、端侧推理代码、App安装包和微调方案，开发者使用相同设备下载后即可复现官方演示效果[45] - 未来计划将模型以Skill形式接入各类智能体，用户只需发送官网链接并说一句“我要用这个模型”即可完成调用，MiniCPM OCR已提供类似入口[47] - 海外社区已有开发者利用MiniCPM开发智能眼镜、App等产品，可能成为商业化起点[50] - 上一代MiniCPM-V 4.6已能在苹果、安卓和鸿蒙千元机上流畅运行，几百元设备也能达到每秒15个token以上[43] 行业需求与市场前景 - IDC预测2026年中国新一代AI手机出货量将达1.47亿台，占整体市场53%，即每卖出两部新手机就有一部具备端侧AI能力[54] - 端侧智能类似只有256KB内存的PC时代，通用智能看起来还很远但必然会到来[41] - 计算平台每次变迁背后都有技术供给与用户需求的“撞线”，能力跨过门槛后新应用和产业机会随之出现[39][40] - 当一部几百元手机也能提供足够强大智能支持时，AI带来的改变才会真正深入更多人生活[59]