行业投资评级 * 报告未明确给出行业投资评级 [1][3][4] 核心观点 * 端侧大模型在成本、能耗、可靠性、隐私和个性化方面相比云端推理具有显著优势，能够以低能耗提供高效且安全的AI处理，减少延迟并保护用户隐私，适合个性化的AI应用 [3][27] * 生成式AI市场的兴起驱使大模型厂商积极探索端侧应用新蓝海，下游市场特别是手机与自动驾驶行业的强劲需求正强力拉动端侧大模型市场扩张 [4][29] * 2023年中国端侧大模型市场规模达8亿元，预计2024年将达到21亿元，2023至2028年预测期内的年复合增长率（CAGR）为58% [4][29][31] * 端侧大模型面临的行业壁垒包括技术、硬件、数据、成本以及市场等方面，要求产业界在技术创新、标准制定、生态建设和市场推广等方面进行深入合作 [3][74] * 未来端侧大模型将在竞争与协作中与云端大模型共同推动AI技术进步，受手机、自动驾驶和机器人等领域需求驱动，端侧大模型将不断优化技术，并在个性化、实时响应、隐私保护等方面发挥重要作用 [87][89] 行业概述 * 定义与分类：端侧大模型定义为运行在设备端的大规模人工智能模型，通常部署在智能手机、IoT、PC、机器人等本地设备上。与云端大模型相比，其参数量更小（多为十亿级别），可在设备端直接使用算力运行，无需依赖云端 [3][13][15][16] * 发展历程：行业经历了大模型兴起（如2018年BERT、2020年GPT-3）、模型压缩与优化（如TinyBERT、DistilBERT）、硬件加速（如TPU、NVIDIA Jetson）以及软件框架改进（如TensorFlow Lite、PyTorch Mobile）等多个重要发展阶段，推动技术向端侧迁移和优化 [18][19][20][21][22][23] * 驱动力：主要驱动力包括：1) 成本优势：云端推理成本极高，规模化扩展难，端侧处理更具成本效益；2) 能耗优势：边缘终端能以很低能耗运行生成式AI模型；3) 可靠性、性能和时延：端侧处理可避免网络拥堵导致的高时延，提供媲美甚至优于云端的性能；4) 隐私和安全：查询和个人信息保留在终端，有助于保护用户隐私和公司保密信息；5) 个性化：能在不牺牲隐私的情况下，根据用户行为、喜好等进行定制化服务 [25][27] * 市场规模：2023年中国端侧大模型市场规模达8亿元，持乐观态度估计，预计2024年将达到21亿元，2028年预计达79亿元。下游手机与自动驾驶行业的蓬勃发展是主要拉动力量，同时AI芯片等算力市场的发展也为端侧大模型打开新空间，例如2021年全球AI芯片市场规模达2000亿美元，预计2025年将超过7000亿美元 [4][28][29][31] 产业链分析 * 产业链图谱：上游主要包括AI芯片供应商、云计算服务商以及数据服务商；中游为端侧大模型科技厂商和端侧科技企业；下游通过设备企业应用到汽车、教育、金融、医疗、泛娱乐等多个行业 [34][35] * 模型压缩技术：知识蒸馏是关键技术之一，通过将大模型（教师模型）的知识转移到小模型（学生模型），能在保持较高性能的同时大幅减少模型参数量和计算复杂度。例如TinyBERT将BERT参数量减少到原来的1/7左右，使复杂AI模型可在资源受限的端侧设备上高效、低能耗运行 [37][39][40] * 成本构成：主要包括硬件成本（约60%，如AI芯片）、研发成本（约30%，含人员与设备）及其他成本（约10%）。AI芯片是加速应用的关键技术成本。研发中需考虑人员成本（如美国深度学习工程师平均年薪约14万美元）与硬件成本（如NVIDIA GeForce RTX 3090价格约1500美元）的平衡 [42][43][44][45] * 厂商类型与商业模式： * 端侧大模型厂商：主要业务为开发、训练和优化端侧大模型，客户包括各行业企业、互联网公司及开发者，商业模式主要为许可费、订阅和定制化开发 [47][48] * 终端设备厂商：主要业务为将端侧大模型集成到AI手机、AI PC等产品中，客户包括普通消费者和企业客户，商业模式主要为硬件销售和增值服务 [47][49] * 行业场景：行业应用潜力取决于数据安全与隐私保护需求、行业智能设备普及程度以及AI大模型技术成熟度三个因素的相互作用。金融、医疗、政务等对数据安全要求高的行业，以及教育、汽车等智能设备普及度高的行业具有较大发展潜力 [51][53][54][55][56] * 业务场景： * 核心应用场景：基于对数据隐私性、计算实时性以及个性化的强需求，AI手机、自动驾驶和机器人成为三大核心应用场景 [58][63] * 技术场景成熟度：文本生成和图片生成场景相对成熟；音频生成场景逐步发展；视频生成和多模态生成场景尚处于起步阶段 [64][65][66][67][69] 行业分析 * 政策分析：中国政府将人工智能产业视为国家战略核心，在AI基础设施及生成式AI方面设立规范，整体政策环境对AI产业及端侧大模型的健康发展有利。例如，2023年网信部发布的《生成式人工智能服务管理暂行办法》既提供了政策支持与技术保障，也设立了规范引导与监督约束 [72][73] * 行业壁垒：主要包括：1) 技术复杂性与硬件限制：需要复杂的模型压缩优化技术，且端侧设备算力、存储和能耗受限；2) 数据隐私和安全：需在本地处理中集成强大的数据加密和隐私保护机制；3) 开发和维护成本：需要大量的资源投入，对中小型企业构成经济压力；4) 行业标准及市场应用：缺乏统一标准，部分市场需求尚未完全显现，用户接受度需时间验证 [74][75][76][77][78][79] * 竞争格局：依托技术实力和生态建设，头部大模型厂商纷纷投入端侧大模型市场。商汤科技、阿里云及面壁智能凭借在云端大模型领域的技术优势，率先在端侧取得领先突破。未来竞争将呈现技术融合与创新驱动（如跨领域技术集成）以及生态系统构建与合作模式创新的态势 [81][82][83][84][85] * 发展趋势： * 端侧大模型与云端大模型之间的竞争将进一步加剧，两者将在不同应用场景中相辅相成 [87][89] * 手机、自动驾驶和机器人等领域的需求将成为端侧大模型发展的重要推动力 [87][89] * 未来将在技术（模型压缩、硬件加速等持续突破）、应用（满足实时响应、低能耗、数据隐私需求）和生态系统建设（产业合作、标准化推进）等方面呈现多重趋势 [90] 典型厂商分析 * 阿里云：优势体现在高效能、低门槛和自适应性。与MediaTek深度合作，在天玑9300/8300移动平台完成通义千问大模型端侧部署，实现离线多轮对话。通过全栈技术创新和开放生态，致力于打造AI时代最开放的云 [94][95] * 商汤科技：优势体现在技术领先与性能卓越、广泛的应用场景与解决方案以及持续的创新迭代。其日日新5.0端侧大模型在中端手机上实现18.3字/秒、高端旗舰手机上达78.3字/秒的推理速度；多模态扩散模型在端侧推理速度快手机云端处理10倍；综合能力全面对标GPT-4 Turbo，并在金融等多个行业有广泛应用 [97][100][101][102][103] * 面壁智能：优势包括高效的端侧推理能力、创新性整合多模态能力、“以小博大”的性能表现、高效低成本以及广泛的设备兼容性。其MiniCPM系列模型参数量仅20亿，但性能超越Mistral-7B等更大模型；通过技术优化实现10倍推理加速，成本降低90%；并已适配iOS、Android、HarmonyOS等主流操作系统 [104][105][106][107][108]