报告行业投资评级 - 报告未明确给出行业投资评级 [1][3][4][6] 报告的核心观点 - 端侧大模型是运行在本地设备（如智能手机、IoT、PC、机器人）上的大规模人工智能模型，其参数量小于云端大模型，可在设备端直接运行，无需依赖云端算力 [3][13][15] - 端侧大模型相比云端推理，在成本、能耗、可靠性、隐私保护和个性化方面具有显著优势，能够以低能耗提供高效、安全的AI处理，减少延迟并保护用户隐私 [3][25][27] - 生成式AI市场的兴起驱使大模型厂商探索端侧应用新蓝海，下游市场需求（特别是手机与自动驾驶行业）的强劲增长正强力拉动市场扩张 [4][28][29] - 2023年中国端侧大模型市场规模达8亿元，预计2024年将达到21亿元，2023年至2028年的年复合增长率（CAGR）为58% [4][29][31] - 端侧大模型的发展面临技术、硬件、数据、成本及市场等多方面壁垒，需要产业界在技术创新、标准制定、生态建设和市场推广等方面深入合作 [3][74][75] - 未来，端侧大模型将与云端大模型在竞争与协作中共同发展，并受手机、自动驾驶和机器人等领域需求的驱动，在个性化、实时响应和隐私保护方面发挥重要作用 [87][89][90] 根据相关目录分别进行总结 行业概述 - 定义与分类：端侧大模型定义为运行在设备端的大规模人工智能模型，通常部署在智能手机、IoT、PC、机器人等本地设备上，其参数量（多为十亿级别）小于传统的云端大模型（多为百亿级别，如GPT-3有1,750亿参数），因此无需依赖云端算力 [3][13][15][16][17] - 发展历程：端侧大模型的发展经历了大模型兴起（如2018年Google发布BERT，2020年OpenAI发布GPT-3）、模型压缩与优化（如知识蒸馏技术产生TinyBERT、DistilBERT）、硬件加速（如Google TPU、NVIDIA Jetson）以及软件框架改进（如TensorFlow Lite、PyTorch Mobile）等重要节点 [18][19][20][21][22][23] - 驱动力：主要驱动力包括：1) 成本优势：AI推理规模远高于训练，云端推理成本极高，难以持续规模化扩展；2) 能耗优势：边缘终端能以很低能耗运行生成式AI模型；3) 可靠性、性能与时延：端侧处理可避免云端拥堵导致的高时延和服务拒绝；4) 隐私与安全：查询和个人信息保留在终端，有助于保护用户隐私和公司保密信息；5) 个性化：能在不牺牲隐私的情况下，根据用户行为、偏好进行定制 [25][27] - 市场规模：2023年中国端侧大模型市场规模为8亿元，预计2024年将达到21亿元，到2028年预计达79亿元，2023-2028年CAGR为58%。增长动力来自生成式AI市场兴起、AI芯片等算力市场带动，以及手机与自动驾驶等下游需求的强劲拉动 [4][28][29][31] 产业链分析 - 产业链图谱：上游主要包括AI芯片供应商、云计算服务商及数据服务商；中游为端侧大模型科技厂商和端侧科技企业；下游通过设备企业应用于汽车、教育、金融、医疗、泛娱乐等行业 [34][35] - 模型压缩技术：知识蒸馏是关键技术，通过将大模型（教师模型）的知识转移到小模型（学生模型），在保持较高性能的同时大幅减少参数量和计算复杂度。例如，TinyBERT将BERT参数量减少到约1/7，MobileBERT参数量为BERT的1/4左右 [17][37][40] - 成本构成：端侧大模型成本主要包括：硬件成本（占60%），如AI芯片；研发成本（占30%），主要为研发人员人力成本（如美国深度学习工程师平均年薪约14万美元）及设备成本（如高端显卡约1,500美元）；其他成本（占10%），如管理、运营和市场推广成本 [42][43][45] - 厂商类型：主要分为两类：1) 端侧大模型厂商：通过许可费、订阅和定制化开发模式为企业客户、互联网公司和开发者提供智能化解决方案；2) 终端设备厂商：通过硬件销售和增值服务模式，将端侧大模型集成到AI手机、AI PC等产品中销售给消费者和企业客户 [47][48][49] - 行业场景：行业应用潜力取决于对数据安全/隐私保护的需求、智能设备普及程度及AI大模型技术成熟度三个因素。金融、医疗、政务等对数据安全要求高的行业，以及教育、汽车等智能设备普及度高的行业具有较大发展潜力 [51][53][54][55][56] - 业务场景：核心应用场景为AI手机（保障数据隐私与计算实时性）、自动驾驶（需实时决策与高安全性）和机器人（提供个性化服务与提升效率）。按技术场景成熟度划分：文本生成和图片生成场景相对成熟；音频生成场景逐步发展；视频生成和多模态生成场景尚处于起步阶段 [58][59][60][61][63][64][65][66][67] 行业分析 - 政策分析：中国政府将人工智能产业视为国家战略核心，在AI基础设施及生成式AI方面设立规范，整体政策环境有利于AI产业及端侧大模型健康发展。相关政策包括2023年网信部的《生成式人工智能服务管理暂行办法》、2023年国务院的《数字中国建设整体布局规划》等 [72][73] - 行业壁垒：主要包括：1) 技术复杂性与硬件限制：需复杂的模型压缩优化技术，且端侧设备计算、存储资源有限，能耗管理要求高；2) 数据隐私和安全：需在本地处理中集成强大的数据加密和隐私保护机制；3) 开发和维护成本高：需要大量资源投入；4) 缺乏行业标准及市场应用挑战：需制定统一标准，并进一步挖掘和培育应用场景，获得用户认可 [74][75][76][77][78][79] - 竞争格局：头部大模型厂商依托技术实力和生态建设纷纷投入端侧市场。利用云端大模型技术优势，商汤科技、阿里云、面壁智能等率先取得领先突破。未来竞争将呈现技术融合与创新驱动（如跨领域技术集成）以及生态系统构建与合作模式创新（如与芯片制造商、硬件供应商深度合作）的态势 [81][82][83][84][85] - 发展趋势：1) 端侧大模型与云端大模型之间的竞争将进一步加剧，两者将在不同应用场景中相辅相成；2) 手机、自动驾驶和机器人等领域的需求将成为重要推动力；3) 未来将在模型压缩、硬件加速等技术持续突破，联邦学习等隐私保护技术应用深化，以及产业合作和标准化推进等生态系统建设方面呈现多重趋势 [87][89][90] 典型厂商分析 - 阿里云：优势体现在高效能、低门槛和自适应性。与MediaTek深度合作，在天玑9300/8300移动平台完成通义千问大模型端侧部署，实现离线多轮对话。正进行全栈技术创新，打造AI时代最开放的云 [94][95] - 商汤科技：优势在于技术领先与性能卓越、强大的多模态能力及持续创新。其日日新5.0端侧大模型在中端手机上实现18.3字/秒、高端旗舰手机上78.3字/秒的推理速度；多模态扩散模型在端侧推理速度比手机云端快10倍（小于1.5秒）；模型能力全面对标GPT-4 Turbo [97][100][102][103] - 面壁智能：优势包括高效推理能力、创新性多模态整合及“以小博大”的性能。其MiniCPM端侧大模型参数量仅20亿，但性能超越Mistral-7B；通过技术优化实现全流程10倍推理加速，成本降低90%；并已适配iOS、Android、HarmonyOS等主流操作系统 [104][106][107][108]