从智能手机到智能体,芯片厂商竞逐端侧AI
端侧AI的定义与特点 - 端侧AI是将AI模型部署在终端设备上进行本地智能处理,无需依赖云端服务器即可完成任务 [1] - 与云侧AI相比,端侧AI处理速度更快,因省去了信息在终端与云端交互的时间 [1] - 端侧AI将个人数据保留在本地,有利于数据安全,不存在云端泄漏风险 [1] - 端侧AI在计算资源与存储能力方面逊色于云端,通常只能部署单一应用的小模型 [1] 行业趋势与厂商动态 - 高通公司总裁兼CEO安蒙判断,用户体验核心已转向智能体AI,将重塑社会对所有智能终端的认知 [2] - 智能手机不会消失,但行业将迎来以智能体AI为核心的时代,不同品类智能终端将共同定义全新移动体验 [2] - 联发科最新旗舰芯片率先支持Bitnet 1.58 Bit推理框架,宣称端侧AI能力获得史诗级提升 [3] - 联发科芯片大幅减少AI计算、图像识别及自然语言处理对云的需求,使4K文生图、128K长文本处理等功能在端侧实现 [3] 技术架构与未来应用 - 高通指出需构建全新计算架构体系,包括操作系统、软件和芯片都需重新设计以支持端侧AI新体验 [3] - 未来智能体将拥有丰富的情境理解能力,能记住用户习惯并理解用户所见内容 [3] - 除消费级终端外,未来工业级终端也将具备AI能力,例如让每个摄像头都能基于输入数据流进行分析决策 [3] - 端侧AI应用将扩展至各行各业,包括制造工厂、配送中心和零售场景中的传感器 [3] 端侧与云侧的协同发展 - 强调端侧AI能力并不意味着云侧AI不重要,未来最佳局面是终端与云端AI处理无缝协同 [4] - 边缘侧"云+端"协同将使推理计算等任务得到更高效的分配 [4]