从智能手机到智能体,端侧AI的故事才刚刚开始
端侧AI的定义与特点 - 端侧AI是将AI模型部署在终端设备上进行本地智能处理,无需依赖云端服务器[1] - 与云侧AI相比,端侧AI处理速度更快,因省去了终端与云端的信息交互时间[1] - 端侧AI将个人数据保留在本地,有利于数据安全,不存在云端泄漏风险[1] - 端侧AI在计算资源与存储能力方面逊色于云端,通常只能部署单一应用的小模型[1] 行业趋势与厂商动态 - 高通公司总裁兼CEO安蒙判断,用户体验核心已转向智能体AI,智能手机将迎来以智能体AI为核心的时代[2] - 联发科最新旗舰芯片支持Bitnet 1.58 bit推理框架,宣称端侧AI能力获得史诗级提升[3] - 联发科芯片使4K文生图、128K长文本处理、AI写真等以往依赖云端的功能得以在端侧实现[3] - 高通提及需要构建全新的计算架构体系,包括操作系统、软件和芯片的重新设计以支持新体验[3] 应用场景与市场前景 - 端侧AI应用已崭露头角,例如可自动识别用户日历制作个性化旅游计划表[2] - 未来工业级终端也将具备AI能力,各行各业的大量传感器(如摄像头)将能基于输入数据流进行分析决策[3] - 端侧AI市场涵盖智能手机、智能手表、智能汽车以及制造工厂、配送中心、零售场景的工业级边缘终端[3] 端侧与云侧AI的协同发展 - 强调端侧AI能力不意味着云侧AI不重要,未来将实现边缘侧"云+端"的无缝协同[4] - "云+端"协同将使推理计算等任务得到更高效的分配[4]