Workflow
端侧AI加速落地,Arm如何出招?
21世纪经济报道·2025-05-29 15:45

端侧AI发展 - AI模型正变得更智能、规模更小但能力更强,推动端侧AI发展,已超出智能手机范畴[2] - 实体AI如机器人技术有望在1-3年内达到人类操作水平,机器狗、配送机器人等将带来巨大机遇[2] - 端侧AI加速向大众化市场下沉,带动数据中心和云计算需求激增,端云协同AI芯片市场持续扩大[2] AI系统构建关键要素 - 从云端到边缘打造高度可移植的平台对实现先进技术和产品功能至关重要[3] - 电力与每瓦性能成为关键指标,数据中心能耗从兆瓦级跃升至吉瓦级,超50%来自机架和半导体设备[3] - 软件同样重要,Arm在2024年推出AI软件库Arm Kleidi以支持AI发展[3] AI商业价值与推理 - 推理是实现AI商业价值的唯一方式,赋予AI智能性如机器人决策和手机智能化[4] - 训练最大规模模型的计算量是推理的10^11倍,需大量推理实现商业回报[5] - 大模型能力正推进至低价位段手机,AI在Arm CPU/GPU上运行良好,覆盖各价格区间[5] 芯片设计挑战与创新 - AI演进叠加摩尔定律放缓,芯片设计技术挑战增加,成本上升,上市时间愈发关键[6] - Arm推出计算子系统(CSS)帮助合作伙伴提升性能、降低成本并加快上市周期[6] - Arm将推出Armv9旗舰CPU(代号Travis),实现两位数IPC性能提升,引入可伸缩矩阵扩展加速AI负载[7] 数据中心市场拓展 - Arm预测2025年头部云服务提供商近50%算力将基于Arm架构,AI计算成为强劲驱动力[8] - Arm架构在PC/平板市场占比将超40%,全球2200万开发者支持Arm生态优化[8] - 云服务商迁移至Arm平台带来超40%能效提升,AWS新部署CPU算力超50%基于Arm技术[9] AI计算转型 - 数据中心从通用计算向AI计算转型,领先AI平台如NVIDIA Grace Blackwell基于Arm架构优化[9] - 云服务商自研加速器与Arm处理器紧密耦合,提升计算密度、I/O密度和带宽表现[9]