文章核心观点 AI大模型竞争焦点加速向AI推理转移,边缘计算凭借独特优势成为新兴领域竞争新战场,未来AI推理将迎来革新,为产业带来更多创新机遇 [1] AI推理时代开启 - 自去年以来科技巨头在AI推理领域动作频频,揭示出AI大模型竞争焦点转变 [2] - 巴克莱报告指出AI推理计算需求将迅速提升,预计占通用人工智能总计算需求70%以上,甚至可能超训练计算需求达4.5倍,英伟达创始人预测推理所需算力需求规模增长能轻松超去年估计的100倍 [4] - DeepSeek采用新模式、开源方式降低AI大模型部署与使用成本,部署更轻量灵活,推动AI格局向大规模推理转变 [4] 边缘计算的必要性与优势凸显 - AI推理在边缘或边缘云环境中进行更具优势,靠近节点的边缘云能提高数据交互和AI推理即时性与效率,保障信息安全 [5] - 边缘计算地理分布广泛、靠近用户,是实现低延迟体验必要条件,能大幅降低数据传输开销和成本 [5] - 边缘节点容量大、健壮性强、可用性高,叠加边缘推理后更智能高效,能支撑企业数字化、智能化转型,保障业务连续性 [6] - 边缘侧可提供边缘缓存、集成安全的边缘防护等更多能力 [6] 市场加速竞争,厂商积极布局 - AI推理市场主要竞争者包括AI硬件厂商、模型厂商以及AI服务提供商,已纷纷瞄准边缘计算布局 [7] - 硬件层面苹果、高通等研发边缘AI芯片,Arm发布边缘AI计算平台,国科微推出AI边缘计算芯片 [7] - 平台服务层面英特尔、阿里云、网宿科技等推出相关平台或解决方案助力AI推理 [7] - 未来市场竞争核心要素在于成本/性能的计算,聚焦边缘计算,资源与技术能力是竞争取胜关键 [7] 网宿科技案例 - 网宿科技早在2011年开始探索边缘计算,形成一体化布局,全球有近3000个节点资源和丰富GPU算力资源,能提升模型交互效率 [8] - 网宿沉淀完备技术栈,能支撑大规模模型能力调度和运营,还可通过边缘函数提供个性化智能解决方案 [8] - 网宿边缘AI平台已深入多行业多场景,如为某医疗企业构建智能AI问答系统提升医疗咨询效率 [8]
AI推理时代:边缘计算成竞争新焦点