产品发布 - Akamai Technologies推出Akamai Inference Cloud平台,旨在重新定义AI的使用地点和方式,将AI推理从核心数据中心扩展到互联网边缘 [1] - 该平台旨在为代理AI和物理AI浪潮提供可扩展、安全且低延迟的全球AI推理能力 [1] 产品定位与特点 - Akamai Inference Cloud是一个分布式生成式边缘平台,支持智能、自主的AI在边缘进行推理,更贴近用户和设备 [2][3] - 平台专为提供低延迟、实时的大规模边缘AI处理而构建,利用公司在全球分布式架构方面的专业知识和NVIDIA Blackwell AI基础设施 [2] - 平台结合了NVIDIA RTX PRO服务器(配备NVIDIA RTX PRO 6000 Blackwell服务器版GPU)、NVIDIA BlueField-3 DPU和NVIDIA AI Enterprise软件,以及公司的分布式云计算基础设施和拥有超过4200个全球节点的边缘网络 [4] 行业趋势与市场需求 - 下一代AI应用(从个性化数字体验、智能代理到实时决策系统)要求AI推理更贴近用户,以提供即时互动并在交互点做出智能决策 [3] - 自主AI工作负载日益需要低延迟推理、本地上下文以及即时全球扩展能力 [3] - AI推理已成为AI计算最密集的阶段,需要行星尺度的实时推理能力 [4] 战略合作与技术基础 - 公司与NVIDIA合作,利用NVIDIA最新的AI基础设施技术,包括新发布的NVIDIA BlueField-4 DPU,以进一步加速和保护从核心到边缘的数据访问及AI推理工作负载 [4] - 合作旨在通过将推理能力部署到全球数千个地点,满足对扩展AI推理容量和性能日益增长的需求 [4] 应用场景与价值主张 - 将企业AI工厂扩展到边缘,支持智能商务代理和个性化数字体验,使智能代理能根据用户位置、行为和意图即时调整,并自主进行实时交易协商、购买和优化 [5] - 实现流式推理和代理,提供即时金融洞察和执行实时决策,适用于欺诈检测、加速安全支付以及工业边缘的高速决策 [5] - 支持物理AI系统(如自动驾驶汽车、工业机器人、智慧城市基础设施)实现毫秒级精度的决策,以安全地与物理世界互动 [9] - 通过智能编排层自动将AI任务路由到最佳位置,简化复杂分布式AI工作负载的编排,加速价值实现时间 [9] 产品部署与可用性 - Akamai Inference Cloud现已可用,初期目标在全球20个地点部署,并计划进一步扩展推广 [6]
Akamai Inference Cloud Transforms AI from Core to Edge with NVIDIA