AI推理服务

搜索文档
七牛智能联手五象云谷,联手进军千亿AI推理算力市场
智通财经· 2025-09-18 21:32
战略合作与业务布局 - 七牛云与五象云谷达成战略合作 共同进军千亿AI推理算力市场 打造AI普惠推理算力 [1] - 公司拥有音视频云 算力AI云 灵矽AI三大产品线 基于音视频云基础全面发力AI推理算力产品 [1] - 灵矽AI产品于今年8月推出 标志公司实现从云到端的全面布局 开拓智能硬件AI市场 [1] 财务表现与用户增长 - 2025年上半年AI相关收入达1.84亿元 占总收入比重22.2% [3] - 收入主要来源于AI推理服务和算力资源租赁业务 [3] - 8月上旬至9月上旬平台AI推理需求快速增长 AI用户数增至15,000人 [3] 技术能力与平台生态 - 平台可调用大模型数量超过50个 涵盖LLM推理模型 工具调用 AI编程及Claude CodeAI推理接口 [3] - 截至8月开发者群体数量超169万 新增注册持续增长 算力需求不断攀升 [3] - 为客户提供大模型推理算力服务 算力租赁及镜像AI推理解决方案 [3] 业务协同与发展前景 - AI推理需求具有持续调用特性 每秒每分每时在千万级用户或自动化系统中触发 [3] - AI推理算力与音视频云 灵矽AI形成三位一体业务联通 成为新增长点 [3] - 合作降低AI应用开发门槛 缩短从概念验证到规模化商用周期 [3] 合作伙伴与基础设施 - 五象云谷智算中心为人工智能产业核心载体 一期总投资36亿元 建筑面积14.9万平方米 [4] - 中心可承载两个万卡集群 提供高达40000P智能算力 已完成5000P智算集群建设 [4] - 合作将释放五象云谷算力资源商业化潜力 [4] 未来拓展方向 - 双方将在AI推理算力合作基础上 探索AI+教育 AI+能源等垂直领域合作 [4]
AI推理加速演进:云计算的变迁抉择
21世纪经济报道· 2025-05-21 19:09
AI发展趋势 - 开源大模型高效迭代推动AI发展从训练转向推理 小模型应用落地需求增加 对云计算市场产生深远影响 [1] - IDC预测未来AI推理市场规模将达训练需求的十倍以上 垂直场景小模型部署潜力更大 [1] - 行业投资重心转向推理 企业需关注推理效率(吞吐量、时延、成本) Akamai服务提升3倍吞吐并降低60%时延 [2][3] 云计算架构变革 - 边缘计算成为重要增长点 分布式架构需满足低延时(10毫秒)、灵活部署 Akamai覆盖130国4200边缘节点 [3] - 混合云/多云策略被绝大多数企业接受 客户探讨如何执行符合业务特性的多云战略 [1] - 边缘推理优势显著:靠近用户提升体验 满足数据主权要求 降低数据传输成本 [3] 模型应用特征 - 实际生产中89%用户采用小模型解决具体问题 商业化程度高于大模型 智能客服等场景已验证效果 [2] - 时延敏感领域更适合边缘部署小模型 "快思考"与"慢思考"模型需差异化云环境部署 [3][4] - 中国企业出海加速嵌入AI推理能力 如商旅行业用AI生成非定制行程建议 [5] 行业挑战与优化 - 企业CTO反映前期过度投入训练 推理准备不足 需构建运营级服务能力(算力/数据管理/边缘运维) [2] - "慢思考"模型推高云计算成本 迫使企业优化服务效率 需平衡资源使用与成本 [3] - 推理需额外考虑可扩展性、合规性等要素 与训练数据中心要求存在差异 [2]