腾讯云智算
搜索文档
AI大模型与异构算力融合技术白皮书
搜狐财经· 2025-10-13 22:16
AI大模型发展趋势 - AI大模型参数规模从亿级迈向万亿级,算力需求呈指数级增长 [1][14] - 全球AI算力需求每3-4个月翻番,远超传统摩尔定律的18个月翻倍速度 [1][14] - 2025年训练Llama 4成本预计超3亿美元,较2020年GPT-3的450万美元训练成本增长66倍 [1][15][17] - 技术架构演进,MoE(混合专家模型)等创新架构在保持模型容量的同时显著降低计算成本 [37][39] 异构算力技术架构 - 单一架构算力难满足需求,异构算力集成CPU、GPU、FPGA、ASIC等计算单元成为必然选择 [1][29] - CPU+GPU适合通用训练,CPU+FPGA适配定制化加速,CPU+ASIC用于大规模推理,能针对不同场景优化性能与能效 [1] - 硬件层面包含主流AI芯片对比及国产芯片(如寒武纪、华为昇腾)技术路线 [1][10] - 高速互联依赖PCIe 5.0/6.0、CXL、NVLink等技术,存储采用分层架构应对大模型容量与带宽需求 [1] 关键融合技术 - 软硬件协同优化技术包括算子融合、编译器优化等 [1][10] - 并行训练技术涵盖数据并行、模型并行、混合并行及MoE架构 [1][10] - 推理加速技术包含模型压缩、KVCache等 [1][11] - 异构资源调度涉及统一管理、任务调度、弹性伸缩 [1][11] 国内市场与实践 - 中国算力基础设施建设迅速,截至2025年6月,在用算力中心标准机架达1085万架,智能算力规模达788 EFLOPS(FP16),算力总规模位居全球第二 [20] - “东数西算”工程作为国家战略,规划建设超过250条干线光缆,集群间光层直达链路已拓宽至1232 Tbps [24] - 国内企业如华为昇腾芯片在互联网大厂规模化部署,寒武纪思元系列、阿里平头哥含光芯片等各具特色 [1][11] - 国家级智算中心与商业云服务商(如阿里云灵骏、腾讯云智算)共同构建算力基础设施 [1][11] 行业应用场景 - 应用场景涵盖互联网AIGC、金融智能风控、医疗影像、自动驾驶、工业质检等 [1][12] - 推理场景多样化,从通用对话到行业专用应用,对算力的需求各不相同,推动了对异构算力的需求 [18] 未来趋势与挑战 - 技术趋势指向Chiplet封装、存算一体、光量子计算及多模态大模型 [1] - 产业将完善国产异构算力产业链与开发者生态,推动算力普惠与行业渗透 [1] - 面临算力供需缺口、软件生态成熟度、能效与数据安全等挑战 [1]
腾讯云智算三大核心升级 推动AI Infra从“支撑”向“引擎”跨越
搜狐财经· 2025-09-17 19:51
核心观点 - 腾讯云在智能体驱动云基础设施领域实现跃进升级 通过发布Agent Infra解决方案和Cloud Mate云专家服务智能体等多项成果 为智能体规模化落地提供技术支撑 [1][3][6] - 公司预测未来两年部署智能体的企业数量将翻倍 GenAI相关IaaS支出增速达192% 云计算基础设施需求将从资源供给转向业务价值导向 [3] - 腾讯云智算体系具备同源同构核心优势 支持公有云 专有云和边缘环境同源同构部署 已为交通 制造 具身智能等行业提供全链路支撑 [3] 技术能力升级 - 模型启动速度提升17倍 大规模服务扩容时间从10分钟缩短至34秒 多模态推理加速4倍 [5][6] - 自研推理引擎覆盖生文 生图和生视频模型 通过内存优化与通讯协议升级显著降低计算开销 [6] - Agent Runtime集成运行引擎 云沙箱等五大组件 云沙箱实现毫秒级启动和数十万实例秒并发能力 [6] - Cloud Mate云专家服务智能体已提供超百万次智能架构治理服务 风险SQL拦截率达95% 排障效率从30小时降至最快3分钟 [6] 安全体系构建 - 提供大模型与智能体安全治理框架 覆盖模型选型 训练 推理部署到业务应用全流程 [7] - 实现边界API安全 模型运行环境防护 智能体身份特权防护以及数据全流程安全保障 [7] 行业应用拓展 - 联合发布行业报告覆盖交通出行 工业制造 教育培训 泛互联网 具身智能和智慧医疗六大重点行业 [8] - 通过HAI推理集群提供专属机器人云上大脑 解决具身智能数据采集难度大和硬件绑定问题 [7] - 合作伙伴包括地平线 货拉拉 一汽丰田 燧原科技 作业帮等标杆企业 [8] 战略方向演进 - 推动云计算从资源时代迈向智能服务时代 未来基础设施将具备自感知 自决策和自优化能力 [9] - 通过底层能力升维 场景破界和生态进化协同重塑产业数字化底层逻辑 [9]
数字中国建设峰会开幕 腾讯以“好用的AI”激活产业新增长
证券日报网· 2025-04-29 21:43
腾讯AI战略与产品展示 - 公司以"打造好用的AI,激活产业新增长"为主题展示人工智能在生产生活领域的多项应用 [1] - 公司致力于通过开源进化和普惠化发展让AI更有用、好用、离生产生活更近 [1] - 公司希望以"人工智能+"为抓手成为产业升级的加速器和美好生活的连接器 [1] 腾讯混元大模型技术能力 - 腾讯混元大模型参数规模达万亿级各项能力稳居国内第一梯队 [1] - 该大模型拓展多模态生成能力涵盖图像、视频、3D等 [1] - 能有效支撑图像创作、三维模型生成、视频制作等多种功能 [1] AI技术应用场景 - 展示AI在办公协同、医疗、政务、零售生活、数字地图、能源制造等场景的落地应用 [2] - 一汽丰田通过腾讯大模型知识引擎升级智能汽车客服 [2] - 腾讯ima工作台产品可将政策文件等服务指南批量导入提升惠民政策宣传效率 [2] - 腾讯文档AI助手用"一句话"指令即可生成文档、PPT等可编辑内容 [2] 云服务与安全能力 - 腾讯云智算已服务90%的国内大模型厂商 [2] - 成为美团、快手等行业数万客户的稳固算力底座 [2] - 制定大模型全生命周期安全防护方案涵盖训练、推理部署等各阶段 [2] 研发投入与技术布局 - 2018年以来累计研发投入超过3400亿元 [3] - 依托自研技术构建从算力基础设施到多元智能应用的大模型产品矩阵 [3] - 未来将继续利用前沿技术打造好用的AI推动实体产业创新突破 [3]