Workflow
Server and Computer Hardware Manufacturing
icon
搜索文档
MiTAC Computing Scales Agentic AI with Full-Stack Infrastructure at SC26
The Manila Times· 2026-11-17 11:53
文章核心观点 - MiTAC Computing Technology Corporation(MiTAC Holdings子公司,TWSE: 3706)在SC26展会上发布全面AI基础设施生态系统,主题为“Scaling Agentic AI. Built on Full-Stack Infrastructure”,展示全栈创新如何克服企业AI部署中的计算、散热和数据瓶颈 [1] - 随着Agentic AI驱动推理工作负载指数级增长,扩展基础设施不仅需要原始GPU算力,公司通过与AMD、Canonical、DDN、Intel、NVIDIA和Rafay的战略合作,提供结合高密度液冷、解耦推理和端到端编排的可扩展AI工厂架构 [1] - 公司总裁Rick Hwang表示,扩展Agentic AI需要 cohesive infrastructure 而非碎片化系统,公司提供基础全栈解决方案使可持续AI工厂成为现实 [2] 解耦AI推理引擎 - 公司与Skymizer合作开发推理架构,将计算密集型prefill分配给GPU,将内存密集型decode分配给Skymizer的HTX301加速卡,使企业能够按工作负载配置各阶段并保持模型推理在本地部署 [2] - Prefill阶段:MiTAC G8825Z5(8U)搭载AMD EPYC 9575F或9755处理器及AMD Instinct MI350X GPU,用于prefill处理并通过高速网络将生成的Key-Value(KV)缓存传输至decode服务器 [5] - Decode阶段:风冷MiTAC G4520G6(4U)搭载Intel Xeon 6处理器,配备八块Skymizer HTX301-4S加速卡,每块拥有256 GB内存,通过八个PCIe插槽提供2 TB聚合加速器内存 [5][6] - 协作的MiTAC G4520G6 decode服务器设计用于在本地运行大规模模型——如2.8万亿参数的Kimi K3大型语言模型——以驱动复杂深度推理的agentic AI工作负载 [6] 全栈软件生态系统编排 - Canonical Ubuntu提供认证操作系统层,确保无缝部署和企业级可靠性,作为基础安全层 [7] - 集成DDN Infinia解决方案确保海量数据流以超低I/O延迟处理,防止加速器数据饥饿 [7] - 公司与Rafay合作提供动态GPU-as-a-Service(GPUaaS)编排,跨分布式工作负载高效分配GPU资源以消除闲置并最大化ROI [7] - 公司专有MiCoreView™软件作为全面POD管理解决方案,提供深度遥测和数据中心统一可见性,将生态系统绑定在一起 [7] 机架级创新展示多元化AI基础设施 - 基于AMD董事长兼CEO苏姿丰在OCP Global Summit上宣布的愿景,公司与AMD合作开发Helion Agentic AI Rack,专为下一代机架级agentic架构打造,即将推出的ORv3 44OU Helion解决方案将在开源栈内扩展至32,768个AMD Zen 6 CPU核心,赋能超大规模和企业环境智能路由复杂工作负载并最大化每瓦代理效率 [8] - 52U高密度AI液冷机架:集成12台MiTAC G4826Z5服务器和96块AMD Instinct MI355X GPU,GPU密度较传统部署高50% [10] - 先进液冷机架:与ZutaCore合作展示PoC,将G4826Z5与无水两相直接液冷(DLC)集成,在芯片直接汽化介电液支持超过4,000W的热设计功率和超过250W/cm²的热通量,实现年化pPUE为1.03 [10] - 高性能存储机架:由DDN Infinia智能AI数据平台驱动,利用七台GC68C-B8056 1U存储服务器,为持续数据流提供超高吞吐量、低延迟性能,避免Agentic AI的I/O瓶颈 [10] 综合服务器平台 - G4827Z6:4U模块化企业AI服务器,采用NVIDIA MGX架构和AMD EPYC 9006 SP7处理器,与NVIDIA RTX PRO 4500和6000 Blackwell Server Edition GPU最佳配对,适用于多样化推理工作负载 [11] - G2610Z6:紧凑型2U边缘GPU服务器,搭载AMD EPYC 9006 SP8处理器,无缝集成NVIDIA RTX PRO 4500和6000 Blackwell Server Edition GPU,将强大AI能力带到边缘位置 [11] - TN85-B8261:双插槽平台,支持AMD Instinct MI350P PCIe卡,为专业应用提供高效AI加速 [12] - R1917GC:作为边缘数据中心编排大脑的1U管理服务器,利用NVIDIA Vera和NVIDIA Grace CPU协调复杂集群,无需内部GPU [15] - R1610Z6:采用AMD EPYC 9006 SP8处理器的密集1U外形,为云原生工作负载提供单插槽性能 [15] - M2810Z6:2U2N多节点服务器,搭载AMD EPYC 9006 SP7处理器,优化软件定义超融合基础设施(HCI)的计算密度 [15] - C2611Z6:专为OCP ORv3机架设计的液冷多节点服务器,搭载AMD EPYC 9006 SP8处理器,在紧凑2OU外形中集成四个计算节点,每个支持16个DDR5-8000 RDIMM插槽和OCP 3.0扩展,适用于高密度液冷基础设施 [15] 公司背景与行业定位 - 公司为MiTAC Holdings子公司,提供全面节能服务器解决方案,行业专业经验可追溯至1990年代,专注于AI、HPC、云和边缘计算 [13] - 公司在裸机、系统、机架和集群层面采用严格方法论确保质量,实现性能与集成 [13] - 公司拥有全球布局和端到端能力——从研发、制造到全球支持——为超大规模数据中心、HPC和AI应用提供敏捷定制平台 [14] - 公司利用AI和液冷最新进展,将MiTAC品牌与Intel DSG和TYAN服务器产品统一,以创新、高效、可靠的服务器技术及软硬件集成解决方案脱颖而出 [14] - 展会于11月17-19日在芝加哥McCormick Place 4615号展位举行 [13]