Keysight AI Inference Builder
搜索文档
Keysight Launches AI Inference Emulation Platform to Validate and Optimize AI Infrastructure
Businesswire· 2026-03-17 23:00
文章核心观点 - 是德科技 (Keysight Technologies) 推出了一款名为“Keysight AI Inference Builder”的全新仿真与分析平台,旨在通过模拟真实世界的工作负载,大规模验证和优化人工智能推理基础设施 [1][2] - 该平台的推出是为了应对人工智能行业从大语言模型训练转向部署的关键转变,解决当前传统测试方法难以准确模拟动态推理行为的痛点,从而帮助客户优化性能、降低成本并加速产品上市 [3][4] - 公司将在NVIDIA GTC大会上进行该平台的现场演示,展示其与NVIDIA DSX Air AI工厂仿真环境的集成,以模拟和优化数据中心基础设施 [1][2][5] 产品发布与定位 - 新产品名为Keysight AI Inference Builder,是是德科技人工智能产品组合的一部分,专为“推理时代”构建 [4] - 该平台旨在通过模拟真实并发、真实规模和真实工作负载多样性,对推理优化的AI基础设施进行大规模验证 [1][2] - 其核心价值在于弥合传统测试方法的不足,能够重现真实的推理工作负载模式,并针对特定行业的使用模式进行建模 [3][4] 产品功能与优势 - **NVIDIA DSX Air集成与现场演示**:平台与NVIDIA Air实现开箱即用的集成,可在部署物理设备前,于NVIDIA数据中心仿真环境中生成真实的推理工作负载以验证基础设施 [4] - **子系统隔离与根因定位**:支持仅客户端仿真,可在负载下精确定位AI基础设施堆栈中出现的性能瓶颈,从而进行针对性优化,减少过度配置、降低成本并提高整体效率 [4] - **端到端验证与优化**:评估从用户请求到模型响应的完整推理工作流程,帮助团队早期发现并解决跨计算、网络和安全层的瓶颈,减少昂贵的返工 [4] - **行业与应用特定基准测试**:不同于通用仿真,该平台可模拟金融、医疗等垂直行业的特定使用模式和LLM架构,使组织能够对不同类型AI数据中心部署下的基础设施和应用行为进行建模分析 [4] 行业背景与市场需求 - 人工智能行业正从训练大语言模型转向部署阶段,优化推理已成为实现投资回报率的关键因素 [3] - 推理行为高度动态且难以模拟,传统的合成流量生成或GPU基准测试等方法无法准确再现跨计算、网络、内存、存储和安全层的、对延迟敏感的AI推理工作负载行为 [3] - 随着AI数据中心规模达到前所未有的水平,部署前的验证已从最佳实践转变为关键任务要求 [5] 客户与合作伙伴评价 - 是德科技网络测试与安全解决方案副总裁兼总经理Ram Periakaruppan表示,推理是解锁AI投资回报率的关键,新平台提供了全栈真实推理性能的可视性,使客户能在硬件上架前验证和优化部署 [5] - NVIDIA网络副总裁Amit Katz表示,KAI Inference Builder与NVIDIA DSX Air的集成为消除性能波动提供了必要的环境,使NVIDIA AI工厂合作伙伴和客户能够模拟真实推理工作负载并预先解决瓶颈,确保优化的AI服务快速进入市场 [5] 市场活动与展示 - 是德科技将于3月16日至19日在圣何塞举行的NVIDIA GTC大会上展示KAI Inference Builder,包括在NVIDIA Air AI工厂仿真环境中的演示 [5] - 展示地点包括NVIDIA展位的C101展台以及是德科技自己的3217号展台 [5]