Workflow
光互联技术
icon
搜索文档
超节点的光互联和光交换
傅里叶的猫· 2025-06-27 16:37
以下文章来源于傅里叶的猫AI ,作者猫叔 傅里叶的猫AI . 傅里叶的猫,防失联。半导体行业分析 本篇文章的内容,参考自曦智科技孟怀宇博士的一次演讲,内容非常硬核,有兴趣的朋友可以多关注一 下曦智科技,他们是全球领先的光电混合算力提供商。 在高性能计算领域,超节点的出现为大规模模型的训练与推理提供了全新的解决方案,而光学技术的应 用则成为推动超节点性能提升的关键驱动力。光学技术通过其高效、低延迟和高可靠性的特性,不仅解 决了传统互联方案的瓶颈,还为超节点的架构设计和实际部署带来了革命性的价值。 超节点的诞生源于对大规模模型计算需求的激增,其核心价值在于显著提升训练和推理的效率。在训练 层面,自第三代大模型问世以来,模型规模呈现指数级增长,对GPU算力的需求也随之快速攀升。当前 主流大模型可能需要数千甚至上万张GPU协同工作,而超节点通过高效的互联架构,能够大幅提升训练 效率,尤其是在超大规模模型的场景下,其优势尤为突出。超节点通过优化计算资源分配和数据传输, 减少了训练过程中的瓶颈,使模型训练时间显著缩短。 在推理层面,2025年以来,国内市场对大模型推理的关注度持续升温。推理场景的核心在于如何高效地 生成结 ...
AI算力大集群:继续Scaling
2025-06-16 00:03
AI 算力大集群:继续 Scaling20250615 摘要 市场对 AI 算力需求存在预期差,美股季报显示微软、Meta 和 Amazon 资本开支超预期,预示 2025 年下半年 AI 叙事逻辑将重塑,模型迭代或 成关键。 AI 算力集群前景乐观,预计 2025 年上半年推理需求上升,下半年训练 需求增加,A 股市场预期将提升,NVMe 链、SATA 链和光互联等标的 值得关注。 中美 AI 发展差距或将拉大,取决于未来一年大模型迭代路径。预训练和 利用大集群发展大模型仍是方向,2025 年 Q3 将是关键时间节点。 2025 年 Q3 是新一轮 AI 模型迭代起点,训练投入增加,市场共识或在 Q4 形成,2026 年 Q1 推理需求有望增长,可通过观察客户量预测未来 节奏。 集群在 AI 模型迭代中作用关键,尤其处理大规模计算任务。光互联技术 受关注,但 DeepSpeed 的出现标志着算力通缩逻辑开启,降低了对大 型集群的依赖。 Q&A 未来 AI 算力需求的趋势如何? 未来 AI 算力需求将显著增长,无论是训练端还是推理端。当前市场主要反映的 是推理需求,但训练需求也会逐步增加,成为新一轮 AI 算 ...