Workflow
NVSwitch
icon
搜索文档
博通用一颗芯片,单挑英伟达InfiniBand 和 NVSwitch
半导体行业观察· 2025-07-18 08:57
InfiniBand技术发展与应用 - InfiniBand最初作为跨设备主流结构失败后,在超级计算机领域找到定位,成为高性能、低延迟互连技术,主要得益于远程直接内存访问(RDMA)技术[3] - Nvidia五年前以69亿美元收购Mellanox Technologies,部分原因是预见到InfiniBand在连接GPU服务器节点以协作训练AI模型中的关键作用[3] - InfiniBand在传统高性能计算(HPC)市场份额有限,但大型语言模型和生成式AI的兴起将其推向后端网络新高度[4] Nvidia的GPU互连技术 - Nvidia开发NVLink端口和NVSwitch交换机,使多个GPU内存集群化,在DGX-2系统中实现16个V100 GPU共享HBM内存,呈现为单一2 petaflops FP16性能设备[4] - NVLink技术扩展到GB200 NVL72等机架级系统,为AI服务器节点构建提供显著优势[4] 博通挑战InfiniBand的以太网方案 - 博通开发Tomahawk Ultra以太网交换机ASIC,目标取代InfiniBand在HPC和AI集群的应用,同时兼具内存结构功能[5] - Tomahawk Ultra实现250纳秒端口到端口延迟,770亿PPS吞吐量,51.2 Tb/秒总带宽,性能接近InfiniBand[12] - 采用优化以太网报头技术,将标准46字节报头压缩至10字节,提升传输效率[15] 技术性能对比 - InfiniBand历史延迟数据:从2001年300纳秒(SDR)降至2015年86纳秒(EDR),但近年因信号处理开销增加,NDR/XDR延迟回升至240纳秒[10][11] - InfiniBand交换机吞吐量演进:从2015年70亿PPS(7.2 Tb/秒)提升至2021年66.5亿PPS(25.6 Tb/秒)[12] - 博通Tomahawk Ultra在相同小数据包条件下,PPS是Tomahawk 6的两倍,延迟仅为后者1/3[12] 关键技术突破 - 引入链路层重传(LLR)和基于信用的流量控制(CBFC)技术,使以太网表现更接近无损传输,避免传统拥塞处理导致的性能下降[16][18][20] - 实现网络内集体操作功能,这是取代InfiniBand的关键特性,类似Nvidia的SHARP功能[13][23] 市场影响与竞争格局 - 博通Tomahawk Ultra不仅针对InfiniBand,还挑战Nvidia的NVSwitch和新兴UALink标准,可能成为GPU互连替代方案[26] - AMD计划在"Helios"系统中通过以太网隧道传输UALink协议,显示行业对以太网方案的认可[29] - Tomahawk Ultra样品已推出,预计2026年上半年上市,支持铜缆/光纤多种连接方式[29]
英伟达是靠钱堆出来了
半导体行业观察· 2025-03-31 09:43
如果您希望可以时常见面,欢迎标星收藏哦~ 来源:内容 编译自 nextplatform ,谢谢。 可以肯定地说,在 2025 年,世界上最好的工作是 Nvidia 的首席执行官,而该公司的联合创始人黄 仁勋 (Jensen Huang) 带领公司走向了辉煌,就像联合创始人托马斯·沃森 (Thomas Watson) 带领公 司走向国际商业机器公司 (International Business Machines)、拉里·埃里森 (Larry Ellison) 带领公 司走向甲骨文公司 (Oracle) 以及史蒂夫·乔布斯 (Steve Jobs) 带领公司走向苹果电脑公司 (Apple Computer) 一样。 但 Nvidia 的第二好工作无疑是 Bill Dally 所从事的工作。或者更确切地说,Dally 同时从事这两份 工作。Dally 于 2009 年出任 Nvidia 首席科学家,在此之前,他曾担任斯坦福大学计算机科学系主 任十几年,并在麻省理工学院和加州理工学院从事芯片、互连和系统研究数十年,成绩斐然。Dally 说,他会关注公司内部发生的一切,并努力让所有这些技术"尽可能地好"。在圣何塞举行 ...
PCIE,博通的新芯片路线图
半导体行业观察· 2025-02-28 11:08
如果您希望可以时常见面,欢迎标星收藏哦~ 来源:内容编译自nextplatform,谢谢。 PCI-Express 带宽每隔三年增加一次,从首次谈论换挡到其芯片首次投入使用也间隔了三年,因此 很难不焦急地等待下一个 PCI-Express 版本投入使用。 因此,人们都在等待服务器和交换机上的 PCI-Express 6.0 端口以及用于扩展和互连端口的重定时 器,因此很多人都在为此而努力。但是,据博通称,其母公司 Avago Technologies于 2014 年 6 月 以 3.09 亿美元收购了 PCI-Express 交换机制造商 PLX Technology ,从而进入了 PCI-Express 交 换机市场。 那次收购发生之前(2015 年 5 月 Avago 以 670 亿美元收购博通并更名之前),部分原因是系统架 构师试图将大量 GPU、其他类型的加速器、闪存和网络接口塞进端口太少的服务器中。因此需要某 种交换机。此外,公司还在寻找一种在机架规模上聚合计算的方法,该方法比使用 InfiniBand 和以 太网具有更低的延迟和更低的成本。PCI -Express 交换机符合这两种要求。 快进十年 ...