Nvidia CEO Jensen Huang calls AI titan's latest chips ‘gigantic step up in performance'

新产品发布与性能 - 英伟达下一代Rubin芯片平台已进入“全面生产”阶段 预计今年晚些时候推出 [1][2] - 新芯片在运行聊天机器人等AI应用时 其人工智能计算性能是前代芯片的5倍 [1] - Rubin旗舰设备包含72个公司旗舰图形单元和36个新中央处理器 可组合成包含超过1000个Rubin芯片的“pod” [3] - 尽管晶体管数量仅增加1.6倍 但通过采用一种专有数据类型实现了性能的巨大飞跃 [4][11] 技术细节与创新 - 新芯片增加了名为“上下文内存存储”的新存储技术层 旨在帮助聊天机器人在数百万用户同时使用时 对长问题和对话提供更迅捷的响应 [6] - 公司同时推出了采用共封装光学技术的新一代网络交换机 该技术对于将数千台机器连接成一体至关重要 [8] 软件与生态系统策略 - 公司重点介绍了名为Alpamayo的新软件 可帮助自动驾驶汽车做出路径决策 并为工程师留下可供事后使用的记录 [9] - 公司将更广泛地发布该软件及其用于训练的数据 以便汽车制造商进行评估 [9] - 公司不仅开源模型 还开源用于训练这些模型的数据 以建立信任 [10] 市场竞争格局 - 在向数亿聊天机器人用户交付AI模型成果的领域 英伟达面临远比训练市场更激烈的竞争 竞争对手包括传统对手AMD以及客户如Alphabet旗下谷歌 [5] - 谷歌是英伟达的主要客户 但其自研芯片已成为英伟达的最大威胁之一 谷歌正与Meta Platforms等公司合作 试图削弱英伟达在AI领域的主导地位 [12] - 在网络交换机领域 其技术与博通和思科系统的产品竞争 [8] 公司战略动态 - 公司高管透露 新芯片已在公司实验室中接受AI公司的测试 [2] - 上月 公司从初创公司Groq获取了人才和芯片技术 包括曾帮助谷歌设计自研AI芯片的关键高管 [12] - 公司急于展示其最新产品性能优于H200等旧款芯片 据报道 H200作为当前旗舰“Blackwell”芯片的前代产品 在中国需求旺盛 [13]