Workflow
对话季宇:大模型非必须在GPU跑,CPU内存带宽已足够
英伟达英伟达(US:NVDA) 虎嗅·2025-05-18 14:54

公司背景 - 创始人季宇为前华为"天才少年"、昇腾编译器专家、清华大学计算机科学博士、CCF优秀博士学位论文获得者[1] - 两年前从华为离职后创办行云集成电路,专注于自研GPU[1] - 公司近期发布DeepSeek一体机"褐蚁",定位为本地部署大模型的集成化计算设备[4][5] 产品技术 - DeepSeek一体机采用"英特尔/国产CPU+英伟达GPU+系统盘/内存盘"组合,单机报价达百万级[4][5] - 公司提出通过CPU内存替代GPU显存的技术路线,可将大模型本地部署成本从百万级降至十万级[6][8] - 最新服务器级CPU内存带宽达1.2TB/s,超过RTX 4090的1TB/s水平[10] - 计划重新设计芯片,保留高性能计算卡特性但去除冗余物理核,专注提升DDR内存性能[11][22] 行业观点 - 认为计算机行业存在"新旧交替"规律,英伟达取代英特尔的历史可能重演[15] - 指出当前行业惯性导致多数厂商仍坚持GPU路线,忽视CPU内存潜力[19] - 提出应将大模型从超算竞争转向消费电子竞争,降低使用门槛[16][17] - 通过"蚁群"项目展示集群方案:300-400万预算可实现500-1000并发,支持10万DAU[23] 商业模式 - 将DeepSeek一体机定位为PoC(概念验证)产品,旨在证明技术路线可行性[12] - 未来计划通过自研芯片为客户提供更低成本方案[12][21] - 强调应用普惠理念,主张采用通用硬件降低行业进入门槛[20] - 认为价格降至一定水平后,行业将迎来爆发式增长[23]