芯片算力

搜索文档
李想对Thor-U芯片500 TOPS算力的回应
理想TOP2· 2025-07-27 23:27
芯片算力与精度关系 - 芯片算力与推理模型精度直接相关,精度越高TOPS越低,精度越低TOPS越高 [2] - 低精度推理模型可提升模型吞吐率,降低推理延迟,使反应速度更快 [2] - 理想汽车VLA模型采用INT8与FP8混合精度推理,Thor-U芯片在此格式下提供700 TOPS算力 [2][3] - 特斯拉FSD同样采用INT8格式 [5] 英伟达Thor芯片算力表现 - 英伟达Thor-U芯片在FP8精度下算力为700 TOPS,Thor-X为1000 TOPS [3][5] - 在FP16精度下,Thor-U算力降至350 TOPS,Thor-X降至500 TOPS [5] - 在FP4精度下,Thor-U算力可达1400 TOPS,Thor-X可达2000 TOPS [4][5] 理想汽车技术优化方向 - 理想汽车计划将VLA模型精度逐步优化至FP4,以释放Thor-U芯片1400 TOPS的潜在算力 [2][5] - 低精度推理模型对工程能力要求极高,并非所有企业均可实现 [2] - 公司当前通过混合精度(INT8/FP8)平衡算力与推理效率 [2][3] 行业技术对比 - 英伟达Thor芯片实际交付算力与宣传存在差异,例如Thor量产版本实际可释放算力约为500 TOPS(FP16精度) [1][5] - 不同厂商对芯片算力的应用策略不同,理想选择混合精度优化,特斯拉则采用单一INT8格式 [2][5]