文章核心观点 - 驳斥了“中国AI只会套壳抄袭”的偏见，认为中国在理解和实践开源协作方面已走在世界前列 [4][13][14] - 摩尔定律从经济学角度看已失效，未来需依靠算法、软件与芯片的“极端共同设计”来获取加速 [4][31][32] - 开源比闭源更安全，思想的多样性和社区的广泛参与是更优的治理路径 [4][89][90] - 智能是高度多维且依赖上下文的，炒作“技术奇点”是片面观点 [4][84] - 使用4-bit格式进行模型预训练极具挑战，易导致模型发散 [4][45] 对开源与闭源AI的看法 - 开源AI技术是根本性的，其开放性能让不同行业以多样化的方式进行创新和应用 [7][8][17] - 开源与闭源AI都在飞速进步，整个领域的快速演进比特定模型间的差距更重要 [9][10] - 推动开源AI发展的动力包括：定制化AI的强烈需求、社区协作学习的方式以及全球竞争 [10][11] - 开源生态的进步并非仅依赖对闭源模型的蒸馏，全球有大量聪明的人和实验室在贡献原创想法 [11][12] - 客户选择开源模型的根本优势在于能够进行深度定制，保护商业机密，并符合法律法规要求 [16][17] 对中国AI贡献的评价 - 中国AI社区在开源协作上一直保持开放态度，是全球的领跑者 [4][13][15] - 中国同行的贡献推动了全球AI技术进步，使许多公司得以构建出原本无法完成的东西 [14] - 认为中国AI成就仅是“照搬抄袭”的说法是完全错误的，全球AI社区本就在相互学习 [13][14] NVIDIA的AI战略与Nemotron项目 - Nemotron项目承担两项使命：一是帮助NVIDIA理解如何构建未来核心系统，二是有助于支持整个AI生态系统 [29][30] - NVIDIA持续投入模型开发，以在摩尔定律失效的时代继续提供实质性的加速计算能力 [29][36] - Nemotron是一个“速度优先”的模型家族，专注于智能体（agentic）推理和效率 [40][42] - 公司内部以“使命”而非“组织架构”为主导，多个团队跨部门协作推动Nemotron项目 [70][71] - 算力分配基于项目申请和层级化审核，是一个充满挑战但力求透明公平的过程 [73][74][75] 技术趋势与架构创新 - 摩尔定律已失效约五到十年，晶体管成本呈指数级暴涨，需通过“极端共同设计”从系统各部分挤出性能 [31][32] - 采用4-bit数值格式（如NVFP4）进行预训练可大幅提升吞吐量和能效，但算法挑战巨大，易导致模型发散 [42][43][44][45] - 混合架构（如Transformer与状态空间模型Mamba结合）能获得比单一架构更聪明的模型和更高的效率 [46][47][48] - 混合专家（MoE）架构已成为前沿AI的默认架构之一，能在推理成本与智能水平间取得良好平衡 [49][55] - 多词元预测（multi-token prediction）技术可利用GPU闲置能力，在不降低准确率的前提下提升推理速度 [57][58][59] - 通过多教师蒸馏（如MOPD）技术，能高效整合多个领域的专家知识，并促进大型团队的协作 [60][61][62] 对AI发展未来的展望 - 智能是多维且依赖情境的，如同马力强劲的发动机需要轮子（即平台和情境）才能发挥作用 [84] - AI将持续快速发展，并渗透至经济各层面，其发展需要与人类解决问题的能力相结合 [85][86] - 对AI的公众接受度将随着使用经验的积累而增长，最终AI将如同工具般融入日常生活 [87] - 长上下文窗口（如100万token）对于处理复杂任务和智能体工作流至关重要 [56] - 合成数据生成是构建高质量数据集的重要途径，但需确保数据价值以避免“垃圾进、垃圾出” [66]