Workflow
基础理论教学
icon
搜索文档
NYU教授公布2025机器学习课程大纲:所有人都在追LLM,高校为何死磕基础理论?
机器之心· 2025-05-13 10:37
高校机器学习课程设计趋势 - 核心观点:全球顶尖高校研究生机器学习课程仍以基础理论和经典模型为核心,刻意避开大型语言模型(LLM)等热点内容,强调数学推导与优化思想[2][4][7] - 课程案例: - 纽约大学Kyunghyun Cho课程聚焦随机梯度下降(SGD)等基础算法,要求学生研读经典论文[2] - 斯坦福CS229涵盖线性回归/SVM/神经网络等基础模型,2025年仍保持传统教学框架[2] - MIT 6.7900从概率建模和统计推理角度构建理论基础[4] - 清华电子系设置《机器学习》《统计推断理论》等核心理论课程[6] 理论与实践平衡机制 - 教育界共识:基础教学能培养批判性思维,理解算法数学原理比套用最新模型更重要[7][17][23] - 实践补充方案: - 斯坦福CS329S《机器学习系统设计》教授模型部署与监控全流程[9] - CMU 10-718要求博士生完成从数据清洗到模型上线的完整项目[11] - 清华电子系引入企业合作课程如"大数据技术应用实践"[13] 基础教育的长期价值 - 抗变化性:扎实的优化/泛化理论能适应技术迭代,如CNN到Transformer的范式迁移[20] - 科研创新:Hinton案例显示数十年神经网络基础研究最终促成深度学习突破[23] - 能力培养:经典论文研读可追溯知识演进脉络,如Cho引用Sutton「苦涩教训」强调通用方法价值[7][29] 课程讲义核心内容 - 100页PDF覆盖六大模块: 1) 能量函数框架统一监督/无监督学习范式[26] 2) 分类算法与SGD优化方法[26] 3) 神经网络构建块(卷积/注意力机制等)[26] 4) 概率机器学习与VAE模型[26] 5) 无向生成模型(RBMs/EBGANs)[27] 6) 强化学习/元学习等高级主题[27] 经典论文引用 - 基础算法: - REINFORCE算法(策略梯度奠基)[29] - 反向传播优化技巧(LeCun等)[30] - 生成模型: - 对比散度算法(Hinton)[32] - 变分自编码器(Kingma等)[33] - 前沿方向: - 元学习MAML算法(Finn等)[34]