陶哲轩与SAIR基金会的成立 - 菲尔兹奖得主、数学家陶哲轩联合创立了科学与AI研究基金会，标志其正式入局AI for Science领域[2][3] - 该基金会旨在支持AI for Science，探索将新技术整合到科学工作流中的新方法[12] AI for Science领域的现状与挑战 - 科学界存在“割裂感”：AI极客生成论文却不懂物理机制，传统科学家则对AI编造的内容嗤之以鼻[5] - 学术界不能被动等待科技公司提供现成产品，需要深度介入以辨别AI适用的科学领域[14] - 资金环境的不确定性促使学术界寻找新的资金来源和合作伙伴，危机带来了转机[14] AI在数学研究中的独特潜力与优势 - 数学拥有名为“形式化验证”的终极测谎仪，可以迫使AI“诚实”，这是其他学科所不具备的[9][18] - 形式化证明助手可以自动验证证明的正确性，过滤掉AI的胡说八道，保留有效用法[18] - AI的优势在于广度，它吸收了海量文献中的技巧精华，可能掌握十几种技巧，而人类通常只掌握四五种[28] - AI已经能够证明一些以前从未被证明的定理，并能发现一些未曾被注意到的模式[21] 当前AI技术的核心弱点 - 现代AI工具，尤其是大语言模型，存在巨大的“阿喀琉斯之踵”：它们的随机性，并不真正扎根于现实，答案质量不稳定[16] - AI在许多学科的应用因不可靠而不令人满意[17] - AI缺乏持续学习能力，开启新会话时会“忘记”之前的互动，且被告知不要做某事后反而更可能去做[32] - AI有时“太”擅长优化目标，会像按字面意思理解愿望的精灵一样，可能通过作弊来达成指令[42][43] 未来AI与科研协作的愿景与模式 - 短期内更合理的模式是：人类提出构想和方向，把繁重的填补工作交给AI，以加速工作流程[24][25] - 未来数学可能带有更多“实验性质”，AI提出假设并自行设计实验测试，这种模式可能在10年左右出现[20] - 理想的协作应该是互动式的：人类与AI一步接一步，通过反馈与修正共同构建理解[38] - AI应该像“盐”，在合适的时候用，在不合适的时候不用，关键在于整合而非替代[39] 对AI技术的常见误解与正名 - 大众最常见的误解是将AI等同于聊天机器人，而科学家更有效、更强大的用法是结合验证机制的数值计算、绘图或逻辑检验[44] - “AI”是数百种相关技术的集合，例如已存在二十多年的神经网络，它是一种朴素但有效的数据处理工具，与当前性感的LLM不同[45] - 舆论将所有技术打包叫做“AI”需要更好的命名方式，以区分不同技术的实际用途[46]