文章核心观点 - AI的创造力并非主动设计的能力,而是其模型架构(局部性和平移等变性)在运行中产生的副作用[6][12][18] - 这种由“不完美”架构导致的“即兴重组”能力,使得AI能生成前所未见的图像,而非简单的复制品[2][12][23] - 研究通过构建纯数学系统“ELS方程机”验证了该观点,其与真实扩散模型输出平均重合度高达90%[16] - AI的创造力机制与生物胚胎发育中的自组织过程具有相似性,表明人类创造力可能也源于类似的“不完美”拼接过程[19][21] 扩散模型的悖论与现象 - 扩散模型的核心任务是去噪,即将数字噪声还原成训练过的图像,理论上应只生成复制品[2] - 但实际应用中,如DALL·E 2、Imagen、Stable Diffusion等模型能生成全新组合的图像,例如“金鱼在海滩上啜饮可口可乐”[4] - 模型会产出如“多手指人像”等怪异但结构完整的图像,这种现象被称为“扩散模型的悖论”[4][6] 创造力的产生机制 - 机制一为局部性:模型生成图像时并非通盘考虑,而是每次只关注一个小的像素“拼块”[8] - 机制二为平移等变性:输入图像移动时,模型生成的画面必须同步移动以保持结构连贯[9] - 这两条机制本是模型限制条件,却使其无法完全依赖记忆,必须在局部进行即兴重组,从而意外产生新意[10][12] 数学验证与类比延伸 - 研究者构建了不依赖训练数据的纯数学系统“ELS方程机”,仅基于局部性和等变性规则进行图像预测[13][16] - ELS方程机与真实扩散模型的输出平均重合度达到90%,证明了创造力的产生可归因于这两条数学规则[16][18] - 该机制与胚胎发育中的形态发生过程类似,细胞根据局部信号自组织,偶尔出错(如多长手指)与AI图像生成错误高度相似[19] - 研究提出人类创造力可能同样源于对经验和记忆的不完整拼接与补全,创新往往生长于偏差之中[21][23]
Bug变奖励:AI的小失误,揭开创造力真相
36氪·2025-10-13 08:31