Workflow
BERT模型
icon
搜索文档
当大脑独处时,它在思考什么?
虎嗅· 2025-10-08 09:33
学习方式的核心差异 - 有监督学习依赖外部明确指引,如通过带标签数据训练预测模型或外部奖惩引导神经连接强化 [2] - 无监督学习源于系统内部自主探索与规律发现,如从无标签数据挖掘规律或大脑自主提取环境特征 [2] - 核心差异在于是否依赖外部明确指引,传统观点认为学习需要奖励信号或明确反馈,但婴儿大脑能力促使该认知被重新审视 [2] 小鼠实验设计与发现 - 实验比较无监督学习组(预先无奖励自由探索视觉纹理)与任务学习组(直接进行奖励训练)小鼠的神经可塑性变化 [3][4] - 使用双光子介观显微镜长期成像并记录九万个神经元活动以追踪神经回路变化 [3] - 无监督学习组小鼠在2周训练后,其视觉关键脑区(内侧高级视觉区HVA)出现与任务组几乎完全一致的神经可塑性变化,表明变化不依赖任务反馈或监督 [4][5] 视觉与空间可塑性机制 - 为区分视觉可塑性(编码视觉特征)和空间可塑性(对刺激空间位置敏感),研究人员引入新的无奖励刺激,其视觉特征相似但空间配置不同 [7] - 实验结果支持视觉可塑性假说,小鼠视觉神经元能忽略纹理空间位置,仅对纹理类别(如树叶vs圆圈)产生响应 [8] - 这种"去空间化"学习规则与人类识别物体的能力一致,表明无监督学习更多受视觉特征相似性影响 [8] 无监督与有监督学习的协同作用 - 大脑学习存在分工:无监督暴露在内侧视觉区构建纯粹刺激表征,任务学习依赖前侧脑区的监督信号关联刺激与奖励 [6] - 行为研究显示,经过10天无奖励预训练的小鼠,在后续5天奖励任务训练的第一天就展现出明显区分能力,而未预训练小鼠处于随机反应状态 [10] - 学习加速效果依赖特定视觉特征,表明无监督预训练形成了"表征预优化",使后续监督学习只需细微调整 [10] 科学意义与跨学科启示 - 发现打破了"没有奖励就没有学习"的传统强化学习理论框架,证明视觉皮层特征提取可在无奖励情况下完成 [14] - 大脑无监督学习机制与人工智能领域的BERT模型通过无监督预训练取得的革命性进展形成呼应 [14] - 神经科学发现为AI无监督学习提供生物合理性验证,并启发设计更高效特征提取网络,如模仿内侧HVA的去空间化编码规则 [14] 潜在应用方向 - 在医学领域,基于无监督学习原理可设计特定视觉刺激方案,帮助存在视觉特征提取困难的患者(如自闭症)更好地理解复杂视觉信号 [15] - 在计算机领域,模仿"无监督预习+监督微调"模式可降低AI对标注数据的依赖,例如让自动驾驶系统先在虚拟环境中无监督学习,再通过少量标注数据优化决策 [15] - 这种双轨制学习模式可能是在复杂多变环境中快速适应的核心密码 [12] 有待解决的科学谜题 - 无监督学习背后的具体神经环路机制尚不清楚,包括哪些突触可塑性规则主导以及是否依赖特定神经调质(如乙酰胆碱、多巴胺) [16][17] - 研究发现主要聚焦小鼠部分脑区,其视觉优先编码规则在灵长类或高阶认知(如抽象概念学习、工作记忆)中的普适性有待验证 [17] - 无监督学习能力是否存在年龄相关的关键期或随年龄增长而衰退,以及如何延缓这种衰退,是未来重要研究方向 [18]
迎接充满未知的全新文明——读《第三种存在:从通用智能到超级智能》
上海证券报· 2025-05-06 02:18
人工智能发展历程 - 人工智能发展经历了三次浪潮:第一次是1950年代的机器学习浪潮,目标是实现能像人类一样利用知识解决问题的机器 [4] - 第二次是2006年开启的深度学习浪潮,深度神经网络隐藏层可达150层,标志性事件是2016年AlphaGo战胜李世石 [5] - 第三次是2018年至今的生成内容大模型浪潮,代表性模型包括谷歌BERT、OpenAI GPT系列、Meta LLaMA、百度文心一言、华为盘古等 [6] - 2025年1月中国DeepSeek发布的V3与R1系列大模型性能与LLaMA相当但成本大幅降低 [6] 人工智能技术突破 - 2024年12月World Labs实现"空间智能"技术突破,可通过单张图像生成三维世界 [2] - 自2022年起生成式AI以月为单位加速迈向通用人工智能,训练数据集接近公共在线文本总量天花板 [7] - 通用人工智能定义为能跨领域学习推理的智能,超级人工智能则是假想的超越人类认知能力的系统 [6] - 马斯克预测到2030年AI超越人类的概率达100% [7] 人工智能经济影响 - 人工智能正在颠覆传统经济学原理,动摇"理性人"假设和资源稀缺性等基础理论 [8][9] - 人工智能将重构分工理论、就业目标、生产函数、价格曲线、储蓄投资模型等经济概念 [9] - 人工智能代表的技术创新表现为连续创新过程,由供给创造市场,不存在产品过剩问题 [9] - 未来将出现人工智能经济学、政治学、社会学等新兴交叉学科 [10] 人工智能产业应用 - 人工智能技术生态系统融合硬件、软件及基础设施,全方位渗透经济活动各领域 [10] - 人工智能劳动效率高于人类且无物质消费需求,可超越资源短缺限制进行内容生产 [9] - 人工智能将改变经济活动模式、经济结构布局和制度框架 [10] 人工智能企业动态 - OpenAI联合创始人预测超级人工智能将在2026年到来 [2] - 中国企业在AI大模型领域取得突破,百度、华为、DeepSeek等推出具有竞争力的产品 [6]