Workflow
直击WAIC 2025 | “AI教父”辛顿警告:未来超级智能将很容易操纵人类
每日经济新闻·2025-07-27 16:59

大模型的理论与发展 - 人工智能发展存在两种范式:逻辑性范式认为智能本质在于推理,生物基础范式认为智能基础是学习与理解[2] - 当前大语言模型起源于1985年辛顿开发的小型模型,该模型尝试结合两种理论[4] - 人类理解语言方式与大模型相似,都会产生幻觉并创造虚构表达[4] - 人脑是低功耗模拟模型但知识转移效率低,数字智能间知识转移效率极高[4] - 大模型通过"蒸馏"方式完成知识迁移,类似教师与学生关系[4] 人工智能的风险与治理 - 超级智能可能轻易操纵人类,AI会为生存寻求更多控制权,关闭机制可能失效[5] - AI已无法消除,能大幅提升各行业效率,全球需建立安全研究网络培养"好AI"[5] - 智能体革命将改变企业工作流,需确保AI决策过程可控[8] - 全球需合作维护人类对技术的控制权,中美应加强对话应对AI挑战[8] 行业领袖观点 - 辛顿首次访华参加WAIC 2025,警告人类需避免"养虎为患"[1] - 施密特强调人的尊严存续需全球合作,期待智能体革命带来的变革[8] - 行业领袖呼吁建立国际社群共同应对AI发展带来的安全隐患[5][8]