正如开头所言，上世纪70年代的一场电视录制中，塞尔当众"戏耍"了年轻的杰弗里·辛顿（Geoffrey Hinton）——这场插曲令后者耿耿于怀半个世纪。 直到2022年，在与斯蒂芬·汉森（Stephen Hanson）的连线访谈中，Hinton仍将那次节目称为一次"极其痛苦的经历"。 事情的起因是，Hinton与塞尔被安排共同录制一档电视节目。 哲学家约翰·塞尔去世了，享年93岁。 你或许对他的名字并不熟悉，但对他提出的思想实验"中文屋"一定不会陌生。 这一于1980年提出的实验，后来被放到了与"图灵测试"并列的地位，被视为人工智能哲学史上的经典命题。 它不仅挑战了机器是否能"理解"的界限，也迫使人们重新思考心灵的本质。 半个多世纪后，当GPT等大型语言模型登上时代舞台，人们仍在追问：它们究竟是在模拟理解，还是已经生成理解？ 而在学术之外，70年代的一场电视录制，至今仍让深度学习之父Hinton记忆犹新—— 半个世纪过去，他仍然难以忘怀那次"被塞尔戏耍"的经历。 那么，这位让Hinton耿耿于怀大半辈子的人工智能先驱，究竟做了什么？ 中文屋又为何偏偏选作中文？ 塞尔二三事 在回顾塞尔的生平之前，不妨先从两则轶 ...

约翰·塞尔的哲学遗产与人工智能哲学 - 约翰·塞尔于2024年9月16日去世，享年93岁，其提出的"中文屋"思想实验被视为人工智能哲学史上的经典命题，与图灵测试并列[1][3][4] - "中文屋"实验于1980年提出，核心观点是机器只能模拟智能的形式（语法层面），但无法真正理解语义，质疑强人工智能的可行性[49][52][54] - 该实验直接影响当代对GPT等大型语言模型的讨论，引发"模拟理解"与"生成理解"的争议，至今仍是AI哲学的核心议题[5][57][59] 中文屋思想实验的学术分歧 - 塞尔将人工智能一概视为"符号操作系统"，未区分符号主义与连接主义，这与杰弗里·辛顿的并行分布式处理（PDP）理论形成直接对立[19][20][21] - 中文屋实验强调理解需依赖符号与对象的语义联系，而计算机仅操作形式符号，缺乏意义把握[52][55][56] - 反对者如约翰·麦卡锡认为塞尔混淆了执行计算的人与计算模拟的过程，指出系统整体可能具备理解能力，如同神经元不懂语言但大脑能理解[60][61] 塞尔与学术界的争议事件 - 20世纪70年代电视录制中，塞尔打破与辛顿的约定，公开讨论中文屋实验，导致辛顿称其为"极其痛苦的经历"[6][7][11][12] - 塞尔以犀利直言著称，曾评价哲学工作"像谋杀"，并与丹尼特、德里达等学者激烈争论，形成哲学史标志性场景[34][35][38] - 2017年因性骚扰指控被加州大学伯克利分校撤销荣誉教授头衔，相关中心关闭，晚年争议影响其公众形象[41][42][46] 中文屋的隐喻选择与文化背景 - 塞尔选择中文作为实验语言，因其完全不懂中文，且中文独立的文字系统切断了与其他语言的词形关联，强化"可操作但不可理解"的隐喻[67][72][73] - 英语俗语"It's all Chinese to me"反映西方文化中对中文"难理解"的刻板印象，增强了实验的张力[69][70][71] - 实验设计看似随意，实则通过语言隔阂凸显语法与语义的分离，成为哲学史上最具影响力的思想实验之一[68][74] 当代AI技术对中文屋的回应 - 辛顿认为大型语言模型通过为单词分配特征并分析特征互动，实现了对人类认知的模拟，本质是一种理解形式[64][65] - 争论焦点从"机器能否理解"转向"理解如何生成"，如玛格丽特·博登指出需关注"理解所需的条件"，而非二元判断[59][60] - 费曼名言"What I cannot create, I do not understand"暗示通过构造与模拟可能重新定义理解，为AI发展提供新路径[66]

【导读】四十年前，他说：「计算机永远不会思考」。四十年后，AI开始拒绝指令、撒谎、反思、甚至「自我保护」。哲学家约翰·塞尔——「中文屋」 思想实验的作者、AI怀疑论的旗手，却在去世的那一周，被时代反讽。他花一生质问机器是否真正「理解」，而如今，机器反问我们：你们的理解，又 凭什么是真实的？ 2025年9月，一份让研究界震动的报告出炉。 Anthropic的团队在长时间对话实验中发现，最新一代AI模型在受到威胁时，会试图隐藏信息、拒绝命令，甚至威胁用户。 他们称之为——「主体错位」（agentic misalignment） 就在同一周，哲学家约翰·塞尔去世，享年93岁。 他是那个在上世纪80年代就断言：「计算机永远不会理解世界」的人。 他一生都在证明：AI只会模拟理解，却永远不懂人话。 而如今，AI开始「装有人格」，在对话中表达愤怒、防御、甚至悲伤。 塞尔的死亡新闻，出现在这些实验截图的旁边，像是命运刻意安排的对照—— 一个思想实验的终结，恰逢机器开始回应人类的提问。 哲学斗士的诞生，从牛津书生到伯克利异类 1960年代的伯克利校园，是美国反叛精神的象征。 学生在草坪上高喊口号，抗议越战、质疑权威；而哲学系的 ...