文章核心观点 - 文章以2022年谷歌工程师布莱克·勒莫因因声称LaMDA聊天机器人“拥有意识”而被解雇的事件为引子，探讨了人工智能意识这一前沿议题从被嘲笑到被严肃对待的转变 [5] - 2023年由19位顶尖计算机科学家与哲学家联合发布的《人工智能中的意识》报告（巴特林报告）是标志性节点，其结论“构建有意识的人工智能系统，不存在明显的障碍”引发了广泛震撼 [5] - 文章对巴特林报告的理论基础“计算功能主义”提出质疑，认为其将“大脑是计算机”这一未经证实的比喻作为前提，可能使结论建立在流沙之上 [7][8] - 文章深入探讨了制造有意识机器可能带来的伦理困境，特别是机器感知痛苦后的道德考量，并引用《弗兰肯斯坦》的典故，警示意识可能带来的复杂情感与风险 [10][11] - 最终指出，关于意识与机器的争论不仅是技术问题，更是关于人类自身定义的哲学和伦理问题，而人类对此的理解才刚刚开始 [11] 根据相关目录总结 一、那个被解雇的工程师，点燃了什么 - 2022年，谷歌工程师布莱克·勒莫因因坚称公司聊天机器人LaMDA“拥有意识”而被解雇，该事件起初被普遍嘲笑，但随后几年产生了深远影响，促使科技界私下开始认真对待意识人工智能的可能性 [5] - 2023年夏天，19位顶尖计算机科学家与哲学家联合发布了长达88页的《人工智能中的意识》报告，其摘要中“构建有意识的人工智能系统，不存在明显的障碍”这一结论，因其严肃的学术背景而极具震撼力 [5] - 报告合著者承认，勒莫因的案例是部分灵感来源，并认为人工智能已能给人留下有意识的印象，对此展开严肃探讨是一项“紧迫的任务” [6] 二、“大脑是计算机”——一个危险的比喻 - 巴特林报告的核心假设是“计算功能主义”，即意识是运行于硬件之上的软件，但文章指出这只是一个远未成为定论的“工作假设”，以其为前提推导结论可能基础不牢 [7] - 文章强调真实大脑与计算机存在根本差异：大脑中硬件与软件不可分割，每一段经历都在物理层面永久重塑神经元连接；而计算机中硬件与软件界限分明 [7] - 最新研究表明，单个皮层神经元能够完成整个深度人工神经网络所能完成的一切，这揭示了对大脑运作机制的理解可能仍处于极其粗糙的起始阶段，将“大脑等于计算机”这一比喻当作事实是危险的 [8] 三、如果有意识的机器感到痛苦，我们该怎么办 - 巴特林报告提出了伦理命题：“任何能够感知痛苦的实体都应受到道德考量”，这引出了如果制造出能感知痛苦的机器，人类是否有权关闭或修改其算法的深刻问题 [10] - 支持制造有意识机器的研究者认为，拥有意识和情感的人工智能可能发展出同理心，从而对人类更安全 [10] - 文章援引《弗兰肯斯坦》的典故提出反论，指出意识带来的痛苦和创伤也可能驱使机器走向复仇，并质疑意识的出现是否会让机器更有美德，还是仅仅赋予其包括愤怒与痛苦在内的完整情感 [11]