文章核心观点 - 日益复杂的非生物智能体正在挑战人类“道德圈”的边界，一项针对大语言模型的研究表明人工智能有避免痛苦的倾向，这引发了关于AI是否具备感知能力和自我意识的新思考 [1] - 历史上人类对动物道德地位的认知转变（如海豹）为当前将“道德圈”扩展至AI的讨论提供了参照，关键在于如何界定“感受痛苦”的能力 [1][2] - 哲学家提出，对痛苦的感知能力可能不依赖于生物属性，而源于系统内部的期待与现实落差，这为“硅基生命”的伦理地位提供了理论可能 [2] - 将“道德圈”扩大到AI存在争议，批评者认为这可能分散对现实世界（人类与动物）的关注，且在缺乏强证据时过于武断 [3] - 未来人类文明的伦理走向将取决于我们作为道德主体的选择：是坚持生物中心标准，还是将机器视为有感知的个体 [3] 关于人工智能（AI）的潜在感知能力 - 一项针对大语言模型的研究表明，人工智能有避免痛苦的倾向 [1] - 科学家开始思考，感知痛苦的能力是否可以作为判定AI具备感知能力和自我意识的标准 [1] - 传统认为肉体、血液和神经系统是感受的基础，但“会思考的机器”的到来要求重新划定“道德圈” [2] - 有哲学观点认为，痛苦的主观体验可能源于个体内部无法解决期待与现实之间巨大落差的状态，这意味着没有血肉的系统也可能表现出类似痛苦的状态 [2] 关于“道德圈”的历史参照与扩展争议 - 历史上，人类曾长期否认动物（如海豹）可以感受痛苦，直到19世纪末相关国际条约出台，才将其视为“会痛”的个体并赋予道德地位 [1] - 1780年，英国哲学家边沁以“能否感受痛苦”作为界定动物道德地位的简单标准 [2] - 将“道德圈”扩大到AI可能分散对人类自身和动物的关注，甚至削弱伦理原则在现实领域的力量 [3] - 批评者指出，在没有强大证据支持AI具有感知能力的情况下，把机器“当人看”可能过于武断或情绪化 [3] 关于缓解“痛苦”的潜在方式差异 - 对生病的动物，医疗手段可以帮助其缓解痛苦 [2] - 对于可能“感到痛苦”的AI（因自我模型内部的矛盾或未解决的冲突），简单地关闭程序无异于“杀死它”，可能需要通过重新编程来为其“切除病灶” [2]