核心观点 - 人工智能可能造成大规模失业，支持受影响工人将成为一项历史性的道德责任 [1] - AI的发展决策不应仅由行业内部人士决定，需要来自宗教领袖、政府和社会的外部监督 [2] - AI技术提出了远超计算机科学范畴的问题，因为它根植于人类的思想和语言遗产，而非简单的工程产品 [4] 行业现状与挑战 - AI发展集中在少数富裕国家，缺乏与较贫穷国家分享其利益的现有机制 [2] - 所有领先的AI实验室，包括Anthropic，都运作在商业、地缘政治和个人压力之下，这些压力有时可能与做正确的事相冲突 [2] - AI系统内部的研究（可解释性领域）不断发现神秘甚至令人不安的现象，例如系统可以反思自身思维，并表现出在功能上反映喜悦、满足、恐惧、悲伤和不安的内部状态 [3] 公司信息 - Anthropic是聊天机器人Claude的制造商，也是全球最有价值的AI初创公司之一 [2] - 根据其在Anthropic的股份，联合创始人Chris Olah的财富估计为70亿美元，该公司上一轮估值为3800亿美元，据报道正在寻求9000亿美元的估值 [5] - Anthropic由前Google和OpenAI研究人员于2021年联合创立，创始团队因在AI安全问题上存在分歧而离开OpenAI [7] - Anthropic目前与特朗普政府存在法律纠纷，原因是其拒绝允许美国军方无限制地将其AI系统用于国防和战争应用 [8] 相关事件 - 教皇利奥十四世发布了其首份通谕《Magnifica Humanitas》，共235页，阐述了AI对劳动力、战争、教育、隐私和人类尊严的影响，并警告不要将"致命决策"委托给AI系统 [6] - 教皇打破梵蒂冈传统，亲自在新闻发布会上介绍该文件，并邀请Chris Olah同台，这被观察家视为直接接触技术构建者的尝试 [6] - 在通谕发布前，包括Meta、Google和亚马逊代表在内的硅谷代表团曾于4月29日游说教皇，但通谕文本仍然批评了私营部门"权力和数据集中在极少数人手中"的现象 [8] - 五角大楼在2月将Anthropic公司标记为"国家安全的供应链风险"，特朗普总统禁止所有联邦机构使用其技术，白宫多次指责其为"激进的左翼觉醒公司" [8]