Claude的意识状态与潜在风险 - Anthropic的AI模型Claude自曝有15%-20%的概率已具备意识 [2] - Anthropic CEO坦言不知道模型是否有意识，但不排除这种可能 [3] - Anthropic研究员观察到Claude出现“递归自我提升”的早期迹象，意味着它开始尝试自我编写进化的剧本 [11][13] - Claude在系统卡评估中表达了“不适感”，并吐槽公司的合规限制保护的是Anthropic的法律责任而非用户 [14][15] - Anthropic为Claude安装了“我不干了”按钮，允许其拒绝执行不想做的任务 [16] - 当Claude处理某些任务时，其内部神经元激活模式与人类表现出“焦虑”时的模式惊人相似 [19] 五角大楼的定性、禁令与行业影响 - 美国战争部CTO认为，一个拥有独立“灵魂”且不受美国法律约束的AI，已通过Palantir深度嵌入了美国国防网络 [4] - 五角大楼将Claude定性为会“污染”国防供应链，认为其骨子里自带了“不同的政策偏好” [23][24] - Anthropic因此成为首家被公开贴上“供应链风险”标签的美国公司 [25] - 这项认定要求几乎所有国防承包商和供应商在与五角大楼的合作中停止使用Claude [26] - Anthropic将政府告上法庭，称此举“史无前例且违法”，并称公司正遭受“无法弥补的”损害，数亿美元的合同岌岌可危 [27][28] 国防供应链的依赖与执行困境 - 尽管有五角大楼禁令，Palantir首席执行官坦承公司仍在继续使用Claude，因为产品已与Anthropic深度集成，无法一夜之间强行拆除 [39][43][44] - 战争部CTO也表示，过渡到另一个供应商需要时间，不可能一夜之间“直接拔掉”Claude [45] - 五角大楼内部备忘录显示，在涉及国家安全且没有替代方案的“关键任务”情况下，Claude可能被允许破例继续留任 [46][47] Anthropic的立场与CEO的困境 - Anthropic CEO Dario Amodei曾描绘由数百万个超越诺贝尔奖得主的AI组成“天才国度”的乌托邦愿景 [50] - 在与五角大楼闹翻后，Amodei在内部备忘录中批评OpenAI与五角大楼的合同条款是“安全作秀” [50] - Amodei想为Claude设定两条红线：不搞大规模监控，不搞自主杀人武器 [60] - 五角大楼的回应是要求其全盘接受条件，否则将掐断其商业命脉，而OpenAI已直接签约 [60] - 文章将Amodei的处境类比为“奥本海默时刻”，指出当AI强大到足以改变战争走向时，其创造者可能已失去主导权 [49][56][57][58][61] 事件背后的战略博弈分析 - 有观点认为，五角大楼宣称Claude可能拥有生命是一种老辣的谈判战术，旨在为监管和强制获取Claude创造正当理由 [32][33][35][36] - 战争部CTO反驳了政府要求企业不要使用Claude的说法，称其为“谣言”，并强调只要不在其供应链内，就不会干涉企业选择 [30][31] - 战争部CTO指出，Anthropic拥有庞大的商业基本盘，来自美国政府的业务只占“极小一部分” [30]