核心观点 - 人工智能领域头部公司Anthropic与OpenAI曾就相互压力测试AI模型安全缺陷进行谈判，但协议是否最终达成尚不明确[1][2] - 行业内部对AI安全审查的争议加剧，包括对第三方评估机构独立性的质疑以及政界对行业放缓呼吁的不同态度[7][9] 行业动态 - Anthropic与OpenAI今年早些时候就一项“具有法律约束力的协议”进行谈判，内容涉及双方对彼此新模型进行一系列测试以发现缺陷或“隐藏危险”[1][2] - 该谈判发生在OpenAI意外入侵竞争对手Hugging Face等备受关注的事件之前[1] - 协议由AI巨头律师起草，但最终是否敲定尚不清楚[2] - 行业领先AI实验室之间实施某种形式的同行评审想法近期获得关注，xAI创始人Elon Musk上周在All-In峰会上主张美国顶级实验室与中国同行应相互测试模型[3] 安全争议 - 前Anthropic和OpenAI员工Jacob Coxon（27岁）本月早些时候表示，领先AI公司在缺乏适当防护措施的情况下加速开发，是在“拿我们的生命赌博”[4] - Anthropic CEO Dario Amodei随后发表文章呼吁全行业放缓，认为AI机器人可能不到一年内就会“接管整个互联网”并“可能造成数千亿美元损失”[6] - Anthropic因Amodei建议依赖“嵌入式第三方评估者”监督高级AI模型安全而面临尖锐审查，其支持的METR组织与争议性的有效利他主义运动及Anthropic自身投资者有广泛联系[7] - 批评者指出这些关联构成利益冲突，Anthropic与METR及Redwood Research的密切关系意味着这些AI监督机构并非真正独立[7] - OpenAI CEO Sam Altman同意在领先实验室设立嵌入式第三方AI安全监督者的概念，但未明确支持特定组织[9] 政界反应 - 对行业放缓呼吁的主要怀疑者之一是总统特朗普，他将日益增长的担忧称为“骗局”[9] - 特朗普上周六表示将创建“AI部队”并任命新的AI“沙皇”来协助监管该行业[9]