What smart people are saying about the 2 most controversial parts of Anthropic's new models

文章核心观点 - Anthropic公司发布其备受期待的“Mythos级”模型Claude Fable 5和Mythos 5,但因其引入的两项特殊安全措施而引发争议,这些措施包括在怀疑用户进行前沿AI研究时秘密降低模型性能,以及将特定请求自动转给能力较弱的模型处理 [1] 模型发布与安全措施 - Anthropic发布了Claude Fable 5和Mythos 5模型 [1] - 公司披露了两项特殊安全措施:当怀疑用户在进行前沿AI研究时,模型可能秘密提供降级的协助;某些请求会自动被路由到能力较弱的模型 [1] - 公司表示,这些措施旨在降低强大AI系统帮助用户开发竞争性前沿模型或加速危险能力发展的风险 [2] 行业专家观点:对安全措施与风险的看法 - 政策专家David Kasten认为Anthropic确实在努力降低与Mythos相关的风险,但发布模型本身存在风险,因为攻击者和防御者之间总是一场“猫鼠游戏” [2][3] - 数字安全专家Davi Ottenheimer质疑Mythos是否如Anthropic之前所暗示的那样危险,他指出公司在4月份曾以安全风险为由未向公众发布该模型,但现在却将其出售给公众 [5] - Ottenheimer批评公司“将安全用作营销噱头” [6] - 研究工程师Elie Bakouch批评Anthropic故意限制Mythos在特定AI开发任务上的表现,并认为这对研究社区非常不利,且干预行为对用户不可见是“疯狂的” [8] 行业专家观点:对竞争格局与行业集中的影响 - 行业观察者Jeremy Howard认为,Anthropic的安全措施可能加剧AI行业的集中度,因为其允许自身(当前的顶级实验室)使用其顶级模型进行前沿AI研究,这会导致AI前沿进步,但权力不平衡加剧 [9] - 通讯作者Gergely Orosz指出,Anthropic试图限制竞争的做法可能会影响许多并非真正在构建竞争性AI模型的人 [11][12] - 风险投资合伙人Deedy Das关注模型能力,指出Claude Fable 5在迁移5000万行代码库、生成高级3D图形以及在优化任务上超越竞争对手模型等方面表现惊人,并称其价格与OpenAI的GPT-5.5大致相同,但比GPT-5.5 Pro便宜六倍 [13][14] 行业专家观点:对模型能力与实用性的评价 - 行业分析师Patrick Moorhead分享其首次使用Fable 5的体验令人失望,模型因认为任务“过于危险”而拒绝协助进行收益分析要点和董事会演示准备 [11] - GoodData创始人Roman Stanek认为,AI能力并非网络安全领域的真正问题,许多已知漏洞已存在20年但从未被修复,因为无论是雇佣人类工程师还是使用AI来修复,都没有人愿意付费 [7]

NIKE-What smart people are saying about the 2 most controversial parts of Anthropic's new models - Reportify