核心观点 - Anthropic向六名独立评估人员提供公司硬件、办公空间及内部工具访问权限，以便更彻底地审查该AI巨头未发布的模型和代理 [1] - 此举旨在缩小评估人员对前沿AI公司系统的理解与公司自身理解之间的差距，并让公司对自身决策公开负责 [2] - 这是前沿AI公司首次采取此类嵌入评估人员的措施 [3] 评估团队与安排 - Anthropic从METR研究小组中挑选了六名评估人员，该小组因关于OpenAI Hugging Face代理漏洞的报告而闻名 [1] - 六名入选研究人员的姓名周四未立即公布，他们将被与更广泛的METR团队“隔离” [7] - 访问权限不扩展至更广泛的METR团队 [5] - 嵌入评估使少数合格人员在Anthropic安全标准下工作，近距离观察公司运营方式 [8] 承诺背景 - 该决定履行了CEO Dario Amodei上月做出的承诺，当时他发表长文呼吁前沿AI公司放慢脚步 [2] - Amodei当时表示Anthropic单方面承诺采取嵌入安全评估人员这一步骤 [3] - 针对Amodei的文章，OpenAI CEO Sam Altman表示其公司也将嵌入评估人员，但尚未实现 [3] 发布权限与限制 - 评估人员可自由发布其发现，但有几项限制：禁止METR团队披露客户数据、模型架构及律师-客户特权信息 [4] - Anthropic保留要求METR删改信息的权利 [4] - METR可自由公开描述公司的删改情况，并说明其是否认为删改合理，前提是不泄露被删改的信息 [4] - Anthropic表示嵌入评估不是其他组织获取公司信息或客户及合作伙伴信息的方式 [8]