合作框架与投资规模 - Anthropic与Accenture宣布建立合作伙伴关系，旨在将团队嵌入Claude开发者内部，以评估先进AI模型的安全性[1] - 双方预计在未来五年内各自承诺至少10亿美元投资，用于建设AI安全能力[1] 合作执行与角色分工 - Accenture将通过其收购的AI子公司Faculty，与Anthropic员工及其他安全合作伙伴共同开展工作[1] - 重点任务包括评估和“红队测试”AI模型、进行对齐评估、测试现有模型防护措施的有效性[2] - Faculty此前曾与政府、国防机构和医疗系统合作，包括在新冠疫情期间开发英国国家医疗服务体系的早期预警系统[3] - Faculty将利用其在构建和评估复杂AI系统方面的专业知识参与该项目[3] 嵌入式评估方法 - 嵌入式评估人员直接在AI开发者内部工作，代表该领域一种较新的方法，区别于传统外部评估方式[2] - 该方法允许嵌入式评估人员获得类似员工的访问权限，监控模型训练和部署方式、评估内部流程、验证安全承诺[4] - 公司指出，嵌入式评估的标准尚未完全定义[4] 高管观点与战略意义 - Accenture首席技术官兼Faculty首席执行官Marc Warner表示，Faculty基于“AI应安全设计而非偶然安全”的信念成立，与Anthropic作为嵌入式评估人员合作正是Faculty的使命所在[4] - Anthropic将直接资助Accenture参与初始阶段，同时探索与其他评估机构和非营利组织的合作[5] - Accenture董事长兼首席执行官Julie Sweet称，嵌入式评估是一个新兴领域，公司期待与Anthropic合作加速其发展，将其视为未来安全格局的重要组成部分[6]