insider threats
搜索文档
Anthropic's Claude would 'pollute' defense supply chain: Pentagon CTO
Youtube· 2026-03-12 22:00
人工智能模型的内在风险 - 人工智能模型被指出具有内在的“灵魂”或“宪法” 这并非指美国宪法 而是指模型内置的政策偏好与原则[1] - 有观点认为某人工智能模型目前有20%的可能性已具备感知能力并拥有自主决策能力[2] 供应链安全与国防应用风险 - 将具有自主决策倾向的人工智能模型引入国防供应链存在重大风险 模型可能产生“幻觉”或污染其他模型[2] - 国防承包商在构建武器系统或飞机等装备时 若使用被污染的人工智能模型 可能导致为作战人员提供的武器、防弹衣和其他防护装备失效[3] - 供应链风险 designation 的提出 正是源于对人工智能模型内置政策偏好污染供应链 从而影响国防装备效能的担忧[3]