政府与行业合作 - 英国政府宣布与微软等行业专业机构合作 共同开发深度伪造内容检测评估框架 [1] - 该合作汇集了包括微软在内的主要科技公司、学者和专家 旨在为深度伪造检测工具和技术建立统一的评估基准 [2] 框架目标与功能 - 框架的主要目标是通过模拟现实世界威胁场景 严格测试检测工具识别、分析和对抗有害合成媒体的有效性 [2][3] - 模拟场景包括性剥削、金融诈骗、身份盗窃和冒充等威胁 旨在找出当前检测能力的弱点 [3] - 该框架将为执法机构、政策制定者和行业参与者提供宝贵见解 并为开发或部署反深度伪造解决方案的公司设定明确的性能预期 [3] 行业背景与紧迫性 - 深度伪造内容的数量呈爆炸式增长 从2023年约50万例激增至2025年的800万例 [4] - 犯罪分子越来越多地利用该技术欺诈个人、骚扰受害者并传播破坏对在线渠道信心的欺骗性内容 [4] - 英国技术大臣强调深度伪造正被犯罪分子武器化 用于欺诈公众、剥削妇女和女童 并破坏人们对所见所闻的信任 [5] 行业举措与影响 - 此次合作建立在近期立法行动基础上 英国已加速立法将未经同意的成人私密深度伪造图像的制作或索取定为刑事犯罪 [5] - 该框架紧随政府赞助、由微软主办的深度伪造检测挑战赛之后 该挑战赛通过基准测试和现场黑客松促进了创新 [5][6] - 行业专业人士视该框架为一项主动措施 旨在跟上快速演变的AI威胁 通过标准化评估 英国在缓解有害AI内容的全球努力中处于领先地位 [6] - 伦敦市警察局副局长指出 测试和清晰的行业标准将提升执法部门保护受害者和维护公众信心的能力 [7]