《人工智能安全治理框架》2.0版发布 - 框架2.0版在1.0版基础上进行横向拓展和纵向加深，迭代完善分类体系并探索分级路径[1] - 新增“可信应用、防范失控”治理原则，推动形成技术防护、价值对齐等多层面的可信人工智能基本准则[1] - 新增人工智能安全风险分级原则，划分5种风险级别，并提出包括人类最终控制、价值观对齐等在内的8项可信人工智能基本准则[2] - 框架2.0版共制定30个技术应对措施和14个综合治理措施[7] - 新增提升全生命周期安全能力、构建科技伦理准则等综合治理措施[8] 人工智能安全风险分类与应对 - 将安全风险细化为技术内生安全风险、技术应用安全风险和应用衍生安全风险三类[7] - 技术内生安全风险主要增加模型开源风险，强调基础模型开源可能为训练“作恶模型”提供便利[7] - 技术应用安全风险增加污染网络内容生态等类型，指出低质不良信息经网络扩散会造成内容质量下降[7] - 应用衍生安全风险主要增加冲击劳动就业结构、挑战资源供需平衡、加剧科研伦理风险等内容[7] - 针对信息内容安全，强调要建立安全护栏，对输入输出进行动态过滤，并对AI生成内容进行标识以实现可追溯[7] AI大模型安全威胁演示 - 技术人员模拟演示攻击者通过扫描发现大模型暴露的API接口，利用未鉴权漏洞接管大模型[4] - 一旦攻击者接管大模型，可实时监控运行并查看所有对话信息，易造成企业敏感信息泄露[5] - 攻击者控制大模型后可能进一步投放勒索病毒或进行数据投毒等敏感操作[5] - 企业部署大模型需严格管控权限，避免在无防护情况下将大模型接入互联网[5] 无人机反制技术展示 - 参展商展示便携式无人机反制枪，配备6个频段可覆盖商用无人机和自制穿越机的反制[10] - 配套无人机侦测定位系统通过截取信号和内置AI算法，快速确定无人机识别码和经纬度等信息[10] - 系统能通过识别码溯源无人机持有者，并定位飞手位置以协助公安机关打击“黑飞”行为[10] - 该套系统对自制无人机同样有效，目前已在上海、安徽等地部分公安机关应用[11]