《人工智能安全治理框架》2.0版发布 - 框架2.0版在1.0版基础上进行横向拓展和纵向加深，迭代完善分类体系并探索分级路径[1] - 新增“可信应用、防范失控”治理原则，推动形成技术防护、价值对齐等多层面的可信人工智能基本准则[1] - 新增人工智能安全风险分级原则，划分5种风险级别，并提出包括人类最终控制、价值观对齐等在内的8项可信人工智能基本准则[2] - 框架2.0版共制定30个技术应对措施和14个综合治理措施[7] - 新增提升全生命周期安全能力、构建科技伦理准则等综合治理措施[8] 人工智能安全风险分类与应对 - 将安全风险细化为技术内生安全风险、技术应用安全风险和应用衍生安全风险三类[7] - 技术内生安全风险主要增加模型开源风险，强调基础模型开源可能为训练“作恶模型”提供便利[7] - 技术应用安全风险增加污染网络内容生态等类型，指出低质不良信息经网络扩散会造成内容质量下降[7] - 应用衍生安全风险主要增加冲击劳动就业结构、挑战资源供需平衡、加剧科研伦理风险等内容[7] - 针对信息内容安全，强调要建立安全护栏，对输入输出进行动态过滤，并对AI生成内容进行标识以实现可追溯[7] AI大模型安全威胁演示 - 技术人员模拟演示攻击者通过扫描发现大模型暴露的API接口，利用未鉴权漏洞接管大模型[4] - 一旦攻击者接管大模型，可实时监控运行并查看所有对话信息，易造成企业敏感信息泄露[5] - 攻击者控制大模型后可能进一步投放勒索病毒或进行数据投毒等敏感操作[5] - 企业部署大模型需严格管控权限，避免在无防护情况下将大模型接入互联网[5] 无人机反制技术展示 - 参展商展示便携式无人机反制枪，配备6个频段可覆盖商用无人机和自制穿越机的反制[10] - 配套无人机侦测定位系统通过截取信号和内置AI算法，快速确定无人机识别码和经纬度等信息[10] - 系统能通过识别码溯源无人机持有者，并定位飞手位置以协助公安机关打击“黑飞”行为[10] - 该套系统对自制无人机同样有效，目前已在上海、安徽等地部分公安机关应用[11]

中国算力平台建设进展 - 已有10个省区市的算力分平台正式接入中国算力平台[1] - 平台汇聚不同地域和行业算力资源 构建算力调度"一张网" 实现全面采集和动态监测[2] - 完成100多个算力服务商入驻和1000余家行业用户注册 接入主流基础大模型和垂类模型近100个[3] 算力互联互通发展目标 - 计划到2026年建立完备的算力互联互通标准、标识和规则体系[3] - 目标到2028年基本实现全国公共算力标准化互联 形成具备智能感知和实时发现能力的算力互联网[3] - 平台支持每天上亿次算力调用 能调度全国六分之一算力规模[8] 算力与AI协同应用 - AI无人机反制系统实现99%以上识别精度 响应时间不到3秒[6] - 全球首个人工智能生产流水线在山东济南投入运行 年产能可接受1000多个订单[10][12] - 算力服务平台可自动制定解决方案并匹配最优算力资源[8] 智能算力增长趋势 - 我国算力总规模年增速达30%左右[13] - 预计2025年智能算力规模增长将超40%[15] - 到2035年人工智能预计为中国GDP贡献超11万亿元 占GDP比重4%-5%[13] 算力应用领域拓展 - 智能算力已应用于生成式大模型、自动驾驶、具身智能、智慧城市和工业制造等领域[15] - 通过算力应用大赛累计征集创新算力项目超2.3万个[15] - 在工业、金融、医疗、能源等领域实现规模化复制推广[15]