AI大模型安全漏洞与测试 - 国内首次AI大模型实网众测累计发现281个安全漏洞，其中大模型特有漏洞占比超60% [1] - 测试发现的安全漏洞涵盖提示注入、信息泄露等典型风险 [1] AI安全威胁手段 - 攻击者通过研究AI学习偏好有针对性地“投喂”信息，甚至有组织地进行“数据投毒” [1] - “数据投毒”手段包括伪造专家身份、虚构研究报告等方式向AI输入虚假信息以操纵输出结果 [1] 行业技术防御方案 - 华为发布星河AI网络安全解决方案，威胁自动化处置率达99%，未知威胁检出率达95% [1] - 蚂蚁消金通过多模态感知与大小模型协同，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式 [2] - 绿盟科技发布大模型安全评估系统，实现对140余款主流模型的自动化深度扫描，精准发现内容安全、对抗攻击等风险 [2] 监管与治理框架 - 《人工智能安全治理框架》2.0版于9月15日在国家网络安全宣传周发布 [1] - 蚂蚁消金2024年以来联合司法机关查处12家非法金融中介，涉案人员超200人，实现技术治理与司法联动 [2] - 绿盟科技评估系统能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告 [2] 网络安全人才现状 - 2025年全球网络安全人才缺口升至480万，同比增长19% [2] - 美国需求51.4万个在线岗位，实际填补率不足三分之二 [2] - 截至2024年底中国持证在岗人员约32万，792所普通高校开设网络安全专业，占高校总数27.1% [2] - 中国高校中65.9%已在2025年新增AI安全课程，较去年跃升15个百分点 [2]

AI网络安全新挑战 - AI大模型在实网众测中累计发现281个安全漏洞，其中177个为大模型特有漏洞，占比超过60% [1] - 典型风险包括不当输出、信息泄露、提示注入、不受限消耗类漏洞以及传统安全漏洞 [1] - 随着AI应用场景扩展，新的漏洞和攻击手法将不断涌现，AI大模型安全治理工作任重道远 [3] AI安全治理与协同防御 - 需加快制定AI漏洞分类分级标准，并按应用场景划分风险等级 [3] - 通过众测模式汇聚社会白帽力量，构筑AI共治生态 [3] - 加强内生安全治理，将安全融入AI系统全生命周期 [3] - 《人工智能安全治理框架》2.0版发布，旨在构建跨国界、跨领域、跨行业的协同治理格局 [4] 科技企业AI安全解决方案 - 华为云展示端到端大模型安全解决方案，聚焦数据安全、训练保护与推理防护三大环节，可有效降低95%以上攻击暴露面 [5] - 蚂蚁集团gPass以安全、交互、连接为核心能力，为AI眼镜与智能体搭建可信信息桥梁 [5] - 蚂蚁消金通过多模态感知与模型协同，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式 [6] - 华为推出星河AI网络安全解决方案，其未知威胁检测率达95%，领先业界15%，并实现勒索加密文件100%恢复 [7] 网络安全进入“智防时代” - AI技术为网络安全提供智能研判支持，形成检测-响应-处理自动化闭环，大幅提升防护效率 [3] - 网络安全行业主动拥抱AI技术，打造“AI对抗AI”的最强防线，行业正式进入“智防时代” [3][7] - 监管框架迭代、企业方案落地与社会力量参与形成合力，为人工智能安全可信发展筑牢根基 [8]