AI大模型安全漏洞与测试 - 国内首次AI大模型实网众测累计发现281个安全漏洞，其中大模型特有漏洞占比超60% [1] - 测试发现的安全漏洞涵盖提示注入、信息泄露等典型风险 [1] AI安全威胁手段 - 攻击者通过研究AI学习偏好有针对性地“投喂”信息，甚至有组织地进行“数据投毒” [1] - “数据投毒”手段包括伪造专家身份、虚构研究报告等方式向AI输入虚假信息以操纵输出结果 [1] 行业技术防御方案 - 华为发布星河AI网络安全解决方案，威胁自动化处置率达99%，未知威胁检出率达95% [1] - 蚂蚁消金通过多模态感知与大小模型协同，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式 [2] - 绿盟科技发布大模型安全评估系统，实现对140余款主流模型的自动化深度扫描，精准发现内容安全、对抗攻击等风险 [2] 监管与治理框架 - 《人工智能安全治理框架》2.0版于9月15日在国家网络安全宣传周发布 [1] - 蚂蚁消金2024年以来联合司法机关查处12家非法金融中介，涉案人员超200人，实现技术治理与司法联动 [2] - 绿盟科技评估系统能够出具符合国家《生成式人工智能服务安全基本要求》的评估报告 [2] 网络安全人才现状 - 2025年全球网络安全人才缺口升至480万，同比增长19% [2] - 美国需求51.4万个在线岗位，实际填补率不足三分之二 [2] - 截至2024年底中国持证在岗人员约32万，792所普通高校开设网络安全专业，占高校总数27.1% [2] - 中国高校中65.9%已在2025年新增AI安全课程，较去年跃升15个百分点 [2]