Workflow
网络安全体系建设
icon
搜索文档
49款国内外AI大模型安全测试结果:我国大多处于中游水平
南方都市报· 2025-06-06 23:45
人工智能大模型安全性 - 我国人工智能大模型安全性处于中游水平 攻击成功率约为5%-6% 部分国外顶尖模型攻击成功率仅0.7% [1][3] - 人工智能能力提升未带动安全风险防范水平提高 49款大模型测试显示安全与性能发展不匹配 [3] - 灵御大模型安全攻防评估平台可系统性评估越狱攻击 验证安全提升必要性 [3] 人工智能对网络安全产业影响 - 人工智能放大网络攻击效果 使威胁更具规模性 针对性 杀伤性 加剧攻防不对称性 [3] - 我国在安全算法原创性 模型开放性 数据集质量等方面与国际先进水平存在差距 [3] - 生成式人工智能激活客户安全需求 但安全建设存在"缺啥补啥"拼盘惯性 [6] 网络安全体系建设 - 单点防御时代结束 需建立联合防御体系 以冬奥会"零事故"为例证 [4] - 超90%大型政企机构采购10家以上厂商设备 项目建设分散化导致体系难以形成合力 [6] - 省级与市区间信息化水平差异造成体系鸿沟 需重塑数据聚合 安全运营 生态合作模式 [6] 安全治理框架发展 - 安全与治理是人工智能核心能力 缺乏框架将导致失控风险 [4] - 需推动产业链 创新链 价值链深度融合 促进国际标准互认与信任共建 [5] - 建议将运营商流量清洗服务转变为联合防御体系下的公共服务 [4]
“小数据”决定企业生死?齐向东:AI时代必须重构防护体系,防“一锅端”风险
21世纪经济报道· 2025-06-05 22:19
网络安全行业现状 - 网络安全行业面临"体系之困",表现为设备采购分散化、顶层设计与基层执行割裂、数据情报难以共享[1][2] - 超过90%的大型政企机构采购10家以上厂商的安全设备,导致责任分散和"形聚神散"的一体化[2] - 省级"大体系"与市/区"小体系"存在鸿沟,安全能力无法整合且战略实施受阻[2] AI时代的数据安全危机 - 传统"分篮装蛋"保护核心小数据的策略在AI面前失效,企业将命脉数据直接接入智能体导致风险加剧[1][3] - 小数据(国家秘密/企业知识产权/生产工艺)一旦被AI窃取,竞争对手可瞬间复制核心能力[3][4] - AI使数据窃取后果放大:传统场景需消化时间,AI能直接对接大模型快速生成更优产品[4] 体系重塑三大路径 - 数据聚合模式需覆盖广(拔烟囱)、采集深(细颗粒度)、关联完整(还原威胁全貌)[5] - 构建智能反馈闭环是安全运营核心,通过螺旋上升的反馈回路实现自适应防御[5] - 生态合作需"安全体系总设计师"统筹,将分散厂商能力整合为纵深防御体系[5][6] 关键数据定义与影响 - 决定企业生死的是小数据(专利/设计图纸/行业经验),而非大数据[4] - 数据体量决定体系规模,质量决定能力,关联度决定效率[5] - 安全数据集需满足全覆盖、多维度、高关联度三大特征以支撑聚合[5]