网络安全公司AI技术应用进展 - 绿盟科技近期将发布AI安全一体机、AI安全围栏、大模型安全评估系统等产品，针对客户AI系统不同应用模式提供场景化服务[1] - 北信源已开发集成大模型、开发工具和知识库的AI能力平台，支持私有化部署，并在金融、能源行业交付AI技术软件产品[1] - 深信服将大模型技术应用于网络安全产品，形成安全GPT、AI防火墙等多款产品，并计划加大AI研发投入[2] - 天融信在AI+安全、智算云方向布局，形成全栈安全产品体系与智算云解决方案，已在多行业规模化应用[2] - 蚂蚁集团发布融合网络安全与AI技术的创新产品，包括智能眼镜可信连接技术框架gPass，并与Rokid、小米等品牌合作落地"看一下支付"场景[2] - 启明星辰安星智能体应用于安全运营、威胁检测等产品，显著提升产品能力和服务效率[3] - 亚信安全上半年AI大模型应用与交付业务显著增长，未来聚焦AI大模型应用与交付、5G专网与应用、数智运营三大增长引擎[3] AI技术带来的行业机遇 - AI技术帮助网络安全行业提升效率和完善产品性能[1] - 大模型能显著提升网络安全企业能力和效率，产生"乘数效应"[4] - AI技术应用为各行业带来爆发式增长，通过安全手段建立信任可推动数据流通并释放巨大价值[5] AI应用的新型安全风险 - 企业应用AI大模型需警惕提示词注入、模型被诱导等风险，行业主要依赖电子围栏技术防止违规输出[3] - 工具链漏洞和配置错误可能导致严重数据泄露，需重视软件供应链安全和基础安全措施[4] - 大模型带来恶意利用、内容安全、幻觉问题、提示词攻击等风险，可能成为新攻击载体和入口[4] - 智能体应用带来爆炸式安全风险，因其常拥有企业内网超级权限，需加强跨部门协作和动态防御体系[4] AI安全防护策略与行业趋势 - Gartner报告显示中国网络安全重点转向保障AI安全，预计到2027年60%中国大型企业采用暴露面管理技术，到2028年60%部署AI技术企业实施协作式AI防御策略[3] - 专家建议AI大模型备案成为强制性要求，模型厂商需进行基础评估以识别风险[5] - AI大模型运营单位可通过合规评估、部署专项防护（如AI安全围栏）、引入第三方评估构建防护体系[5] - 云计算安全问题需引起重视[3]