行业动态与政策背景 - 2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行 与会嘉宾围绕人工智能风险挑战、治理举措、应用安全、算法安全等议题进行深入探讨 并分享了在政务、金融、交通等领域的最新研究成果与实践经验 [1] - 随着技术不断创新 人工智能赋能千行百业的步伐不断加快 在网络安全领域 人工智能的应用让应对网络攻击变得更加高效 [1] 网络安全威胁现状 - 大型企业需要面对多种类型的网络攻击 [3] - 常见的攻击类型包括web应用攻击 以及更加隐蔽的攻击方式 例如利用加密信道进行通信的木马攻击 这使得防御变得更加困难 [3] - 存在不法分子利用AI大模型发起网络攻击的行为 [11] AI在网络安全防御中的应用与成效 - 引入AI后 通过搭建不同模型 可以对网络攻击告警进行层层筛选 从而提高应对效率 改变了以往主要依赖人工、耗时耗力的局面 [6] - 采用大模型与小模型混合的架构 对告警采取三级降噪筛选 能够精准识别真正有威胁的网络攻击 降噪率可以达到98%以上 [7] - 对于需要人工研判的部分 AI大模型可以协助分析、溯源攻击者的来源 进一步加快对网络攻击的处理速度 [5] - 提取攻击信息后 会形成分析报告 提交给公安机关及国家相关部门进行下一步处置 [9] AI对抗AI的防御策略 - 针对利用AI大模型发起的网络攻击 需要以AI应对AI 做好网络安全防护 [11] - AI发起的攻击具有攻击频率较高、攻击模式相对固定等特征 [13] - 通过AI方式 对AI攻击的行为和模式进行学习 经过模型训练后 可调动安全设备对攻击进行自动化拦截 实现用AI对抗AI [13]