人工智能与数字安全融合发展 - 大模型技术推动全球数字化加速发展但伴随网络威胁升级 人工智能与数字安全融合发展成为数字化建设和数字经济发展的关键 [1] - 基础大模型是企业数字化转型基石但在垂直领域应用中面临专业知识不足和场景适应性有限的挑战 需大模型技术提供方与垂直行业龙头企业紧密合作构建高质量专业语料库 [1] - 需降低应用门槛探索"行业大模型即服务"模式 通过开放平台让中小企业便捷获取定制化AI能力 [1] 数字安全防护体系创新 - 传统被动安全防护已力不从心 需利用AI大模型能力赋能威胁狩猎和异常检测 推动安全防御向主动免疫模式转变 [2] - 数字空间安全挑战是全球性的 需深化国际合作共建开放包容安全的数字未来 [2] - 人工智能与网络安全融合发展是时代命题 需加强产业深度融合和双向赋能 坚持协同共治 [2] 大模型向智能体进化 - 大模型在企业应用中存在推理能力不足和缺乏独立做事能力两大痛点 后者仍未解决 [3] - 大模型缺少使用工具能力 停留在该阶段只能成为玩具而非生产力工具 [3] - 智能体能够理解目标规划任务调用工具 实现从需求到结果的完整交付 是大模型进化的必然方向 [3] 网络安全领域智能体应用 - 智能体对网络安全形成颠覆性影响 企业面临安全专家稀缺和"智能体黑客"带来的自动化攻击双重挑战 [3] - 360推出安全智能体 基于安全大模型并添加L4多智能体蜂群 复刻人类高级安全专家能力 [3] - 360坚持"安全+AI"双主线发展 用安全守护数字化底座 用AI定义未来 [4]

来源：环球时报 邬贺铨提议，未来需要加强国际协作，在AI伦理准则、数据跨境规则、网络安全威胁情报共享、关键 基础设施防护标准等领域深化对话，寻求共识。要共同应对利用AI进行深度伪造、网络犯罪等新型安 全威胁，建立有效的互信与合作机制。更要以开放包容的心态，摒弃零和思维，在保障安全的前提下促 进技术、人才与数据的健康流动。 对于AI技术对网络安全带来的挑战，360集团创始人周鸿祎提出，智能体对网络安全正逐渐形成颠覆性 影响。一方面，安全运营专家极度短缺且培养周期长、难度大，传统大模型虽能处理部分基础任务，却 难以应对复杂流程化的日常运营工作，导致防护能力落地受阻；另一方面，过去"一将难求"的黑客，如 今可通过AI训练出"智能体黑客"，这类自动化攻击工具能自主完成系列攻击任务，且依托算力可批量复 制，一个人类黑客甚至能管理数十、上百个智能体黑客，升级为"超级黑客"。 【环球时报报道 记者 马俊】编者的话：随着人类社会进入数字时代，近年来网络安全的重要性也越来 越受到重视。无论是传统的保密机构，还是银行、电力等关系国计民生的基础设施，甚至包括智能网联 车等新兴行业，都面临空前的网络安全威胁。在8月6日到7日于北京举 ...

行业趋势 - 智能体成为AI行业下一个方向 取代大模型成为焦点 行业从大模型阶段向智能体阶段演进 [4][5][6] - 智能体发展路径分为四阶段：L1聊天助手 L2低代码工作流 L3推理型智能体 L4多智能体蜂群 当前技术极限为L3执行100步复杂任务 未来目标为L4执行1000步 [3][7] - 网络安全行业面临"智能体黑客"威胁 单个黑客可操控上百个智能体发起自动化攻击 攻防对抗进入机器对机器新阶段 [4][7] 公司动态 - 360将纳米AI品牌升级为"多智能体蜂群" 推出安全 管控 企服三大类智能体 覆盖安全 人效 办公场景 [6] - 360安全智能体性能显著优于人工：威胁发现数量高3倍 速度提升10倍 准确率提升20% 管控智能体事件处置效率提升3倍 报告撰写效率提升72倍 [6] - 公司要求每个部门打造专属智能体 强调智能体需与行业深度结合 否定通用型智能体存在可能性 [4][6] 技术突破 - 大模型存在两大局限：推理能力不足 缺乏独立执行能力 需通过智能体实现工具使用和任务执行 [4][5] - L3推理型智能体可视为领域专家 但受限于跨领域协同能力 L4多智能体蜂群通过嵌套协作实现全局优化 [3][7] - 行业大模型需完成四步演进：技术创新 架构升级 构建主动免疫系统 深化国际协作 [7]

行业趋势 - 互联网安全大会聚焦智能体时代数字安全与人工智能前沿 主题为"All In Agent" 正式开启智能体驱动的安全新纪元 [1] - 大模型在企业应用中存在推理能力不足和缺乏独立做事能力两大痛点 后者仍未解决 智能体才是解决之道 能够理解目标、规划任务、调用工具、具备记忆 [1] - 智能体演进路径分为四个层级：L1聊天助手 L2低代码工作流智能体 L3推理型智能体 L4多智能体蜂群 [3] - L4多智能体蜂群性能表现出色 可连续执行1000步复杂任务 消耗Token在500万-3000万 任务成功率高达95.4% [3] 技术突破 - 纳米AI采用"多智能体蜂群协作空间"技术 实现智能体间记忆共享 解决"协同困境" [4] - 纳米AI平台已汇聚超5万个L3智能体 用户可通过自然语言搭建L3智能体 在蜂群框架下组成L4团队 [4] - L4团队能完成超长复杂任务 如"一句话生成10分钟电影级大片" 效率从2小时缩短至20分钟 [4] 企业应用 - 360集团发布"智能体工厂" 企业无需编程基础即可通过自然语言定制专属L3智能体 并可组合成L4级多智能体蜂群团队 [6] - 在网络安全领域 智能体正形成颠覆性影响 企业面临安全运营专家稀缺和"智能体黑客"双重挑战 [6] - 360推出安全智能体 基于安全大模型 L4多智能体蜂群可复刻人类高级安全专家能力 推动全线产品智能体化 [6] - 360坚持"安全+AI"双主线发展 用安全守护时代 用AI定义未来 [6]

企业网络安全风险现状 - 57%的隐私和数据安全问题及55%的人工智能驱动网络攻击是生成式AI云安全的首要问题[2] - 仅7%的IT决策者认为不存在相关安全风险[2] - 攻击链条复杂化，突破传统单点渗透模式，形成全链路攻击闭环[3] - 生成式AI采用将导致2025年企业网络安全资源激增，应用和数据安全支出增加15%以上[3] API安全挑战 - 中国企业在解决API安全事件上花费成本最高，达77.8万美元（约568万人民币）[4] - 亚太地区2023年1月至2024年6月记录1080亿次API攻击，占所有Web攻击的15%[4] - 超60%的Web攻击流量聚焦API接口，攻击量同比激增23%[4] - API错误配置漏洞最常见，占比22.3%[5] - 中国将"保护API免受攻击"列为网络安全第一要务（27.6%），远超其他国家[4][5] Web安全与AI应用漏洞 - 2024年Web漏洞利用攻击拦截次数同比增长68%[6] - 针对AI应用漏洞的攻击数量爆发式增长，如Triplegarngers公司被GPTBot爬取几十万张照片[6] 安全智能体发展现状 - 行业普遍采用"用AI打败AI"策略，安全服务商推出大模型服务并升级为安全智能体[7] - AI技术从辅助工具升级为安全体系"中枢大脑"，实现联动联防和动态学习攻击模式[8] - Web安全攻防从"规则对抗"演进到"智能体攻防"，AI已应用于自动化威胁分析等场景[8][9] - 多数服务商完成短期AI能力落地，但距离长远目标仍有差距，因底层大模型能力和专有数据积累不足[9] 体系化防护构建策略 - 企业需从单点防御转向一体化防御，打破数据孤岛与策略割裂[11] - 国内更接受终端安全一体化的SASE模式，集成EDR、DLP等核心能力[11] - API安全需三步构建：持续发现"三无API"、建立威胁管理系统、强化主动测试[12] - 安全运营成为服务商竞争焦点，涵盖资产、漏洞、威胁、情报及策略运营[13] AI重构安全行业趋势 - RSAC2024峰会超半数厂商核心产品集成AI能力[13] - AI赋能安全运营分三级：聊天机器人、安全助手、安全智能体[13] - 行业从"人工响应"迈向"智能自治"，未来将实现从"辅助驾驶"到"全自动驾驶"跨越[13]

AI在安全行业的应用演进 - 安全智能体显著提升效率，企业安全运维人员仅需一杯咖啡时间即可完成原本需数小时的网络安全筛查与解决[2] - AI对安全行业重构深入，行业共识为"用AI打败AI"，57%企业担忧隐私与数据安全，55%担忧AI驱动的网络攻击[2] - 生成式AI将导致2025年企业网络安全资源激增，应用与数据安全支出预计增长15%以上[2] 安全行业商业模式转型 - 行业从卖产品转向卖服务，需求从单点产品堆叠演变为统一平台化解决方案[3] - 企业级安全理念迭代加速，Fortinet等厂商推动安全智能体处理复杂事件[3][4] 安全智能体的发展阶段 - 第一阶段（2010年起）：机器学习与深度学习初步应用，安全产品以单兵作战为主[3] - 第二阶段（生成式AI问世后）：AI深度融入攻防全链条，FortiAI V1实现AI辅助决策[8] - 第三阶段（当前及未来）：安全智能体成为"中枢大脑"，整合分散能力实现主动防御[8] 一体化安全体系趋势 - 企业需求转向整合多功能的统一平台，以应对复杂威胁并降低管理复杂度[4] - 安全运营成为核心产品形态，通过系统化管理提升整体防护效力[4][5] - Fortinet等厂商聚焦安全服务商与IT服务商融合，实现万物互联的自动化运营[4] 安全智能体的运作机制 - 智能体通过日志分析、威胁情报查询、知识库调用等复杂流程实现闭环处理[6] - FortiAI允许通过对话形式简化操作，降低生成式AI的普及门槛[6] 安全智能体的挑战 - 专有性挑战：通用模型缺乏行业特定知识（如工控协议漏洞、金融欺诈特征）[9][10] - 安全性挑战：需防范数据投毒与模型幻觉，依赖企业专有数据与专家监督学习[9] - 当前仍需人工确认最终结果，因生成式AI缺乏自我纠错能力[10] 行业未来方向 - AI推动安全行业从人工响应迈向智能自治，重构防御范式与突破效率瓶颈[10] - 技术将从大模型向智能体演进，目标实现从"辅助驾驶"到"全自动驾驶"跨越[10]

网络安全与AI融合 - 在网络安全领域需建立可度量、可比较、可考核的量化评价体系，以人工智能引领科研范式变革，推动行业高质量发展 [1] - AI智能体发展分为条件自主、高度自主和完全自主三重境界，通过智能体赋能安全运营和监管，重构威胁情报共享和协同防御体系，实现从被动响应转向主动防御 [1] - 安全智能体是数据安全从静态安全向动态安全迭代升级的关键核心，需对数据、业务和行为意图进行深入理解 [2] 数据要素化与数字化转型 - 在数据要素化新阶段，AI原生可信数据空间可实现可信数据空间与AI的双向赋能，需将大模型风险评估检测列为关键任务 [2] - 数字化转型需构建以数据为中心的组织体系和运行模式，当前我国数字化转型处于起步阶段，数据资产相关法律和权属确权尚未明确 [2] - 数据要素市场化配置改革取得标志性成果，杭州高新区（滨江）在数字经济领域展现引领力与创新力 [3] 脑机接口技术发展 - 脑机接口行业处于技术突破与规范构建并行阶段，是国家战略级赛道，需通过迁移学习、深度学习等技术实现精准解码 [3] - 脑电解码算法需与对抗训练结合实现准确度与安全性的动态平衡，运用差分隐私技术破解数据共享合规难题 [3] 安全智能体与行业应用 - 安全智能体成为数字时代网络安全防御体系核心要素，《安全智能体魔方：成熟度模型评价研究报告》构建了多维度成熟度评估框架 [3] - 人工智能技术在政务、金融、工业等关键领域深度赋能，推动AI应用向"可信可控"升级 [3] 数据基础设施与试点成果 - "三数一链"国家数据基础设施杭州试点任务取得阶段性成果，标志着数据要素市场化配置改革取得里程碑式进展 [4]