文章核心观点 2025年大模型安全风险升级至智能体自身安全以及大模型应用环境的安全,启明星辰等头部网安企业正积极应对新挑战,加速构建“以AI对抗AI”的动态防御体系,还与中国移动共建下一代防御体系 [1][2][6] 大模型安全风险变化 - 2024年市场关注大模型自身安全,2025年升级至智能体自身安全以及大模型应用环境的安全 [1] - AI智能体赋能千行百业同时风险升级,其可像人类黑客扫描锁定系统漏洞、骗取用户信任窃取敏感数据 [1] 启明星辰应对挑战举措 构建动态防御体系 - 生成式AI规模化应用推动网络安全攻防进入“智能体对抗”新阶段,2024年启明星辰发布九天.泰合安全大模型以及安星智能体 [2] - 深度融合大模型技术推出数据安全智能体,对数据风险识别准确率从70%提升至90%,未来识别率将进一步提升,管控能力从事中干预提早至事前预防 [2] - 基于九天.泰合安全大模型构建智能体和智能体集群,以集群化模式协同联动,应对复杂网络威胁,带来研判效率提升和安全日志降噪两类效率提升,安星智能体已商业化落地 [3] 安全智能体集群MANUS化 - 安全智能体集群的MANUS化路线要求安全产业全面智能改造,构建多智能体、智能体集群安全体系,核心是让智能体具备独立思考等能力,将安全运营转化为自动化业务进程 [5] - 构建覆盖9大核心场景的智能体集群,形成“智能体生态”,内嵌可解释策略引擎,促使决策模型动态调优等提升AI自主执行能力和应对未知威胁的自适应能力 [5] 与中国移动合作 - 启明星辰以周为单位加速产品迭代,构建完整大模型应用安全产品矩阵和全场景防护体系 [6] - 移动云提出安全升维理念,核心是与启明星辰联合开发AI安全云脑,启明星辰将与中国移动持续深度协同,加大研发投入构建智能时代安全基座 [6]
启明星辰护航AI智能体安全 与中国移动共建下一代防御体系