Workflow
360数字安全集团总裁:AI存“四大基因缺陷”,安全复杂度远超传统范畴

AI安全行业态势 - 大模型技术加速落地与智能体规模化应用导致AI安全风险呈现"内忧外患"复杂态势 [1] - AI存在四大基因缺陷:一切皆可编程 一切皆可模仿 一切皆可生成 一切皆可调度 [1] - 外部风险包括大国博弈背景下针对AI系统的攻击 以及黑灰产利用AI批量制造攻击武器和部署黑客智能体 [1] 安全风险特征 - AI安全复杂程度远超传统范畴 涵盖网络 数据 内容 应用及未来场景安全 [1] - 传统安全防御体系难以应对新型AI安全威胁 [1] - 政企机构在AI落地过程中面临的安全挑战已超出网络与数据安全原有边界 [1] 解决方案创新 - 提出"以模制模"新思路 利用人工智能技术自身优势对抗AI安全风险 [3] - 开发360大模型安全卫士 通过四大安全智能体形成闭环防护体系 [3] - 内容安全智能体通过幻觉抑制和安全风控模型实时审核输入输出内容 拦截违法违规信息 [3] - AI Agent安全智能体通过异常行为识别和权限管控防范数据泄露与越权操作 [3] - 软件安全智能体扫描AI软件漏洞与配置缺陷 保障AI系统供应链安全 [3] - 安全风险评估智能体通过实战化模拟攻击提前暴露系统短板 帮助客户发现关键隐患 [3]