360大模型安全卫士

搜索文档
360胡振泉:共建跨境AI安全生态,联合云南电信筑牢数字丝路防线
环球网· 2025-09-16 19:09
行业趋势与挑战 - AI安全风险从潜在隐患变为现实威胁 内部存在可编程、可模仿、可生成、可调度基因缺陷 外部面临国家级网络战和黑灰产滥用攻击[2] - 政企跨境AI服务成为AI安全治理重要场景 需应对不同地区管理要求、安全评估和内容合规等多重复杂问题[2] - 内容安全是跨境业务生命线 涉及生成内容准确性、规范性和跨境数据管理要求 处理不当可能造成企业合规风险并威胁国家数据主权[2] 公司技术方案 - 提出以模制模治理理念 以大模型安全卫士为核心构建覆盖全场景的AI安全体系 实现可靠、可信、向善、可控治理目标[3] - 四大安全智能体包括内容安全智能体实时监测AI生成内容 AI Agent安全智能体防控恶意劫持 软件安全智能体通过漏洞扫描杜绝隐患 安全风险评估智能体预判威胁[3] - 四大智能体共同组成AI落地安全基座 为特定场景提供可落地解决方案 特别适配跨境业务复杂安全挑战[3] 战略合作与产品发布 - 与中国电信云南分公司联合发布跨境业务安全服务平台 致力于为跨境数据流动提供全流程安全护航[1] - 平台深度融合AI安全体系与电信国际通信资源 实现从数据生成、传输、存储到应用的全链路防护[4] - 针对跨境电商、金融、算力服务等领域解决内容审核、AI诈骗防控、数据传输安全问题[4] 区域发展战略 - 紧扣云南面向南亚东南亚辐射中心区位定位与3815战略部署 推动云南与南亚东南亚国家构建安全合作生态[4] - 平台能吸引更多跨境AI业务落地 切实助力辐射中心建设[4] - AI安全需产业链共建 将持续深化协作让安全技术在跨境场景中释放价值[4]
360数字安全集团总裁:AI存“四大基因缺陷”,安全复杂度远超传统范畴
新浪科技· 2025-08-07 13:14
AI安全行业态势 - 大模型技术加速落地与智能体规模化应用导致AI安全风险呈现"内忧外患"复杂态势 [1] - AI存在四大基因缺陷:一切皆可编程 一切皆可模仿 一切皆可生成 一切皆可调度 [1] - 外部风险包括大国博弈背景下针对AI系统的攻击 以及黑灰产利用AI批量制造攻击武器和部署黑客智能体 [1] 安全风险特征 - AI安全复杂程度远超传统范畴 涵盖网络 数据 内容 应用及未来场景安全 [1] - 传统安全防御体系难以应对新型AI安全威胁 [1] - 政企机构在AI落地过程中面临的安全挑战已超出网络与数据安全原有边界 [1] 解决方案创新 - 提出"以模制模"新思路 利用人工智能技术自身优势对抗AI安全风险 [3] - 开发360大模型安全卫士 通过四大安全智能体形成闭环防护体系 [3] - 内容安全智能体通过幻觉抑制和安全风控模型实时审核输入输出内容 拦截违法违规信息 [3] - AI Agent安全智能体通过异常行为识别和权限管控防范数据泄露与越权操作 [3] - 软件安全智能体扫描AI软件漏洞与配置缺陷 保障AI系统供应链安全 [3] - 安全风险评估智能体通过实战化模拟攻击提前暴露系统短板 帮助客户发现关键隐患 [3]