360发布《大模型安全白皮书》
中证报中证网讯(记者孟培嘉)11月8日,在世界互联网大会乌镇峰会上,360数字安全集团发布《大模型 安全白皮书》。该白皮书首次系统性阐释大模型运行时的五大关键风险,提出"外筑'以模治模'动态屏 障,内固'平台原生'安全底座"的核心理念,并提供了可落地的安全解决方案,为大模型应用拉起了全 链路安全防线,助力推动人工智能行业向"安全、向善、可信、可控"方向稳健发展。 首先是基础设施安全风险,包括设备控制、供应链漏洞、拒绝服务攻击以及算力资源滥用等问题;其次 是内容安全风险,涉及不符合核心价值观、虚假或违规内容、大模型幻觉,以及提示注入攻击等;第三 类是数据与知识库安全风险,数据泄露、越权访问、隐私滥用和知识产权问题日益突出;第四是智能体 安全风险,随着智能体自主性增强,插件调用、算力调度、数据流转等环节的安全边界更加模糊;最后 是用户端安全风险,包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等。 面对上述复杂挑战,白皮书基于实战经验,给出了"外挂式安全+平台原生安全"双轨治理策略——前者 灵活应对实时风险,后者从根源筑牢安全基础,两者配合形成全链路防护网。该方式具备两大优势:一 是适配性强、部署成本 ...