白皮书核心观点 - 360数字安全集团在世界互联网大会乌镇峰会上发布《大模型安全白皮书》[1] - 白皮书首次系统性阐释大模型运行时的五大关键风险并提出核心理念[1] - 核心理念为"外筑'以模治模'动态屏障，内固'平台原生'安全底座"[1] - 提供了可落地的安全解决方案，为大模型应用拉起全链路安全防线[1] - 旨在助力人工智能行业向"安全、向善、可信、可控"方向稳健发展[1] 大模型关键风险 - 基础设施安全风险：包括设备控制、供应链漏洞、拒绝服务攻击及算力资源滥用等问题[1] - 内容安全风险：涉及不符合核心价值观、虚假或违规内容、大模型幻觉及提示注入攻击等[1] - 数据与知识库安全风险：数据泄露、越权访问、隐私滥用和知识产权问题日益突出[1] - 智能体安全风险：随着智能体自主性增强，插件调用、算力调度等环节安全边界模糊[1] - 用户端安全风险：包括权限控制、API调用监控、恶意脚本执行以及MCP执行安全等[1] 安全治理策略与优势 - 提出"外挂式安全+平台原生安全"双轨治理策略，形成全链路防护网[2] - 外挂式安全灵活应对实时风险，平台原生安全从根源筑牢安全基础[2] - 策略具备适配性强、部署成本低两大优势，可作为通用组件快速接入不同企业环境[2] - 响应迅速，具备独立监测与拦截机制，可在毫秒级别识别并阻断实时威胁[2] 方案落地与未来规划 - 目前360已将这一能力落地政务、金融、制造等各行业[2] - 方案从理论转变为"能落地、能管用"的实战方案[2] - 未来将联合产学研各界，共同推动安全标准建设与技术共享[2] - 目标为携手共建安全、可信的AI生态[2]