Workflow
360胡振泉谈AI换脸乱象:以现有识别鉴定技术看破有难度

在分析2025年国内外多起典型大模型安全事件的基础上,《白皮书》系统性归纳了威胁大模型安全的五 类关键风险。 具体而言,基础设施安全风险包括设备控制、供应链漏洞、拒绝服务攻击以及算力资源滥用等问题;内 容安全风险,涉及不符合核心价值观、虚假或违规内容、大模型幻觉,以及提示注入攻击等;数据与知 识库安全风险中,数据泄露、越权访问、隐私滥用和知识产权问题日益突出;随着智能体自主性增强, 插件调用、算力调度、数据流转等环节的安全边界更加模糊;用户端安全风险包括权限控制、API调用 监控、恶意脚本执行以及MCP执行安全等。这些风险相互交织,形成传统安全方案难以应对的复杂威 胁矩阵,严重威胁个人权益、企业发展乃至国家安全。 面对上述复杂挑战,《白皮书》提出双轨治理策略。"外挂式安全"侧重模型外部防护,通过"以模治 模"实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御。"平台原生安全"聚焦大 模型数据、知识库、智能体及客户端等环节,将安全能力嵌入核心组件,强化配套组件安全与全流程合 规管控。 近日,演员温峥嵘在直播间自曝被AI换脸盗播,多个直播间出现其带货形象一事引发热议。360数字安 全集团总裁胡振泉在 ...