Workflow
让AI学会“安全遗忘
科技日报·2025-10-10 09:35

核心技术突破 - 首创“基于梯度上升的模型遗忘策略”,通过逆向操作使AI模型精准遗忘有害数据,而非传统需要遍历所有数据的低效方法[2] - 新技术执行效率提升两个数量级以上,处理任务时间从可能的100小时缩短到1小时[2] - 该技术能从拥有亿万参数的复杂模型中快速找到并清除由攻击者植入的“后门”,防止模型被特定指令触发后失灵或犯错[2] 应用场景与价值 - 技术能为已部署的模型“排毒”,解决金融风控、自动驾驶、智能家居等开放环境下智能模型的数据安全问题[2] - 在多家机构合作训练模型时,若一方退出可安全“撤回”自身数据而不影响模型运行,为数据隐私和安全提供制度保障[3] 团队与研发模式 - 团队成长得益于“产学研用”紧密结合,骨干成员深入头部科技企业与金融机构,将风控、自动驾驶等实际安全难题作为科研源头[4] - 团队构建“科研引导+工程实践+交叉融合”的人才培养机制,培养兼具理论深度和实践能力的复合型创新人才[5] - 团队形成涵盖算法理论、系统架构与工程实现的梯队,产出了一系列具有自主知识产权的成果并在实际场景中应用[5]