国家网信办:利用合成数据进行模型训练和关键能力优化时 应当评估合成数据安全性
每日经济新闻·2025-12-27 15:43
监管政策动向 - 国家互联网信息办公室于12月27日发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》并向社会公开征求意见 [1] 数据处理与训练核心规定 - 提供者开展预训练、优化训练等数据处理活动时需加强训练数据管理 [1] - 训练数据需使用符合社会主义核心价值观、体现中华优秀传统文化的数据集 [1] - 需对训练数据开展清洗和标注以增强透明度与可靠性并防范数据投毒和篡改行为 [1] - 需通过负向采样和对抗训练等手段提高训练数据多样性以提升模型生成内容安全性 [1] - 利用合成数据进行模型训练和关键能力优化时应评估合成数据安全性 [1] - 需加强对训练数据的日常检查并定期对数据进行迭代升级以持续优化产品和服务性能 [1] - 需保障训练数据来源合法且可追溯并采取必要措施保障数据安全防范数据泄露风险 [1]