生成式人工智能的数据风险与隐私挑战 - 生成式人工智能技术基于海量数据进行训练和生成，其便捷性伴随着个人信息泄露的重大风险[1] - 大模型训练所需语料的源头数据管控是个人信息保护的关键环节，需明确哪些数据可以提供给模型[2] - 用户在与生成式人工智能交互时，常因不理解数据收集的合规边界和系统配置策略，而盲目输入敏感隐私信息[4] - 专家建议，在与人工智能问答交互过程中，应尽量避免输入个人信息、敏感个人信息及工作秘密信息[6] 数据关联与深度挖掘带来的泄露风险 - 人工智能能够综合公开数据与个人数据，结合行为分析挖掘出更深层、更敏感的信息[8] - 用户使用任何系统都会留下痕迹，即使个人认为已删除敏感信息，但通过信息整合与关联分析，仍可能在输出点被泄露出来[10] - 深度伪造技术能对人脸和声音信息进行高度逼真的伪造，被用于诈骗时具有极强的迷惑性，建议涉及金钱交易时务必通过其他渠道复核[27] 技术防御与主动保护方案 - 行业正在发展针对深度伪造的主动防御技术，例如通过向待保护的人脸图片添加人眼不可见但机器可识别的特定扰动噪声，使伪造模型失效或能被识别[11][12] - 该技术旨在从源头防止照片被用于合成虚假影像，保障个人生物识别信息的安全[12] 法律法规与合规框架的演进 - 中国已出台《个人信息保护合规审计管理办法》《网络数据安全管理条例》《生成式人工智能服务管理暂行办法》等重要法律法规以保障数据安全[14] - 法规着重压实了信息处理企业的社会责任，强调收集个人信息需遵循“最小必要”、“告知同意”、“合法正当”等原则[14] - 个人信息处理者需审慎研判数据采集的必要性，并考虑是否存在替代方案以在完成业务要求的同时降低违规风险[16] - 面对人工智能等新技术，中国法律法规的演进速度非常快，但在个人信息处理的透明度、业务可溯源可审计等方面仍需进一步迭代更新，以保持规则与技术应用的同步[18] 个人信息泄露引发的精准诈骗模式 - 基于个人信息泄露的精准电信网络诈骗高发，诈骗分子通过获取的信息还原受害人生活轨迹，实现骗局的“私人定制”[19] - 例如，掌握受害人的旅行订票信息后，诈骗分子会发送机票退款或航班取消等精准诈骗信息[21] - 在社交平台发布图片或视频时，可能无意中暴露个人关联信息（如孩子校服、窗外景色），这些信息可能被用于定制针对性骗局[23][25] - 反诈提示建议在社交软件上发布信息时，尽量避免暴露个人关联信息[23]