用户隐私数据风险 - 用户向生成式AI上传私人照片的行为日益普遍 但照片去向存在巨大隐私风险 包括技术漏洞 政策不透明和未来未知用途[2] - AI平台可能遭受黑客攻击导致数据泄露 用户账户也可能被盗用[3] - AI公司有权访问用户数据和图像 通过"人在回路"监督机制定期抽样审核对话内容 包括已上传图片 即使用户删除聊天记录 图片可能已被标记存档或经过人工审核[3] 图像元数据安全隐患 - 每张图像携带元数据包括拍摄时间 地理位置和设备信息 高分辨率照片可能意外暴露桌面文件 信用卡信息或他人生物特征[4] - 若AI公司未去除元数据 可能获得用户日常行为 常去地点和社交关系等大量敏感信息[4] - 用户实际上在不知情情况下为AI公司提供免费训练数据 而多数人若被明确询问不会同意[4] 企业数据使用政策差异 - 微软Copilot和Anthropic的Claude公开承诺不将用户上传图像用于模型训练[4] - ChatGPT开发商OpenAI默认使用所有数据但允许用户选择退出[4] - Meta在美国地区的AI用户无法选择退出数据训练 公司未正面回应仅建议查看生成式AI数据使用政策[5] 图像记忆与特征泄露风险 - 网络上出现成千上万次的经典图片和具有高度独特特征的图像有较高被AI系统记住的风险[6] - AI可能生成带有用户独特胎记 疤痕或面部特征的图像 导致身份可被识别[6] - AI头像生成和年龄变化滤镜等功能因需上传清晰人脸照片风险尤其高 Meta曾出现用户对话含真实姓名和照片被公开显示的情况[6] 数据控制权与未来应用风险 - 上传的图像未来可能被用于完全超出用户最初预期的场景[7] - 尽管AI公司声称不会向第三方分发数据 但不代表会删除已上传图片 随着技术演进和商业策略调整 图像可能进入新应用场景而用户一无所知[7] - 上传内容的使用时间会远远超过用户想象[7]