声音克隆
搜索文档
利用AI换脸、声音克隆假冒公众人物牟利,一批账号被处置
新浪财经· 2026-02-12 19:17
监管动态与执法行动 - 中国网信部门近期针对未添加AI标识的虚假合成信息展开专项整治,依法依约处置账号13421个,清理违法违规信息54.3万余条[1] - 监管行动覆盖多个主流内容平台,包括微博、快手、哔哩哔哩、微信、抖音、百度、小红书、淘宝、闲鱼、拼多多等[1][2] - 监管机构明确下一步将对无AI标识的虚假不实信息保持高压严管态势,执行“发现即处置”的原则[2] 违规内容的主要类型与案例 - **虚构故事博取流量**:部分账号发布AI生成但未标识的虚假视频,如狗在高铁站救婴儿、狗拆炸弹救人、鳄鱼伤人等内容,恶意博取流量[1] - **假冒公众人物牟利**:部分账号利用AI换脸、声音克隆技术假冒运动员、演员、企业家等公众人物发布不实言论,或未经授权售卖AI生成的“送祝福”视频以不当牟利[1] - **编造公共事件扰乱秩序**:部分账号发布AI生成的虚假火灾现场图片与视频,恶意编造炒作火灾事故,扰乱公共秩序[1] - **制作不良内容侵扰未成年人**:部分账号借AI魔改未成年人喜爱的动画角色(如小马宝莉、奥特曼),制作并传播低俗惊悚、血腥暴力内容,宣扬不良价值观[2] - **提供规避监管的技术与服务**:部分账号及电商店铺分享或售卖去除AI标识的教程、软件及服务,帮助违规内容规避监管[2] 行业影响与平台责任 - 此次整治行动涉及内容创作、社交媒体、电商等多个互联网行业细分领域,凸显了AI生成内容监管的复杂性与跨平台性[1][2] - 监管行动直接影响了相关账号的运营及电商平台上违规商品的销售,相关账号已被处置,违规商品已下架[1][2] - 监管机构公开呼吁广大网络内容创作者主动遵守规定添加AI标识,以共同营造健康网络环境,这明确了内容创作行业的基本合规要求[2]
央广时评丨从你我做起 守护安全数字生活
央广网· 2025-09-16 22:27
网络安全风险现状 - AI换脸与声音克隆技术导致个人信息在非知情状态下泄露 数字技术深度嵌入日常生活带来多种网络安全风险 [1] - 截至2025年6月 中国网民规模达11.23亿人 互联网普及率达79.7% 庞大用户基数放大网络安全风险影响范围 [3][4] 网络安全防护体系 - 网络安全法 数据安全法 个人信息保护法共同构建信息安全法律保障体系 为行业治理明确细则与底线 [3] - 政府监管部门与企业网络平台已形成相应技术标准与规范 提供常态化安全保障 [3] 个人防护措施 - 需设置强密码并定期更换 谨慎授权App访问权限 对陌生链接与熟人转账保持警惕 [7] - 应对过度收集信息的应用说"不" 定期清理失效服务授权 这些微观举措是保护个人隐私的有效手段 [7] 社会协同治理 - 网络安全是系统工程 需政府 企业 社会组织与公众形成共建共治共享格局 [3] - 个人是保护隐私与财产安全的第一道防线 掌握网络安全知识已成为必备技能 [3][4][7]
一个极具争议的开源项目,「微信克隆人」火了!
菜鸟教程· 2025-05-15 16:33
WeClone项目核心功能 - 支持通过微信聊天记录微调大语言模型(LLM),捕捉用户语言习惯和表达方式,基于LoRA框架支持0.5B-7B规模模型如ChatGLM3-6B、Qwen2.5-7B等 [12] - 模型训练需约16GB显存,满足小样本低资源场景,训练效率高 [13] - 语音克隆模块通过0.5B参数模型和5秒语音样本实现95%相似度的声音克隆,基于Tacotron或WavLM模型 [15] - 支持多平台部署至微信/QQ/Telegram等,通过AstrBot框架实现实时对话 [16] 技术实现路径 - **数据预处理**:微信CSV/SQLite转为JSON格式,清洗敏感信息并保留时间戳,提供禁用词过滤功能 [20][27] - **模型微调**:采用ChatGLM3-6B基础模型,LoRA框架减少可训练参数,支持单机/多卡分布式训练 [20][21][36] - **部署方案**:FastAPI/Flask打包模型,支持GPU/CPU混合部署,自定义参数配置 [22][37] 应用场景 - 个人助理定制:自动回复消息、处理邮件等事务 [17] - 内容创作:生成特定风格文本如推文/脚本,支持多账号运营 [17] - 数字永生:创建个人或他人的永久数字分身 [18] 安装与训练流程 - 环境依赖Python 3.9,推荐使用uv管理环境,需安装16GB显存GPU [23][24] - 数据准备需通过PyWxDump解密微信数据库,导出CSV至指定目录 [26] - 训练参数可调整batch_size/epochs等,单卡训练示例loss值3.5(2万条数据) [34][36] - 推理支持浏览器demo或API接口测试,部署需配置AstrBot服务 [37][40] 模型获取 - 优先从Hugging Face下载ChatGLM3模型,备选魔搭社区需替换modeling_chatglm.py文件 [29][32]