AI技术滥用现状 - AI克隆声音技术被用于伪造奥运冠军全红婵、孙颖莎、王楚钦等名人带货视频 声音特征通过深度学习算法从样本中提取频率、音色和声调后合成[1][5][7] - 伪造视频通过截取其他采访片段与克隆声音结合实现移花接木 全红婵相关土鸡蛋链接已售出超2.1万单[3][5] - 电商平台公开售卖AI声音克隆教程 价格区间为0.5元至400元 其中4.88元教程声称可实现"1分钟素材克隆完美声音"[7] 技术实现与商业化 - AI语音合成门槛因大模型技术发展显著降低 2023年6月以来行业已发布多款一站式AI语音合成软件[7] - 商业化克隆服务形成产业链 提供明星声音代克隆服务 收费标准为100字以内4.99元 超过部分按内容长度计费[7] - 技术原理基于深度学习算法 通过上传声音素材、输入模拟文本和选择声音模型即可完成声音转化与拼接[7] 行业治理与监管 - 国家网信办等多部门联合印发《人工智能生成合成内容标识办法》 将于2023年9月1日施行 强制要求AI生成内容添加标识[13] - 专家建议建立传播量预警机制 对可疑视频启动真伪鉴别 并将AI合成内容识别纳入常态化监测[15] - 要求内容发布者承担第一责任 AI服务提供商需提供生成内容标识功能 平台方需履行视频审核义务[15]