AI技术滥用乱象 - 某演员遭遇“AI盗播”，其AI分身在同一时间现身多个直播间带货，演员本人提出质疑后被拉黑[1] - 生成式AI技术大幅降低视频制作门槛，但被滥用于伪造“买家秀”骗取退款、制造虚假明星合影、伪造音视频针对老年人进行诈骗等[1] - AI技术有从创意工具沦为造假工具的危险趋势[1] AI内容治理政策与现状 - 《人工智能生成合成内容标识办法》于9月起施行，要求AI生成内容需添加显式标识（文字、声音等）和隐式标识（技术措施嵌入文件数据）[1] - 显式标识帮助用户辨别误导性信息，隐式标识有助于追溯伪造内容来源和维护被侵权人权益[1] - 政策施行后各大平台纷纷出台细则响应，但仍有部分AI内容未添加标识，对观众形成误导[2] 构建多层次AI治理体系 - 需强化法律保障，明确AI造假处罚标准，厘清服务提供者、平台、用户三方责任，覆盖多种造假情形[2] - 需加强监管力度，开展专项治理，建立多部门协同监管体系以形成打击合力[2] - 需升级技术手段，提升高精度检测能力以精准识别造假内容[2] - 治理需与技术发展同步，通过规则、监管、技术同步更新来减少AI造假和公众受骗风险[2]