AI技术滥用风险 - 不法分子使用AI工具批量生成视听兼具的谣言视频以博眼球蹭热度、吸粉引流[1] - 通过多次优化提示词等手段弱化AI生成痕迹，使虚假信息迷惑性和诱导性更强[1] - 部分谣言背后已存在分工明确的灰色产业链[1] 行业治理与监管框架 - 《人工智能生成合成内容标识办法》于9月1日起施行，同时《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定已相继出台[2] - 下一步需继续填补法律空白，完善细化规范AI技术应用的法律法规并加强法规执行[2] - 相关监管部门应在延续已有网络虚假信息处理机制基础上进行重点监测[2] 产业链各方责任与措施 - 生成合成服务提供者需强化技术安全性和合规性，在算法设计阶段嵌入伦理约束并管理好训练语料，做到清晰标识[2] - 互联网应用程序分发平台需升级审核体系，提高对深度伪造内容的检测精度，并完善人工复核机制弥补算法短板[2] - 在信息生成到传播的全链条中，大模型开发者、互联网应用程序分发平台、使用者等都应各负其责[2]