AI生成虚假信息的现状与危害 - 网络上频繁出现AI生成的虚假视频图文内容，例如"珠峰安装电梯"等荒诞信息，这些内容因其新奇性易于传播并带来可观流量[3] - AI生成内容技术成熟后，能将原本易于识别的荒诞构想包装成以假乱真的视频图文，利用人类"眼见为实"的心理机制迷惑受众[3] - 虚假内容传播者可能将流量用于诱导消费、传谣诈骗等不法活动，对网络生态造成危害[3] AI造假灰色产业链 - 电商平台存在大量提供"AI起号"服务的商家，标榜"三天打造10万粉丝账号"，核心手段是利用AI生成虚假内容吸引点击[4] - AI换脸与声音克隆技术泛滥成灾，已出现医生张文宏被换脸售卖产品、奥运冠军全红婵声音被克隆用于售卖的案例[4] - AI换脸技术已延伸至刑事犯罪领域，有案例显示犯罪分子利用AI换脸软件生成动态人脸视频实施盗刷消费，涉案195万条公民个人信息[4] AI虚假信息治理策略 - 需要建立技术规范、监管创新、法治完善三位一体的综合治理体系，而非仅依靠辟谣[5] - 应严格规范AI技术应用，推行"AI内容强制标识制度"，要求AI生成内容在显著位置注明系AI生成[5] - 需利用科技手段改进监管，加强人工智能、大数据等监管工具开发，通过技术手段识别、跟踪和剿灭网络虚假信息[6] - 建议建立"平台-政府-用户"三方协同机制，包括平台优化推荐算法、监管部门构建"AI虚假信息库"、用户端普及数字素养教育[6] - 需要完善AI开发应用的法律法规，在现有网络安全法、数据安全法等基础上，进一步针对AI虚假信息制作、传播、利用完善法律法规[6]