AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言，扰乱社会秩序并误导防汛工作，已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走，经核查其未婚未育，已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌，经核实为虚假警情，已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号，利用AI批量生产300余万条谣言视频图文，87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案，5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频，文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低，开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统，通过挖掘跨模型共性异常特征提升泛化能力，现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系，包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言，55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校，通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划，覆盖AIGC伦理、社会热点调查等领域，探索全国性教育体系[18][19]