正值防汛关键期，福州永泰网民王某某为吸引眼球，通过AI工具剪辑视频散布谣言，误导防汛救灾工 作。未婚未育者谎称"女儿'王喵喵'被抱走"，博取大众眼球。无中生有的文字、移花接木的视频、捏造 的图片……近年来，利用AI造谣的乱象愈发猖獗。 8月5日，南都N视频记者实测发现，网上不乏可免费使用的"AI写作神器""视频生成器"。只要输入简单 指令，涉及汛情、火灾等敏感主题的虚假文案瞬间生成，甚至普通景区照片经AI处理，即可变成"桥梁 断裂事故"视频。 应对挑战需要技术、教育等多轨并进。带领团队研发视觉深度伪造检测、溯源与防御系统的暨南大学夏 志华教授表示，唯有技术对抗、法规约束、平台治理与公众教育多管齐下，才能在算法洪流中守护真实 底线。 实验 高中生5分钟生成虚假通报 当一则附着"权威通报"的"上海某中学霸凌"消息在班级群里弹出，有多少人能一眼识破这是AI编造的谣 言?编造这则谣言需要多长时间? 近日，上海海事大学附属北蔡高级中学学生开展了一次特别实验，实验中，学生们利用AI仅耗时5分47 秒生成一则"霸凌"通报，其中时间地点、涉事学生姓名、伤情描述乃至法律条款应有尽有。 IC供图 而在实验之外的现实社会中，类似的 ...

AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言，扰乱社会秩序并误导防汛工作，已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走，经核查其未婚未育，已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌，经核实为虚假警情，已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号，利用AI批量生产300余万条谣言视频图文，87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案，5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频，文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低，开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统，通过挖掘跨模型共性异常特征提升泛化能力，现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系，包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言，55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校，通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划，覆盖AIGC伦理、社会热点调查等领域，探索全国性教育体系[18][19]

人机协同与AI在新闻业的应用 - 在AI时代下，人的判断力、问题意识和信任建构能力更为重要，新闻价值判断和提问能力仍应由人类主导 [3] - AI擅长生成文本和汇集资料，但缺乏新闻判断能力和独特的叙事能力，无法替代人类在意义构建和故事讲述中的作用 [3][4] - 人机协同生产需保持流程透明性，记者的署名责任直接关系到新闻公信力和信任建构 [3] 算法时代下的媒体责任 - 算法和流量导向破坏了社会信息的权重，主流媒体需回归议程设置能力，避免被算法或大众口味左右 [4] - 在信息传播泥沙俱下的环境下，媒体应强化"把关人"角色，锚定事实并重构公众信任 [4] - 算法权力让渡会挤压社会多样性，都市媒体需呈现多元内容，避免千篇一律的传播 [5] 老龄化社会与都市媒体内容建设 - 适老化传播的核心是内容问题而非仅技术改进，需关注老年人关心的健康知识、政策解读等高质量信息 [5][6] - 上海老年人口占比达37.6%，都市媒体需促进代际共融，避免老年人被排除在内容理解和情感共鸣之外 [6] - 都市媒体应成为连接三代人的中介，提供老年人发声空间，并通过持续报道推动公共议题 [6][7] 都市媒体的社会角色拓展 - 媒体需超越简单告知功能，通过报道提升公众对社会议题的思考力、判断力和行动力 [7] - 技术迭代加剧代际断裂，媒体应承担"召唤"公众的责任，推动社会交往和公共价值守护 [7]