AI造谣的现状与特征 - AI造谣已形成黑色产业链，通过编造如“30万居民撤离”、“民警离职潮”、“爆炸事故”等虚假信息引发社会恐慌 [2] - 不法分子利用AI技术生成逼真的虚假内容，包括伪造“官方回应”，并通过信息过滤和推荐机制将虚假信息聚合成具有迷惑性的“证据链” [2] - 在经济与企业类、公共安全类谣言中，餐饮外卖、快递配送等民生行业成为重灾区 [4] AI造谣的驱动机制 - 造谣者以流量变现为目的，利用内容平台“有效播放量×互动系数×千次播放单价”的收益公式牟利，一篇播放量100万次的内容收益可超过1000元 [2] - 不正当商业竞争进一步催生并加剧了AI谣言黑色产业链的扩散 [2] - 具体案例显示，有违法者注册多个平台账号，利用AI工具编造发布200余篇高度雷同的虚假文章恶意攻击品牌 [2] 治理与应对措施 - 监管部门已采取行动，中央网信办启动专项行动整治利用AI仿冒他人或编造虚假信息的行为，并发布《人工智能安全治理框架》2.0版以完善监管制度和标准 [5] - 新媒体平台被建议加强AI造谣的智能识别，改革流量分发和收益分成机制以压缩牟利空间，并鼓励用户举报可疑内容 [5] - 公安机关依据《刑法》对严重扰乱社会秩序的造谣行为进行打击，相关罪行可处以三年至七年有期徒刑 [5]

AI技术滥用与名人侵权事件 - 歌手薛凯琪公开回应遭AI换脸伪造不雅视频 强调将通过法律手段维权 并指出此类行为是对女性身体的不尊重 [1] - 薛凯琪工作室于今年7月4日发布严正声明 指出网络用户利用AI换脸技术合成虚假视频并传播不实信息 已委托律师追究侵权者法律责任 [2] - 多位名人包括台球运动员王思诺 裁判王钟瑶 演员孙俪 邓超 张馨予及刘德华均遭遇类似AI侵权事件 部分已启动法律程序或发布公开声明 [5] AI伪造技术的社会影响与法律规制 - AI生成技术快速发展导致假照片 假图像及视频换脸内容泛滥 过去一年深度合成音视频侵权现象愈演愈烈 甚至被用于诈骗等犯罪行为 [3] - 专家指出AI伪造技术成为违法侵权重灾区 易引发侵犯肖像权 个人信息泄露及诈骗犯罪 不利于构建"智能向善"的人工智能生态 [6] - 国家互联网信息办公室等部门联合发布《人工智能生成合成内容标识办法》 要求9月1日起对生成内容添加显式及隐式标识 禁止提供恶意工具服务 [8] AI虚假信息对社会公信力的挑战 - 复旦大学教授马凌指出AI造假新闻现场可能被别有用心者利用 损害社会公信力 导致公众认知混乱及社会信任危机 [7] - AI技术滥用不仅侵犯个体权益 更对媒体公信力及社会信任体系构成系统性威胁 需从严惩治以维护健康发展环境 [6][7]

AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言，扰乱社会秩序并误导防汛工作，已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走，经核查其未婚未育，已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌，经核实为虚假警情，已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号，利用AI批量生产300余万条谣言视频图文，87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案，5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频，文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低，开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统，通过挖掘跨模型共性异常特征提升泛化能力，现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系，包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言，55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校，通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划，覆盖AIGC伦理、社会热点调查等领域，探索全国性教育体系[18][19]

湖南怀化网警在日常巡查中发现，一条"怀化35岁女子从28楼跳下"的视频在网络传播，视频的配文中还 标注了高空坠亡事件、家庭悲剧等标签，该视频一经发布迅速引发热议，先后获得数万次转发。经怀化 市公安局缜密侦查，对违法嫌疑人禹某进行了抓捕。据禹某向警方供述，为了快速提升自己账号的关注 度，她通过在某AI平台输入"高空坠楼、家庭悲剧"等关键词生成视频片段，并经过二次剪辑后发布到网 上。除了这起利用AI工具编造谣言的案例之外，上海警方前不久也破获了一起利用AI工具编造企业不 实信息的案件。 当"怀化35岁女子从28楼跳下"的所谓"新闻视频"在平台疯传数万次，当"某茶饮企业使用过期原料"的AI 杜撰谣言导致门店营业额骤降超20%。AI生成内容正被扭曲为流量时代的新型造谣工具。 恶意造假已成AI技术滥用重灾区。湖南禹某仅凭输入"高空坠楼、家庭悲剧"等关键词，便借助平台"悲 剧模板"一键生成虚假跳楼视频；上海姚某、陈某等人为博取广告收益，用AI工具"洗稿"拼凑企业不实 信息。技术门槛的降低正催生一条AI造谣的灰色产业链，某平台"悲剧模板"月下载量超10万次的数据， 更揭示出流水线式造假的规模性危害。这些行为已非无心之失，而 ...

农业与食品安全 - 农业农村部强调必须确保直供学校农产品100%合格 [1] 交通与旅游 - 五一期间全国高速日均流量达6200万辆，同比增长8 1% [1] - 西安兵马俑景区五一假期新增夜场参观，每天增加1 5万张门票，总接待量可达8万人 [10] - 铁路12306回应五一前大量放票传闻，称个别方向和区段出现新增票额并即时重新发售 [10] 航空与运输 - 西部航空与重庆福彩合作，在部分航班上售卖彩票 [10] - 山东航空一航班因天气原因备降3次，航司致歉 [10] 文化与旅游 - 新疆鄯善县吐峪沟石窟和甘肃敦煌悬泉置遗址两处古丝路遗迹首次面向公众开放 [6] - 贵州安龙县海子镇石丫口村的壹口洞天溶洞内岩溶景观形态各异，成为旅游亮点 [15] 经济与贸易 - 美国第一季度经济环比萎缩0 3%，前总统特朗普归因于拜登政策 [7] - 美国和乌克兰签署协议建立美乌重建投资基金 [7] - 印度宣布对所有巴基斯坦航班关闭领空 [7] 娱乐与消费 - 2025五一档首日电影票房突破1亿元 [6] 科技与航天 - 空间站第八批实验样品返回，涉及25个实验项目，重37 25公斤 [1] - 中国航天固体动力事业奠基者赵殿礼逝世，享年92岁，其贡献包括推动多型重点固体动力产品立项研制 [17] 零售与商品 - 日本多地出现"大米盗贼"现象，米价连创新高 [10] 医疗与教育 - 近东救济工程处称以色列将关闭6所学校，导致800名加沙儿童失学 [10] - 贵州一医院工作人员上班期间打游戏被医保局通报 [10] 政策与法规 - 5月一批新规将施行，涉及住宅标准、婚姻登记、售后服务等领域 [6] - 法制日报评论强调需通过法律刚性约束治理"AI造谣"乱象 [11] 城市与公共设施 - 上海4月30日至5月5日开启景观照明重大活动模式，营造节日氛围 [13]