AI造谣

搜索文档
AI造谣攻防战:高中生5分钟生成虚假通报实验的警示与应对
南方都市报· 2025-08-06 12:40
AI造谣现象与案例 - 福州永泰网民王某某通过AI工具剪辑视频散布汛情谣言,扰乱社会秩序并误导防汛工作,已被行政处罚[2][5] - 浙江嘉兴一男子使用AI生成虚假"寻人启事"称女儿被抱走,经核查其未婚未育,已被行政拘留[6] - 云南赵某某利用AI制作交通事故伤亡视频并标注"大理州"造成恐慌,经核实为虚假警情,已被行政处罚[6] - 山东枣庄某传媒公司购买10万个实名账号,利用AI批量生产300余万条谣言视频图文,87名犯罪嫌疑人被抓获[8] AI造谣技术特点 - 免费AI工具可快速生成汛情、火灾等敏感主题虚假文案,5分47秒即可伪造包含法律条款的"警情通报"[5][10] - 普通景区照片经AI处理可变成"桥梁断裂事故"视频,文字生成视频工具能拼接新闻画面制造虚假汛情场景[10][12] - AI生成虚假内容技术门槛极低,开源模型爆发式增长和云端服务便捷化加剧了技术大众化趋势[8][12] 行业应对措施 - 暨南大学夏志华团队研发视觉深度伪造检测系统,通过挖掘跨模型共性异常特征提升泛化能力,现有算法对已知伪造识别准确率超95%[12][13][14] - 2025年3月出台《人工智能生成合成内容标识办法》要求合法模型必须对生成内容添加水印[13] - 构建"个人-平台-技术-监管"四维共治体系,包括平台部署AI检测系统、技术社区研发鉴伪模型、监管部门完善立法等[13] 教育领域行动 - 上海高中生实验显示45.7%青少年无法识别AI谣言,55.9%未成年人通过短视频获取新闻[15] - 长三角形成媒介素养联盟种子校,通过新闻争霸赛、融媒体中心建设等提升学生媒介素养[18] - 2025年将启动跨省媒介素养联动计划,覆盖AIGC伦理、社会热点调查等领域,探索全国性教育体系[18][19]
AI生成非“法外之地”,恶意造谣终成流量囚徒
齐鲁晚报· 2025-07-07 16:10
湖南怀化网警在日常巡查中发现,一条"怀化35岁女子从28楼跳下"的视频在网络传播,视频的配文中还 标注了高空坠亡事件、家庭悲剧等标签,该视频一经发布迅速引发热议,先后获得数万次转发。经怀化 市公安局缜密侦查,对违法嫌疑人禹某进行了抓捕。据禹某向警方供述,为了快速提升自己账号的关注 度,她通过在某AI平台输入"高空坠楼、家庭悲剧"等关键词生成视频片段,并经过二次剪辑后发布到网 上。除了这起利用AI工具编造谣言的案例之外,上海警方前不久也破获了一起利用AI工具编造企业不 实信息的案件。 当"怀化35岁女子从28楼跳下"的所谓"新闻视频"在平台疯传数万次,当"某茶饮企业使用过期原料"的AI 杜撰谣言导致门店营业额骤降超20%。AI生成内容正被扭曲为流量时代的新型造谣工具。 恶意造假已成AI技术滥用重灾区。湖南禹某仅凭输入"高空坠楼、家庭悲剧"等关键词,便借助平台"悲 剧模板"一键生成虚假跳楼视频;上海姚某、陈某等人为博取广告收益,用AI工具"洗稿"拼凑企业不实 信息。技术门槛的降低正催生一条AI造谣的灰色产业链,某平台"悲剧模板"月下载量超10万次的数据, 更揭示出流水线式造假的规模性危害。这些行为已非无心之失,而 ...
【8点见】“五一”前大量放票?12306回应
央视网· 2025-05-02 08:13
农业与食品安全 - 农业农村部强调必须确保直供学校农产品100%合格 [1] 交通与旅游 - 五一期间全国高速日均流量达6200万辆,同比增长8 1% [1] - 西安兵马俑景区五一假期新增夜场参观,每天增加1 5万张门票,总接待量可达8万人 [10] - 铁路12306回应五一前大量放票传闻,称个别方向和区段出现新增票额并即时重新发售 [10] 航空与运输 - 西部航空与重庆福彩合作,在部分航班上售卖彩票 [10] - 山东航空一航班因天气原因备降3次,航司致歉 [10] 文化与旅游 - 新疆鄯善县吐峪沟石窟和甘肃敦煌悬泉置遗址两处古丝路遗迹首次面向公众开放 [6] - 贵州安龙县海子镇石丫口村的壹口洞天溶洞内岩溶景观形态各异,成为旅游亮点 [15] 经济与贸易 - 美国第一季度经济环比萎缩0 3%,前总统特朗普归因于拜登政策 [7] - 美国和乌克兰签署协议建立美乌重建投资基金 [7] - 印度宣布对所有巴基斯坦航班关闭领空 [7] 娱乐与消费 - 2025五一档首日电影票房突破1亿元 [6] 科技与航天 - 空间站第八批实验样品返回,涉及25个实验项目,重37 25公斤 [1] - 中国航天固体动力事业奠基者赵殿礼逝世,享年92岁,其贡献包括推动多型重点固体动力产品立项研制 [17] 零售与商品 - 日本多地出现"大米盗贼"现象,米价连创新高 [10] 医疗与教育 - 近东救济工程处称以色列将关闭6所学校,导致800名加沙儿童失学 [10] - 贵州一医院工作人员上班期间打游戏被医保局通报 [10] 政策与法规 - 5月一批新规将施行,涉及住宅标准、婚姻登记、售后服务等领域 [6] - 法制日报评论强调需通过法律刚性约束治理"AI造谣"乱象 [11] 城市与公共设施 - 上海4月30日至5月5日开启景观照明重大活动模式,营造节日氛围 [13]