Workflow
AI生成非“法外之地”,恶意造谣终成流量囚徒
齐鲁晚报·2025-07-07 16:10

湖南怀化网警在日常巡查中发现,一条"怀化35岁女子从28楼跳下"的视频在网络传播,视频的配文中还 标注了高空坠亡事件、家庭悲剧等标签,该视频一经发布迅速引发热议,先后获得数万次转发。经怀化 市公安局缜密侦查,对违法嫌疑人禹某进行了抓捕。据禹某向警方供述,为了快速提升自己账号的关注 度,她通过在某AI平台输入"高空坠楼、家庭悲剧"等关键词生成视频片段,并经过二次剪辑后发布到网 上。除了这起利用AI工具编造谣言的案例之外,上海警方前不久也破获了一起利用AI工具编造企业不 实信息的案件。 当"怀化35岁女子从28楼跳下"的所谓"新闻视频"在平台疯传数万次,当"某茶饮企业使用过期原料"的AI 杜撰谣言导致门店营业额骤降超20%。AI生成内容正被扭曲为流量时代的新型造谣工具。 恶意造假已成AI技术滥用重灾区。湖南禹某仅凭输入"高空坠楼、家庭悲剧"等关键词,便借助平台"悲 剧模板"一键生成虚假跳楼视频;上海姚某、陈某等人为博取广告收益,用AI工具"洗稿"拼凑企业不实 信息。技术门槛的降低正催生一条AI造谣的灰色产业链,某平台"悲剧模板"月下载量超10万次的数据, 更揭示出流水线式造假的规模性危害。这些行为已非无心之失,而 ...