Workflow
AI魔改
icon
搜索文档
孙悟空机枪扫射沙僧?广电总局开展“AI魔改”视频专项治理
南方都市报· 2026-01-01 21:28
AI魔改视频现象概述 - 生成式人工智能工具普及导致基于经典影视、历史题材、革命题材和英模人物的“AI魔改”视频在短视频平台集中涌现 这些视频通过换脸、换声、改词、重组画面等方式对原作进行颠覆性改编 依靠强烈反差和猎奇效果快速吸引流量 [1] - 具体案例包括《甄嬛传》被改造成枪战片 《红楼梦》中林黛玉与薛宝钗挥拳对打 孙悟空用机枪扫射唐僧 《大秦帝国》中秦始皇驾驶机甲战车 《古惑仔》桥段被嫁接到《人民的名义》 《三国演义》桃园三结义台词被改为“喜欢结交地痞流氓”且人物嘴型同步调整 [1][2] - AI魔改视频并非简单剪辑 而是借助生成式AI对原作进行深度重构 冲击感官认知 [2] AI魔改视频存在的问题 - 严重背离原作精神内核与角色形象 例如将宫斗叙事粗暴替换为暴力冲突 为情感人物赋予不相干的武力设定 将取经叙事解构为充满热武器和爆炸场面的“爽片” 人物身份、情节逻辑和价值指向均被打散重组 [3] - 猎奇化、低俗化甚至暴力化改编 部分视频刻意强化血腥、暴力和强刺激画面以制造情绪冲击 涉及历史、革命题材和英模人物的内容被过度放大受刑、牺牲等场景 以视觉冲击替代严肃叙事 削弱历史厚重感和精神内涵 [3] - 对大众认知和传统文化造成冲击 有网友担心看多后会忘记经典原貌 并担忧对青少年产生误导 [3] AI魔改视频的制作与传播 - 制作流程已被高度简化为“三步生成”固定模板 第一步“AI生文” 输入简单提示词生成剧情或台词文本 但在历史、经典题材中 大模型易出现事实错乱、情节拼接和价值偏移等“幻觉”问题 [3][4] - 第二步“文生视频”或“图生视频” AI根据文本自动生成画面 但对历史服饰、人物身份、时代语境的理解呈碎片化、标签化 导致画面与真实背景严重不符 部分工具会默认强化动作冲突和表情张力 使风格更夸张刺激 [4] - 第三步通过简单剪辑、配乐和字幕包装后快速发布 整个过程几乎不需要专业剪辑能力、版权意识或历史判断能力 [4] - 短视频平台上有不少账号以“AI魔改教程”、“三分钟AI生成视频起号”为卖点 传授如何利用经典IP改编获取流量 博主表示使用AI工具进行“魔改”没有太高技术门槛 “人人可上手” [4] 相关法规与治理行动 - AI魔改视频暗藏法律风险 本质上类似于二次创作 未经著作权人许可进行改编和传播构成典型侵权 即使获得授权也可能侵害表演者权利及声音权等人格权益 即便是公共领域名著 改编也不得歪曲、丑化或传播不良价值导向 [8] - 国家有关部门持续关注并出手治理 2024年12月 国家广播电视总局网络视听节目管理司发布《管理提示(AI魔改)》 指出此类视频亵渎经典IP 冲击传统文化认知 与原著精神内核相悖且涉嫌侵权 要求相关省局督促平台排查清理 [9] - 2025年4月 中央网信办部署开展为期3个月的“清朗·整治AI技术滥用”专项行动 将“借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化”等7类问题列入重点整治范畴 分阶段清理违规内容 [9] - 国家广播电视总局宣布自2026年1月1日起 在全国范围内部署开展为期一个月的“AI魔改”视频专项治理 进行集中清理整治 要求网络视听平台落实主体责任 强化内容审核 清理违规内容 处置乱象突出账号 专项治理后将总结经验并研究制定长效机制 [1][9]
“AI魔改”四大名著、历史题材等视频将被重点清理!
新浪财经· 2026-01-01 08:15
专项治理行动概述 - 国家广播电视总局将于2026年1月1日起,在全国范围内开展为期一个月的专项治理,以整治“AI魔改”视频传播乱象 [1] 治理背景与问题定性 - 生成式人工智能技术快速发展,部分网络账号滥用AI工具,对经典影视、动画片等内容进行颠覆性篡改、魔性解构与低俗化改编 [1] - 这些内容严重背离经典作品精神内核,扰乱网络传播秩序,助长侵权行为,危害行业发展,干扰未成年人形成正确文化认知和现实感知 [1] 专项治理重点清理内容 - 重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [1] - 清理标准包括:严重违背原作精神内核和角色形象,颠覆基本认知,解构普遍共识 [1] - 清理标准包括:内容渲染血腥暴力、猎奇低俗,宣扬错误价值观,违背公序良俗 [1] - 清理标准包括:存在对中华文化挪用、篡改的突出问题,导致对真实历史时空、中华文明标识产生明显错位认知,冲击文化认同 [1] - 专项治理同步清理将少年儿童所熟知、所喜爱的动画形象进行改编生成的各类邪典动画 [1] 对网络视听平台的要求 - 要求网络视听平台落实主体责任,强化内容审核把关,坚决清理违规内容,处置乱象突出的账号 [1] - 治理目标是扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间 [1]
“AI魔改”泛滥,整治既是约束更是导向
南方都市报· 2026-01-01 00:02
监管行动概述 - 国家广播电视总局宣布自2026年1月1日起在全国范围内开展为期一个月的专项治理以整治“AI魔改”视频传播乱象[2] - 专项治理同步清理将少年儿童所熟知的动画形象进行改编生成的各类邪典动画[2] - 此次专项行动是对前期一系列整治行动的深化监管对于创作的红线底线越来越明确[4] 治理背景与乱象现状 - “AI魔改”视频内容多样例如《红楼梦》变武打戏孙悟空骑摩托车“奥特曼怀孕”等邪典动画在短视频平台大肆传播[2] - 此类视频有噱头无内涵严重影响未成年人的文化认知和现实感知[2] - “AI魔改”已不再是少数群体的消遣产物下料越来越猛路子越来越野甚至一些“恶搞梗”被个别商业品牌作为营销噱头使用乱象呈现向其他领域蔓延的态势[2] - 生成式人工智能用户规模激增涌入社交媒体平台的AI内容不断增长[3] - 2025年下半年AI图像处理和AI视频处理两类应用的用户规模分别已达到6982万575万[3] - 创作门槛降低导致AI生成式内容爆发式增长监管面临巨大挑战[3] 历史监管措施与效果 - 一年前广电总局网络视听司曾针对“AI魔改”发布管理提示严格要求各短视频平台排查清理相关短视频[3] - 2025年网信部门在4月开展专项行动整治清理违规AI应用程序广电总局在11月下发工作提示治理不良动画微短剧和动画短视频[3] - 前期治理取得一定效果例如“甄嬛掏枪”“宝黛对打”等内容已很难再搜到[3] 本次专项行动重点与要求 - 专项行动重点放在落实网络视听平台的主体责任上是基于新形势进行的针对性整治[4] - 专项治理对三类内容做出清理要求包括“严重违背原作精神内核和角色形象”“宣扬错误价值观违背公序良俗”“存在对中华文化挪用篡改的突出问题”等[4] - 明确内容红线有助于平台厘清边界同时建议有关部门借此契机进一步明确细化更具可操作性的甄别定性标准拉出负面清单[4] 对行业与内容生态的影响 - 监管设立的红线是内容创作本应持有的基本操守[4] - AI时代人人都是创作者有关部门和各大平台需对内容守好门把好关[4] - 让技术向善离不开创作者主动提高创作素养坚守创作的价值底线[4]
诸葛亮飙英文、唐僧大谈反内耗……AI“魔改”经典,国家广播电视总局出手
每日经济新闻· 2025-12-31 20:40
行业监管动态 - 国家广播电视总局宣布自2026年1月1日起,在全国范围内开展为期一个月的“AI魔改”视频专项治理 [1] - 专项治理旨在整治滥用生成式人工智能技术对经典影视、动画片等内容进行颠覆性篡改、低俗化改编的传播乱象 [1] - 治理行动旨在扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间 [3] 治理对象与范围 - 重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [2] - 同步清理将少年儿童所熟知、所喜爱的动画形象进行改编生成的各类邪典动画 [2] - 治理针对三类突出问题:严重违背原作精神内核和角色形象;内容渲染血腥暴力、猎奇低俗;存在对中华文化挪用、篡改导致认知错位 [2] 问题定性与行业影响 - 相关“AI魔改”视频被指严重背离经典作品精神内核,扰乱网络传播秩序,助长侵权行为 [1] - 这些内容被认为危害行业发展,并干扰未成年人形成正确文化认知和现实感知 [1] - 广电总局网络视听司此前认定,一些“AI魔改”视频为博流量,毫无边界亵渎经典IP,冲击传统文化认知,且涉嫌构成侵权行为 [2] 平台责任与要求 - 专项治理要求网络视听平台落实主体责任,强化内容审核把关 [3] - 平台需坚决清理违规内容,并处置乱象突出的账号 [3]
“AI魔改”视频专项治理将启动!南都曾曝光换脸伪造乱象
南方都市报· 2025-12-31 12:05
专项治理行动 - 国家广播电视总局宣布自2026年1月1日起,在全国范围内开展为期一个月的专项治理,以整治“AI魔改”视频传播乱象 [1] - 专项治理重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [1] - 重点清理范围包括严重违背原作精神内核和角色形象、内容渲染血腥暴力猎奇低俗、以及对中华文化挪用篡改导致历史认知错位的视频 [3] - 专项治理同步清理将少年儿童熟知的动画形象进行改编生成的各类邪典动画 [3] “AI魔改”视频的问题与危害 - 部分网络账号滥用AI工具,对经典影视、动画片进行颠覆性篡改、魔性解构与低俗化改编 [3] - 这些内容严重背离经典作品精神内核,扰乱网络传播秩序,助长侵权行为,危害行业发展,干扰未成年人形成正确文化认知 [3] - 例如《三国演义》和《西游记》的影视画面被“AI魔改” [3] - 随着生成式AI在国内广泛应用,问题逐渐显现,例如曾有男子利用AI技术“换脸”炮制自己与女星迪丽热巴亲吻的画面 [3] 相关的AI滥用乱象与市场 - “AI明星换脸”在网络上有不同的消费套餐,价格在28元至138元不等 [3] - 68元即可购买一套AI技术明星换脸淫秽视频,共500部左右 [3] - 利用AI技术伪造视频推荐产品的乱象多有发生,例如有账号克隆明星声音制作“鸡汤、人生哲理”视频进行引流变现 [4] - 今年5月,孙俪、邓超工作室发文针对大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假 [4] - 12月,演员温峥嵘报警立案,称网络上频繁出现以盗播、AI换脸等方式非法使用其形象售卖假冒伪劣产品的行为 [4] 监管与应对措施 - 四部门此前联合发布《人工智能生成合成内容标识办法》,明确要求对人工智能生成合成内容进行显式标识和隐式标识 [4] - 有专业人士指出,执法部门应提高执法能力、配备相应技术,以快速有效识别利用人工智能等新型手段欺骗消费者的行为 [4]
国家广电总局:2026年1月1日起,专项治理
南方都市报· 2025-12-31 09:52
专项治理行动概述 - 国家广播电视总局宣布自2026年1月1日起在全国范围内开展为期一个月的专项治理以整治“AI魔改”视频传播乱象 [1] - 治理行动旨在清理滥用生成式人工智能技术对经典影视、动画片等内容进行颠覆性篡改、低俗化改编的视频 [1] - 专项治理要求网络视听平台落实主体责任强化内容审核坚决清理违规内容处置问题账号为青少年营造良好网络空间 [1] 治理背景与行业影响 - 生成式人工智能技术快速发展导致部分网络账号滥用AI工具对经典内容进行魔性解构与低俗化改编 [1] - 此类内容严重背离经典作品精神内核扰乱网络传播秩序助长侵权行为危害行业发展 [1] - 相关内容干扰未成年人形成正确文化认知和现实感知 [1] 重点清理内容范围 - 重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [1] - 清理标准包括严重违背原作精神内核和角色形象颠覆基本认知解构普遍共识的视频 [1] - 清理标准包括内容渲染血腥暴力猎奇低俗宣扬错误价值观违背公序良俗的视频 [1] - 清理标准包括存在对中华文化挪用篡改问题导致对真实历史时空中华文明标识产生明显错位认知冲击文化认同的视频 [1] - 专项治理同步清理将少年儿童所熟知喜爱的动画形象进行改编生成的各类邪典动画 [1] 后续治理与长效机制 - 专项治理后广电总局将认真总结进一步研究制定综合治理举措 [2] - 后续将健全工作机制以保持治理的常态化与长效化 [2]
诸葛亮飙英文、唐僧反内耗……AI“魔改”的边界在哪?
央视新闻· 2025-12-15 04:49
AI“魔改”视频的行业现状 - AI“魔改”视频在短视频平台广泛传播,通过AI技术修改经典影视剧人物台词,例如让诸葛亮说英文、唐僧谈反内耗,人物口型精准对齐,效果逼真[1] - 此类视频制作门槛低,博主发布教程称“人人可上手”,利用AI工具只需上传原始音频、选择情绪风格并输入文本,几分钟即可生成以假乱真的明星声线[6][10] - 相关视频拥有可观流量,例如某平台相关话题视频获得超过45.6万点赞[4] 技术与应用场景 - AI配音技术主要应用于两大场景:一是文字转语音,将编辑好的文字通过软件处理成目标声音;二是原始语音AI变声,常用于社交平台博主保护个人声纹[8][9] - 声音克隆技术门槛低,仅需约10秒的个人讲话音频,软件即可数字化其频率和节奏,通过大模型学习后克隆声音至声音库,随后可生成任意文案的音频[10] - 角色克隆技术需要清晰的面部影像视频,AI模型通过分析面部点位,可实现“换嘴”等操作,使口型与生成的新台词匹配[10] 法律与侵权认定 - 国家广电总局网络视听司曾发布管理提示,认为部分AI“魔改”视频为博流量亵渎经典IP,冲击传统文化,且涉嫌构成侵权[3] - 2023年,北京互联网法院对全国首例“AI声音侵权案”一审宣判,认定被告使用原告声音开发AI文本转语音产品未获授权构成侵权,判决被告书面赔礼道歉并赔偿原告25万元[11] - 法律专家指出,影视剧作为视听作品受著作权法保护,利用其画面配音需经著作权人许可,但符合“合理使用”条款的情形除外,例如为介绍、评论或说明问题而适当引用[15] - 多数以娱乐为目的的“魔改”视频构成“合理使用”的可能性较小,若为批判或讽刺原作且引用比例适当,则可能适用相关条款[16] 行业影响与争议 - AI“魔改”行为对经典影视作品的原著精神内核造成冲击,被指掏空了原作的角色人设、剧情逻辑和演员声线[14] - 行业从业者如配音演员是声音被盗采的受害者,其声音可能被用于未经授权的“二创”甚至商业用途,维权过程艰难[14] - 尽管存在管理规定,通过修改台词进行“二创”的影视作品在各大短视频平台仍具有一定规模[3]
诸葛亮飙英文、唐僧反内耗……AI「魔改」的边界在哪?
央视新闻· 2025-12-14 17:53
AI“魔改”视频的行业现状 - AI“魔改”视频在短视频平台广泛传播,通过技术将经典影视剧人物台词修改,例如诸葛亮说英文、唐僧谈反内耗,人物口型精准对齐,效果逼真[1] - 此类视频制作门槛低,使用AI工具配音“人人可上手”,博主发布教程称任意修改视频人物台词且不保留原声,相关视频流量可观,例如一条教程视频获得45.6万点赞[3][6][7] - 低门槛是AI“魔改”视频爆炸式增长的主因,过去二创配音需半专业操作,如今通过在线语音模型,几分钟即可生成以假乱真的明星声线[9] 核心技术应用与场景 - AI配音技术主要应用于文字转语音、AI变声、声音克隆及角色克隆等场景[10] - 声音克隆仅需目标人物十秒讲话音频,软件即可数字化其频率、节奏,通过大模型学习后克隆声音并生成新音频[10] - 角色克隆需要清晰的面部影像视频,AI模型分析面部点位并可进行“换嘴”操作,派生出多种口型贴回画面[10] 法律风险与侵权认定 - 广电总局网络视听司曾发布管理提示,认为AI“魔改”视频为博流量亵渎经典IP,冲击传统文化,且涉嫌侵权[3] - 全国首例“AI声音侵权案”一审宣判,被告使用原告声音开发AI文本转语音产品未获授权,构成侵权,需书面赔礼道歉并赔偿原告25万元[9] - 影视剧作为视听作品受著作权法保护,利用其画面配音需经著作权人许可,但法律同时规定了合理使用条款[13] - 专家指出,大多数以娱乐为目的的“魔改”视频构成合理使用的可能性较小,若为批判或讽刺目的且引用比例适当,则可能适用合理使用条款[13] 行业影响与从业者观点 - AI“魔改”配音被指将角色人设、剧情逻辑、演员声线拆解重组,掏空了原作的精神内核,突破了创作“底线”[12] - 配音行业从业者是声音被盗采的受害者,有配音演员在录制作品时声音被盗采并用于其他演员的“八卦”二创内容,维权举步维艰[12]
家长请注意!小学生沉迷的“外国山海经”“奥特曼怀孕”等邪典视频卷土重来,内容诡异、暴力,背后谁在“作妖”?
每日经济新闻· 2025-11-23 18:57
文章核心观点 - AI生成内容(AIGC)技术门槛降低,催生了以“外国山海经”、“AI山海经”及“邪典视频”为代表的、针对未成年人的不良内容泛滥,这些内容包含暴力、血腥、软色情及对经典文化的歪曲,并通过社交及短视频平台算法广泛传播,形成了一条畸形的产业链,对青少年身心健康及文化认知构成严重威胁 [1][5][6][9] AI生成不良内容的现象与传播 - “外国山海经”或“AI山海经”指由AI技术拼接生成的怪异动画形象,如“木棒人”、“仙人掌象”,相关咒语式词汇在小学生群体中迅速流行 [2] - 这些AI生成内容造型诡异,并夹杂暴力、血腥词汇,儿童会模仿学习,产生负面影响 [5] - 部分儿童首次接触“山海经”概念是通过这些外来AI产物,甚至误认为“山海经就是国外的” [5] - “邪典视频”指利用AI技术对经典动漫角色(如奥特曼、小猪佩奇)进行二次创作,内容包含残害肢体、挖眼珠子、怀孕等血腥暴力或恶搞场景 [6] - AI魔改内容也涉及对《红楼梦》、《三国演义》等中华优秀传统文化的歪曲和污名化 [8] 平台算法与产业链 - AI图片和视频制作流程简单,用户可在常见AI视频网站通过发送图片和文字指令快速生成动态视频 [5] - 平台算法助推不良内容形成传播闭环,儿童一旦观看,平台会持续推送同类内容,即使家长投诉或点击“不喜欢”也难以屏蔽 [6][8] - 有前视频公司员工透露,其前公司旗下几百个视频号持续推送“邪典动画”,这类视频因色彩鲜艳吸引儿童,且流量表现优异,能获得平台支持 [6][8] - 在社交平台及短视频评论区,有用户公然教学如何用关键词规避限制,生成包含性暗示的“二次元”风格儿童软色情图片,甚至出现“儿童怀孕”等恶劣内容 [9] - “外国山海经”角色形象被制成衣服、盲盒、积木等衍生产品在电商平台售卖,部分产品销量可观,如某店铺一款24盒盲盒公仔售价11.99元,付款人数已超2万 [9] - 知名游戏IP推出与“外国山海经”联名的盲盒、卡牌,引发学生攀比和频繁向家长要钱购买的现象 [9] 社会影响与潜在危害 - AI魔改内容将“低俗猎奇”包装为“趣味创新”,侵蚀文化传承与下一代成长的健康土壤,可能在青少年心中埋下“经典可随意解构”的错误认知 [8] - “邪典视频”及“外国山海经”发展成学生群体中的亚文化,其造成的危害不容小觑 [10] - 制造推送“邪典视频”成为一本万利甚至无本万利的生意,有些人动起利用“毒流量”收割孩子和家长钱包的歪心思 [10] - AI技术的出现大幅降低了制作门槛和成本,但根本问题在于背后的畸形产业链 [10] 建议与措施方向 - 家长需加强健康上网引导,确保开启未成年防沉迷模式,并增强有效陪伴 [10] - 网络平台是信息内容管理第一责任人,需完善青少年模式,堵住账号切换漏洞,并主动净化平台内容,塑造正向网络导向 [11] - 应有效激励优质作品,让有良知、有底线的创作者得到应有回报,形成正向循环 [11] - 需提升青少年的数字素养,增强其在人工智能浪潮中的前行能力 [11]
比邪典动画更可怕!AI拼接的怪异形象,为何让孩子集体“着迷”?
环球网资讯· 2025-11-18 13:10
行业现象:AI生成内容在未成年人群体中流行 - 以“外国山海经”或“AI山海经”为代表的AI魔改内容在网络上迅速走红,并渗透到低龄群体中[2] - 这些内容将毫不相干的元素强行拼凑,生成造型诡异的动画形象,如“Tung Tung Tung Sahur”(木棒人)、“Lirili larlla”(仙人掌象)等[1] - 超过六成未成年人使用过AI,部分未成年人出现依赖AI、不愿与真人交流等问题[11] 内容特征与风险 - AI魔改内容中夹杂“杀死”、“烧死”等暴力词汇和“用刀砍人”等危险动作描述[3] - “邪典动画”借助AI技术卷土重来,内容包含残害肢体、角色从高处坠落等血腥场景,甚至出现“把自己的眼珠子挖出吃掉”的画面[5][6] - 部分内容对《红楼梦》、《三国演义》等中华优秀传统文化进行歪曲和污名化[6] - 有用户教学如何用关键词让AI生成大尺度图片,部分内容涉及未成年人,可生成包含性暗示的“二次元”风格儿童软色情图片[8] 传播与影响机制 - 短视频平台的算法推荐是重要传播渠道,孩子一旦观看,平台会持续推送同类内容,形成传播闭环[3][6] - 此类内容成为儿童社交密码,孩子为融入集体而主动了解,并出现模仿怪异动作和念叨“咒语”的行为[3] - AI技术大幅降低了制作门槛,用户可通过简单指令快速生成图片和动态视频[4] - 未成年人流量在平台占很大比重,这类视频曝光度高、流量表现优异,甚至能获得平台支持[6] 衍生商品与产业链 - AI魔改内容已被实体化,衍生出玩具、盲盒、卡牌、服装等商品在电商平台销售[9] - 某店铺一款包含24盒的盲盒公仔售价仅11.99元,付款人数已超2万[9] - 衍生商品价格低廉,在未成年人中引发收集热潮和“隐性”攀比,甚至成为“社交货币”[9] - 部分商品展示图衣着暴露、动作挑逗,并且未作年龄区分[9] 行业监管与应对 - 我国已施行《未成年人网络保护条例》等法规,强化对未成年人网络内容的监管[11] - 部分AI工具正在探索未成年人保护模式,例如字节跳动旗下豆包AI上线该模式后可限制推荐视频、AI创作等功能[12] - 有行业受访者透露,其前公司旗下几百个视频号持续推送“邪典动画”,内容套路化严重[6]