Workflow
AI魔改
icon
搜索文档
诸葛亮飙英文、唐僧反内耗……AI「魔改」的边界在哪?
央视新闻· 2025-12-14 17:53
AI“魔改”视频的行业现状 - AI“魔改”视频在短视频平台广泛传播,通过技术将经典影视剧人物台词修改,例如诸葛亮说英文、唐僧谈反内耗,人物口型精准对齐,效果逼真[1] - 此类视频制作门槛低,使用AI工具配音“人人可上手”,博主发布教程称任意修改视频人物台词且不保留原声,相关视频流量可观,例如一条教程视频获得45.6万点赞[3][6][7] - 低门槛是AI“魔改”视频爆炸式增长的主因,过去二创配音需半专业操作,如今通过在线语音模型,几分钟即可生成以假乱真的明星声线[9] 核心技术应用与场景 - AI配音技术主要应用于文字转语音、AI变声、声音克隆及角色克隆等场景[10] - 声音克隆仅需目标人物十秒讲话音频,软件即可数字化其频率、节奏,通过大模型学习后克隆声音并生成新音频[10] - 角色克隆需要清晰的面部影像视频,AI模型分析面部点位并可进行“换嘴”操作,派生出多种口型贴回画面[10] 法律风险与侵权认定 - 广电总局网络视听司曾发布管理提示,认为AI“魔改”视频为博流量亵渎经典IP,冲击传统文化,且涉嫌侵权[3] - 全国首例“AI声音侵权案”一审宣判,被告使用原告声音开发AI文本转语音产品未获授权,构成侵权,需书面赔礼道歉并赔偿原告25万元[9] - 影视剧作为视听作品受著作权法保护,利用其画面配音需经著作权人许可,但法律同时规定了合理使用条款[13] - 专家指出,大多数以娱乐为目的的“魔改”视频构成合理使用的可能性较小,若为批判或讽刺目的且引用比例适当,则可能适用合理使用条款[13] 行业影响与从业者观点 - AI“魔改”配音被指将角色人设、剧情逻辑、演员声线拆解重组,掏空了原作的精神内核,突破了创作“底线”[12] - 配音行业从业者是声音被盗采的受害者,有配音演员在录制作品时声音被盗采并用于其他演员的“八卦”二创内容,维权举步维艰[12]
家长请注意!小学生沉迷的“外国山海经”“奥特曼怀孕”等邪典视频卷土重来,内容诡异、暴力,背后谁在“作妖”?
每日经济新闻· 2025-11-23 18:57
文章核心观点 - AI生成内容(AIGC)技术门槛降低,催生了以“外国山海经”、“AI山海经”及“邪典视频”为代表的、针对未成年人的不良内容泛滥,这些内容包含暴力、血腥、软色情及对经典文化的歪曲,并通过社交及短视频平台算法广泛传播,形成了一条畸形的产业链,对青少年身心健康及文化认知构成严重威胁 [1][5][6][9] AI生成不良内容的现象与传播 - “外国山海经”或“AI山海经”指由AI技术拼接生成的怪异动画形象,如“木棒人”、“仙人掌象”,相关咒语式词汇在小学生群体中迅速流行 [2] - 这些AI生成内容造型诡异,并夹杂暴力、血腥词汇,儿童会模仿学习,产生负面影响 [5] - 部分儿童首次接触“山海经”概念是通过这些外来AI产物,甚至误认为“山海经就是国外的” [5] - “邪典视频”指利用AI技术对经典动漫角色(如奥特曼、小猪佩奇)进行二次创作,内容包含残害肢体、挖眼珠子、怀孕等血腥暴力或恶搞场景 [6] - AI魔改内容也涉及对《红楼梦》、《三国演义》等中华优秀传统文化的歪曲和污名化 [8] 平台算法与产业链 - AI图片和视频制作流程简单,用户可在常见AI视频网站通过发送图片和文字指令快速生成动态视频 [5] - 平台算法助推不良内容形成传播闭环,儿童一旦观看,平台会持续推送同类内容,即使家长投诉或点击“不喜欢”也难以屏蔽 [6][8] - 有前视频公司员工透露,其前公司旗下几百个视频号持续推送“邪典动画”,这类视频因色彩鲜艳吸引儿童,且流量表现优异,能获得平台支持 [6][8] - 在社交平台及短视频评论区,有用户公然教学如何用关键词规避限制,生成包含性暗示的“二次元”风格儿童软色情图片,甚至出现“儿童怀孕”等恶劣内容 [9] - “外国山海经”角色形象被制成衣服、盲盒、积木等衍生产品在电商平台售卖,部分产品销量可观,如某店铺一款24盒盲盒公仔售价11.99元,付款人数已超2万 [9] - 知名游戏IP推出与“外国山海经”联名的盲盒、卡牌,引发学生攀比和频繁向家长要钱购买的现象 [9] 社会影响与潜在危害 - AI魔改内容将“低俗猎奇”包装为“趣味创新”,侵蚀文化传承与下一代成长的健康土壤,可能在青少年心中埋下“经典可随意解构”的错误认知 [8] - “邪典视频”及“外国山海经”发展成学生群体中的亚文化,其造成的危害不容小觑 [10] - 制造推送“邪典视频”成为一本万利甚至无本万利的生意,有些人动起利用“毒流量”收割孩子和家长钱包的歪心思 [10] - AI技术的出现大幅降低了制作门槛和成本,但根本问题在于背后的畸形产业链 [10] 建议与措施方向 - 家长需加强健康上网引导,确保开启未成年防沉迷模式,并增强有效陪伴 [10] - 网络平台是信息内容管理第一责任人,需完善青少年模式,堵住账号切换漏洞,并主动净化平台内容,塑造正向网络导向 [11] - 应有效激励优质作品,让有良知、有底线的创作者得到应有回报,形成正向循环 [11] - 需提升青少年的数字素养,增强其在人工智能浪潮中的前行能力 [11]
比邪典动画更可怕!AI拼接的怪异形象,为何让孩子集体“着迷”?
环球网资讯· 2025-11-18 13:10
行业现象:AI生成内容在未成年人群体中流行 - 以“外国山海经”或“AI山海经”为代表的AI魔改内容在网络上迅速走红,并渗透到低龄群体中[2] - 这些内容将毫不相干的元素强行拼凑,生成造型诡异的动画形象,如“Tung Tung Tung Sahur”(木棒人)、“Lirili larlla”(仙人掌象)等[1] - 超过六成未成年人使用过AI,部分未成年人出现依赖AI、不愿与真人交流等问题[11] 内容特征与风险 - AI魔改内容中夹杂“杀死”、“烧死”等暴力词汇和“用刀砍人”等危险动作描述[3] - “邪典动画”借助AI技术卷土重来,内容包含残害肢体、角色从高处坠落等血腥场景,甚至出现“把自己的眼珠子挖出吃掉”的画面[5][6] - 部分内容对《红楼梦》、《三国演义》等中华优秀传统文化进行歪曲和污名化[6] - 有用户教学如何用关键词让AI生成大尺度图片,部分内容涉及未成年人,可生成包含性暗示的“二次元”风格儿童软色情图片[8] 传播与影响机制 - 短视频平台的算法推荐是重要传播渠道,孩子一旦观看,平台会持续推送同类内容,形成传播闭环[3][6] - 此类内容成为儿童社交密码,孩子为融入集体而主动了解,并出现模仿怪异动作和念叨“咒语”的行为[3] - AI技术大幅降低了制作门槛,用户可通过简单指令快速生成图片和动态视频[4] - 未成年人流量在平台占很大比重,这类视频曝光度高、流量表现优异,甚至能获得平台支持[6] 衍生商品与产业链 - AI魔改内容已被实体化,衍生出玩具、盲盒、卡牌、服装等商品在电商平台销售[9] - 某店铺一款包含24盒的盲盒公仔售价仅11.99元,付款人数已超2万[9] - 衍生商品价格低廉,在未成年人中引发收集热潮和“隐性”攀比,甚至成为“社交货币”[9] - 部分商品展示图衣着暴露、动作挑逗,并且未作年龄区分[9] 行业监管与应对 - 我国已施行《未成年人网络保护条例》等法规,强化对未成年人网络内容的监管[11] - 部分AI工具正在探索未成年人保护模式,例如字节跳动旗下豆包AI上线该模式后可限制推荐视频、AI创作等功能[12] - 有行业受访者透露,其前公司旗下几百个视频号持续推送“邪典动画”,内容套路化严重[6]
人工智能“魔改”应有底线
经济日报· 2025-11-05 08:20
AI“魔改”视频的兴起与监管现状 - 利用人工智能技术对经典影视作品进行荒诞离奇改编的视频在网络平台大量涌现并迅速传播 [1] - 国家广播电视总局网络视听节目管理司于2024年12月发布管理提示,要求排查清理AI肆意“魔改”影视剧的短视频 [2] - 部分平台已开始在相关视频下标注“AI生成”并出台治理公告,明确不鼓励利用AI进行低质创作 [2] 行业面临的法律与侵权风险 - AI“魔改”视频未经授权的改编很可能侵犯著作权,若突破合理使用边界则应承担法律责任 [1] - 借助AI工具进行恶搞并以此牟利的行为有可能构成侵权 [1] - 当前需要完善针对人工智能技术的专门立法,进一步明确合理使用与侵权的界限 [2] 平台与相关方的责任与应对措施 - 平台需严格落实生成式人工智能的内容审核责任,并承担起主体责任 [2] - 平台应建立原创数据库,利用技术手段反制侵权行为,提升识别与拦截的精准度 [2] - 需要形成技术公司、法律机构与文化行业的合作,探索合规应用路径,推动形成跨领域的“技术共治联盟” [2] 对文化审美与价值观的潜在影响 - AI“魔改”视频的碎片化、荒诞化内容可能冲击审美与价值观,长期沉迷可能模糊美丑、真假的边界 [3] - 此类内容可能稀释青少年对文化的认同感 [3] - 教育部门与学校需承担引导责任,培养公众尤其是年轻一代的版权意识和审美素养 [3]
AI“魔改”视频争议:创意还是恶搞?边界到底在哪儿?
齐鲁晚报网· 2025-09-18 10:53
AI魔改内容的市场现象 - 利用人工智能技术对经典影视作品进行颠覆性改编的内容在短视频平台引发关注,例如《西游记》、《甄嬛传》等经典被改编成与原著精神相悖的剧情 [1] - 此类AI魔改视频数据表现火爆,部分视频点赞量高达数万,有的账号运营半个多月粉丝量就增长到10万多 [2] - AI魔改视频已成为一种流量获取工具,博主通过接广告商单、知识变现、创作者分成计划等方式获取收益 [2] AI魔改的技术与成本 - AI视频生成技术门槛和经济成本较低,可通过文本描述或上传图片等方式快速生成内容,生成一条视频仅需数十秒 [4] - 相关AI生成软件大多需要付费,会员费用在几十元到一两百元不等,例如一款软件花费129元可成为永久会员,另一款98元永久会员的应用已有一百余万次下载 [5][6] - 技术的普及与平台算法的推荐是AI魔改内容频发的重要驱动因素 [7] AI魔改的商业化与影响 - AI魔改视频能为发布者带来显著的流量和粉丝增长,例如一条唐僧唱歌的AI视频获得近200万次转赞评,粉丝量迅速突破32万 [8] - 相比原创内容,AI改编视频流量更大,粉丝转化率高出好几倍,部分平台推出的AIGC内容激励计划进一步提升了博主创作热情 [8] - 市场上出现以“投入低回报高”为噱头的培训,宣称通过AI生成视频可实现“月薪一万起步” [8] 行业监管与治理动态 - 国家广播电视总局网络视听节目管理司已发布管理提示,指出AI魔改视频为博流量亵渎经典IP,冲击传统文化认知,且涉嫌侵权,并督促平台排查清理此类内容 [3][9] - 短视频平台对AI魔改现象的治理已取得一定成效,但流量思维驱动下,治理工作难以一蹴而就 [10] - 专家建议平台应承担把关责任,对侵权、暴力、低俗内容进行限流、下架或封号处理,同时需加强跨领域协同治理,明确创新边界,重视知识产权保护 [10]
新华视点·关注AI造假丨透视AI“魔改”视频争议:创意还是恶搞?
新华社· 2025-09-17 21:55
AI“魔改”视频现象概述 - 利用人工智能技术对原作品进行颠覆性改编的行为在短视频平台引发争议,常见于短视频、视觉创作等领域[1] - 现象核心争议在于其属于创意表达还是恶搞,以及改编的边界与规范治理问题[1] 市场表现与商业驱动 - 此类“魔改”短视频数据火爆,有的点赞量高达数万,部分账号起号半个多月粉丝就已涨到10万多[2] - 发布者通过推荐AI网站、卖课、接广告商单、知识变现、创作者分成计划等方式获取收益[2] - 一名博主发布的AI视频斩获近200万次转赞评,粉丝量迅速突破32万,AI改编视频相比原创流量更大,粉丝转化率高出好几倍[7] - 短视频平台推出AIGC内容激励计划,提升了博主的创作热情[7] - 有博主以“投入低回报高”、“月薪一万起步”为噱头,宣传提供AI生成视频、AI短剧制作相关培训[7] 技术门槛与成本 - 利用AI技术改编生成内容的技术门槛和经济成本并不高[4] - AI生成软件大多需要付费,会员费用从几十元到一两百元不等,例如一款软件花费129元成为永久会员,另一款应用98元成为永久会员并已有一百余万次下载[5] 行业争议与风险 - 部分公众认为“魔改”视频新奇好玩是创意表达,但也有人强调娱乐化改编应有底线,未经授权的“魔改”破坏了原作品的完整性和艺术价值[3] - 有观点认为AI“魔改”视频制造大量非真实信息,加剧了信息茧房效应,并可能对青少年价值观建立产生负面影响[3] - 过度或不当的“魔改”可能扭曲历史记忆、文化遗产以及社会共识,并与原著精神内核相悖,涉嫌构成侵权行为[3] - 国家广播电视总局网络视听节目管理司指出,AI“魔改”视频为博流量,毫无边界亵渎经典IP,冲击传统文化认知,且涉嫌构成侵权行为[3] - 根据著作权法规定,未经许可以改编等方式使用作品构成侵权,不少AI“魔改”视频为引流赚钱,已超出“合理使用”范畴[7] 平台治理与行业规范 - 国家广播电视总局网络视听节目管理司督促短视频平台排查清理AI“魔改”影视剧的短视频,并要求对AI技术产品严格准入和监管,对AI生成内容做出显著提示[8] - 短视频平台AI“魔改”现象已有一定改善,例如抖音发布相关规范与倡议,明确不鼓励利用AI生成虚拟人物开展低质创作,并在视频下方注明“内容由AI生成”[9] - 建议短视频平台对涉及侵权或不良内容进行限流、下架或封号,并承担起把关责任[9] - 建议相关行业协会加强网络公益宣传,提高用户媒介素养和法律意识,同时引导平台技术向善[9] - 建议AI治理需要跨领域协同,例如科技公司、法律监管部门和伦理委员会等共同组成“技术共治联盟”,制定更全面细化的治理准则[9] - 需明确创新边界,重视知识产权保护,注重审美培育和文化尊重,让AI技术成为推动文化发展的新动力[10]