Workflow
AI魔改
icon
搜索文档
面对“AI魔改”,不能“一笑而过”(快人快语)
人民日报· 2026-01-15 06:26
行业监管动态 - 国家广播电视总局近期启动了为期一个月的“AI魔改”视频专项治理行动 [1] - 治理行动重点指向基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“魔改”的视频 [1] - 此次治理并非“一刀切”地限制正当AI创作,而是旨在为数字时代的文化生产标定清晰的价值红线 [1] 行业现象与商业模式 - 当前短视频平台存在大量“AI魔改”短视频,其内容常让经典角色穿越次元、言行颠覆 [1] - 这类内容往往是始于一个刻意制造反差、耸人听闻的“标题党”式创意,再交由技术快速填充生成 [1] - “AI魔改”被视为一种低成本的“流量生意”,是空洞、低俗的数据狂欢 [1] 行业影响与潜在风险 - “AI魔改”短视频挤压着优质原创内容的生存空间 [1] - 此类内容让厚重的文化变得轻浮、廉价,可能走向“文化虚无” [1] - 对经典作品进行粗暴、低俗化的“恶搞”,消解了经典之为经典的审美价值与思想价值 [2] - 海量的、似是而非的“AI魔改”信息,会干扰乃至篡改未成年人文化认知的基底 [2] - 若任由“AI魔改”扭曲文化形象,可能影响下一代世界观、人生观和价值观的形成 [2] 行业核心观点与价值导向 - 技术可以拓展想象的边界,但不能践踏文化的底线 [1] - 创作可以追求新颖的表达,但不能颠覆历史的共识 [1] - 专项治理行动重申了人文精神之于文化创造、审美培育和价值塑造的重要作用 [2] - 行业需要呼唤人在数据浪潮中的主体性和文化自觉 [2] - 在AI时代,需要共同构建兼具技术水准与人文精神的创作生态 [3] 行业各参与方角色 - 技术是“画笔”,人是“绘图者”,应推动“创造性转化”而非“破坏性解构” [3] - 平台是“画纸”,人是“展卷者”,应优化算法,将文化品质与社会效益纳入价值考量 [3] - 用户是“读画者”,在享受技术便利的同时,应保持坚定的文化自信 [3]
AI魔改乱象需标本兼治
经济日报· 2026-01-13 08:22
监管政策与行业治理 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的专项治理以整治“AI魔改”视频传播乱象 [1] - 治理行动旨在对滥用生成式人工智能技术的行为敲响警钟并对善用技术守正创新提出要求 [1] - 治理需坚持标本兼治 治标需依法依规清理违规内容并处置问题账号以迅速遏制乱象 治本需构建长效机制并铲除黑灰产业链以维护风清气正的创作环境 [1] 行业现状与问题根源 - 截至2025年6月中国生成式人工智能用户规模已突破5亿 [1] - “AI魔改”屡禁不止的原因包括生成成本与传播门槛较低以及监管与引导不足 [1] - 部分人利用生成式人工智能等新技术打擦边球 将经典作品变为博眼球蹭流量的素材 [1] 平台责任与机制调整 - 平台必须当好守门人 需善用技术方式筑牢监管防线并提升快速处置全流程效率 [2] - 平台需改变流量至上的推荐机制 更加重视内容品质与用户反馈等综合评价 让精品创作被更多人看到 [2] 行业自律与规范发展 - 相关行业协会应积极牵头 不断完善生成式人工智能的行业准则与制作规范 [2] - 行业准则可明确改编内容底线 并将滥用技术恶意侵权的企业纳入不良记录以维护行业长远声誉与发展空间 [2] - 应积极引导普通创作者 明确“开放版权”与“二次创作”的界限 包容正向健康的非营利性创新创意 并呼吁各方自觉抵制低俗内容 [2] 技术应用与产业导向 - 治理是手段 发展才是目的 相关部门应在强化监管与引导的同时鼓励运用AI技术挖掘经典价值并打造精品力作 [2] - 鼓励以新技术推出更多新经典 以更好满足人民精神文化生活新期待并推动文化事业和文化产业高质量发展 [2]
瞭望 | 警惕“AI魔改”改造认知
新华社· 2026-01-12 16:20
专项治理行动概述 - 国家广播电视总局将于2026年1月1日起在全国范围内开展为期一个月的专项治理行动,集中清理利用AI技术对经典影视内容进行恶意改编、解构的短视频作品 [1] - 此次行动传递出明确信号,即技术应用不能成为随意解构经典、戏说历史、扭曲文化认知的法外之地 [1] “AI魔改”视频的问题与影响 - “AI魔改”视频存在恶意改编、解构经典影视内容的问题,例如唐僧推销保险、林黛玉与孙悟空组成“CP”、清宫剧变成“枪战片”等 [1] - 这些视频严重违背原作精神内核和角色形象,颠覆基本认知,消解真实叙事权威,并分化社会共识 [1] - “AI魔改”存在文化挪用和篡改的突出问题,导致对真实历史时空和中华文明标识产生明显错位认知,冲击文化认同 [1] - 具体案例显示,“外国山海经”成为青少年社交密码,一些孩子因“穿耐克鞋的鲨鱼”等改编内容,在未接触原著《山海经》前就已形成“中国的山海经不如外国好”的错误印象 [1] 人工智能技术的影响与监管建议 - 生成式AI改变了信息生产与传播方式,在赋予创作更大空间的同时,其输出的海量信息所传递的价值取向既有向上向善者,也有消极负面者 [1] - 这些信息将塑造受众对社会道德、伦理规范、价值理想等方面的认知和理解,进而影响其行为与选择 [1] - 对“AI魔改”视频,除专项治理外,更应推动常态管理 [2] - 应推动建立跨平台联动、技术审核标准统一、责任追溯清晰的长效监管机制,以确保对“AI魔改”乱象的治理实现常态化、制度化和法治化 [2]
为何整治“AI魔改”?它与“二创”有哪些区别?
人民日报海外版· 2026-01-12 10:17
文章核心观点 - 国家广播电视总局自2026年1月1日起开展为期一个月的专项治理,重点清理对四大名著、历史题材、革命题材、英模人物等电视剧作品的颠覆性篡改、“魔性”解构与低俗化改编的“AI魔改”视频[4] - AI技术能力跃升和门槛降低,使得“AI魔改”视频能以假乱真且制作简易,导致网络内容空前丰富但也乱象丛生,尤其可能对未成年人造成文化认知混乱和价值观错位[5][6][7] - “AI魔改”行为存在明确的法律风险,可能侵犯原作品著作权(包括保护作品完整权)、演员肖像权,并可能违反公序良俗等相关法规,平台需承担主体责任并建立有效治理机制[8][9][10][11][12] AI技术发展与内容创作现状 - AI技术能力显著跃升,文生视频工具使得即便没有专业背景的用户,通过简短自然语言描述也能制作出高质量视频,技术门槛大幅降低[5][6] - 技术普及导致网络上经典影视“二创”内容空前丰富,一方面催生了别出心裁的优秀作品,例如有博主让《西游记》角色用摇滚风格演唱,吸引千万网友[7] - 另一方面,部分创作者以“怎么崩坏怎么来”作为流量密码,制作内容空洞、违背原作精神甚至渲染血腥暴力的低俗视频,引发观众不适[7] 专项治理行动与监管要求 - 专项治理行动为期一个月,旨在精准打击“毒瘤”内容,为优质作品创造空间,并非一概否定AI改编“二创”[4][7] - 监管明确要求网络视听平台落实主体责任,强化内容审核,清理违规内容,处置乱象突出的账号[10] - 国家已通过《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规为AI创作划定红线,并对内容合规、数据来源、服务提供者义务提出具体要求[12] - 国家广播电视总局2024年12月发布的《管理提示(AI魔改)》要求平台建立可操作的审核机制,优化推荐算法,从流量分发源头减少侵权内容曝光[12] 法律风险与侵权认定 - 对经典影视片段进行“AI魔改”很可能涉及侵权,未经许可使用作品中具有独创性表达的画面,无论片段长短,都构成侵权,权利人是否有经济损失并非判断关键[8] - 著作权法中的“合理使用”条款适用条件严格,具有商业性质的使用行为很难被纳入此范畴[8] - “AI魔改”若严重违背原作精神内核和角色形象,可能侵犯原著作者的“保护作品完整权”,该权利作为著作人身权没有保护期限[9] - 利用演员社会知名度引流或丑化角色形象,可能侵犯演员肖像权;渲染血腥暴力、违背公序良俗或篡改中华文化,则可能违反相关法律法规[9] 平台责任与治理路径 - 平台在AI内容治理中不应仅是传播渠道,更是内容生态的直接管理者与责任主体,若未能建立有效风险防范机制,则无法仅凭“技术中立”免责[11] - 平台是否担责需综合考虑其服务性质与规模、对内容的干预程度、是否直接获利、权利作品知名度、被诉内容热度及是否采取预防措施等因素[11] - 平台治理有两条可行路径:一是版权前置过滤,通过提取视频指纹、音频特征纳入版权保护库,主动识别拦截未授权素材,例如抖音对1.1万余部微短剧作品开启保护机制[13];二是版权授权与工具赋能,平台提供正版IP资源与AI创作工具,例如芒果TV启动“AIGC微短剧创作者生态计划”[13] - 2024年12月“全国首例AI文生视频侵权纠纷案”宣判,某平台因未经授权利用《庆余年》片段提供AI剪辑服务且未采取防范措施,被认定侵犯信息网络传播权,判赔80万元[11] 对创作者与原创作者的建议 - 创作者需确保AI素材来源合法,严禁未经许可对经典IP、公众人物形象进行歪曲性、恶搞性解构[15] - 创作过程中应注重投入自身独创性表达,并完整保存从提示词、生成参数到修改过程的记录,作为应对侵权指控或主张权利的核心证据[15] - 原创作者应通过版权登记与数字化存证构建完整权利链条,发现侵权后主动向平台提供视频指纹、音频特征等数据协助拦截,并重视通过诉讼等途径维护“保护作品完整权”[17]
广电总局开展专项治理——“AI魔改”红线不能踩
人民日报海外版· 2026-01-12 08:27
行业监管动态 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的“AI魔改”视频传播乱象专项治理 [1] - 专项治理重点清理对四大名著、历史题材、革命题材、英模人物等电视剧作品的颠覆性篡改、“魔性”解构与低俗化改编 [1] - 治理行动并非一概否定经典影视的AI改编“二创”,而是瞄准其中的“毒瘤”精准打击,为优质作品创造空间 [4] AI技术发展与应用 - AI能力跃升使得“AI魔改”视频能以假乱真,技术门槛显著降低 [2] - 借助文生视频工具,即便没有专业背景,用户只需一段简短的自然语言描述即可制作高质量视频 [3] - 技术门槛降低导致网络上的经典影视“二创”内容空前丰富,既有优秀作品涌现,也存在大量为博眼球而制作的“崩坏”内容 [3] 法律与侵权风险 - 对经典影视片段进行“AI魔改”很有可能涉及侵犯著作权,未经许可使用作品中具有独创性表达的画面,无论片段长短都涉及侵权 [5] - “合理使用”条款适用条件严格,具有商业性质的使用行为很难被纳入此范畴 [5] - “AI魔改”若严重违背原作精神内核和角色形象,可能侵犯原著作者的“保护作品完整权” [6] - 利用演员社会知名度引流或丑化角色形象可能侵犯演员肖像权,渲染血腥暴力、违背公序良俗等内容则可能违反其他法律法规 [6] - 著作财产权保护有期限,但著作人身权的保护没有期限,意味着年代久远的作品也不可被随意歪曲篡改 [6] 平台责任与治理措施 - 网络视听平台被要求落实主体责任,强化内容审核把关,清理违规内容并处置乱象突出的账号 [6] - 在AI内容治理中,平台不应仅被视为传播渠道,更是内容生态的直接管理者与责任主体 [7] - 平台若未能建立有效的风险防范机制,则无法仅凭“技术中立”免责,需承担相应法律责任 [7] - 2024年12月,某平台因未经授权利用《庆余年》原片片段提供AI剪辑服务且未采取防范措施,被法院判令赔偿80万元并停止侵权 [7] - 平台是否担责需综合考虑其服务性质与规模、对内容的干预程度、是否直接获利、权利作品知名度、内容热度及是否采取预防措施等因素 [7][8] 技术监管与合规路径 - 中国已通过《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规为AI创作划定红线 [9] - 国家广播电视总局2024年12月发布的《管理提示(AI魔改)》要求平台建立具体可操作的审核机制,优化推荐算法,从源头减少侵权内容曝光 [9] - 平台探索版权前置过滤,例如抖音对1.1万余部微短剧作品开启保护机制,通过特征提取与比对提升侵权内容拦截效能 [9] - 平台探索版权授权与工具赋能路径,例如芒果TV启动“AIGC微短剧创作者生态计划”,向创作者开放正版IP资源并提供官方AI创作工具与流量支持 [10]
秦始皇开机甲战车?半月谈:别让AI魔改扭曲孩子认知
新浪财经· 2026-01-12 00:13
AI魔改视频现象与影响 - 互联网平台出现大量利用AI技术对经典影视、动画作品进行颠覆性篡改、魔性解构与低俗化改编的视频,例如秦始皇驾驶机甲、林黛玉与贾宝玉拳脚相向等荒诞场景 [1] - 这些视频以“创意解读”为噱头,内容空洞、价值观扭曲,扰乱了网络文化生态,并对心智尚未成熟的未成年人形成直接的认知误导与冲击 [1] - 部分创作者为博眼球,搬运海外“脑腐梗”视频进行二次创作,或将《山海经》等中华经典作为流量噱头,炮制出“仙人掌身躯配穿拖鞋的大象”等被称为“外国山海经”的怪异形象 [1] AI魔改视频的产业链与传播机制 - 相关视频内容已形成“线上传播、线下变现”的产业链,与之关联的玩具、文具在校园周边热销 [1] - 视频生成门槛极低,只需输入几个关键词,短短十几秒即可生成一段视觉冲击强烈的视频 [1] - 算法推荐形成的“信息茧房”,让“经典与历史可随意解构”的错误认知在受众中不断强化 [2] 专项治理与监管行动 - 国家广播电视总局自2026年1月1日起,在全国范围内开展为期一个月的“AI魔改”视频专项治理 [2] - 此次治理旨在强化网络视听平台的内容审核责任,并为青少年健康成长营造清朗网络空间 [2] - 有关部门将以此次治理为契机,依法严厉打击危害未成年人身心健康的违规内容与行为 [2] 各相关方的责任与应对措施 - 平台方需扛起主体责任,建立针对未成年人内容的专项审核机制,并加大对优质传统文化内容的流量倾斜,从技术层面打破不良内容的传播闭环 [2] - 创作者应坚守文化责任,摒弃流量至上的浮躁心态,深入挖掘传统文化的精髓 [2] - 家庭与学校需形成育人合力,将媒介素养教育纳入课程体系和日常生活,帮助孩子提升辨别虚假与低俗文化内容的能力 [2] - 平台、创作者、家庭、学校及监管部门需多方协同、长效治理,以筑牢未成年人健康认知的“防火墙” [3]
微信、抖音、快手、微博等多平台,公布涉“AI魔改”违规视频处置结果
新华网财经· 2026-01-09 17:42
国家开展“AI魔改”视频专项治理行动 - 国家广播电视总局宣布自2026年1月1日起,在全国范围内开展为期一个月的“AI魔改”视频专项治理行动[2] - 专项行动重点整治基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的内容[2] 主要网络平台治理结果 - 微信平台共处置违规短视频内容1078条[4] - 抖音平台累计处置涉“AI魔改”违规视频1075条[7] - 快手平台已处置违规内容1057条[10] - 哔哩哔哩平台拦截处置涉“AI魔改”问题的违规稿件700余条[12] - 小红书平台累计清理处置“AI魔改”视频违规内容487条,处置违规账号21个[14] - 微博平台共拦截并清理违规视频190余条,并对7个违规账号视程度予以阶段性禁言直至永久禁言处置[19]
4800余条视频被处置!微信、抖音、快手、小红书、微博集体公告
央视新闻· 2026-01-09 10:34
专项治理行动概况 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的“AI魔改”视频专项治理行动 [1] - 专项行动重点整治基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的内容 [1] - 在行动第一周,网络视听平台共计处置约4800余条违规视频 [1] 主要平台处置情况 - 微信平台处置违规短视频内容1078条 [2] - 抖音平台累计处置涉“AI魔改”违规视频1075条 [2] - 快手平台已处置违规内容1057条 [2] - 哔哩哔哩平台拦截处置违规稿件700余条 [2] - 小红书平台累计清理处置违规视频内容487条并处置违规账号21个 [3] - 百度平台累计巡查清理违规视频284条并关闭账号2个 [4] - 微博平台拦截并清理违规视频190余条并对7个违规账号予以阶段性禁言直至永久禁言处置 [4]
小红书:累计清理处置“AI魔改”视频违规内容487条
新浪财经· 2026-01-08 23:54
行业背景与问题 - 随着人工智能技术飞速发展与广泛应用,互联网上涌现大量由AI生成的视听内容 [1] - 通过AI对经典影视作品、历史题材影像进行解构与颠覆性改编的现象蔓延,其内容存在过度虚构、篡改或扭曲历史情节与人物形象的问题 [1] - 此类内容会对大众认知造成冲击,侵蚀传统文化,并长期干扰未成年人形成正确文化认知和现实感知,损害青少年健康成长 [1] 公司治理行动与措施 - 公司积极响应主管部门相关管理要求,开展专项清理与治理工作,以扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间 [1] - 治理重点针对通过“AI魔改”四大名著、历史及革命英烈题材等影视作品,或利用知名动画形象制作的各类视频 [1] - 集中清理严重歪曲原作、渲染暴力低俗、篡改中华文化、扭曲历史认知及违背公序良俗等有害内容 [1] 治理成果与案例 - 自专项整治行动开展以来,平台累计清理处置“AI魔改”视频违规内容487条,处置违规账号21个 [1] - 典型案例1:用户“给**哥”因高频发布AI魔改四大名著相关内容,账号被禁言处置 [1] - 典型案例2:用户“喵**胖”因高频发布魔改海绵宝宝不良价值观视频,账号被禁言处置 [2] - 典型案例3:用户“卡**画”因高频发布AI魔改皮卡丘不良价值导向内容,账号被禁言处置 [3] - 典型案例4:用户“大**者”因高频发布AI魔改美国山海经相关内容,账号被禁言处置 [4] 公司核心工作与社区呼吁 - 公司始终将筑牢网络安全防线、守护良好信息生态作为核心工作之一 [4] - 公司呼吁广大用户自觉遵守社区公约,积极举报违规线索,共同建设积极健康的网络内容秩序 [4]
B站:从严拦截处置涉“AI魔改”问题的违规稿件700余条
新浪财经· 2026-01-08 23:54
公司治理行动 - 哔哩哔哩根据国家广播电视总局和上海市广播电视局要求,集中开展“AI魔改”视频专项治理,旨在整治传播乱象并构建和谐社区氛围 [1] - 公司自1月1日起加大巡查审核力度,从严拦截处置涉“AI魔改”问题的违规稿件700余条 [1] - 公司鼓励运用生成式人工智能技术创制兼具趣味性与情感共鸣的正向优质内容,以促进网络视听行业高质量发展 [1] 违规行为分类 - 第一类违规行为:严重违背原作精神内核和角色形象,颠覆基本认知,解构普遍共识 [1] - 第二类违规行为:渲染血腥暴力、猎奇低俗,宣扬错误价值观,违背公序良俗 [3] - 第三类违规行为:存在对中华文化挪用、篡改的突出问题 [6] - 第四类违规行为:改编生成的各类邪典动画问题 [9] 社区共建倡议 - 公司呼吁用户共同守护社区氛围,欢迎通过在线客服或发送邮箱积极举报站内违法违规信息 [11] - 治理行动的目标是协力共建更加安全、有序、优质的网络视听环境 [11]