Workflow
AI魔改
icon
搜索文档
4800余条视频被处置!微信、抖音、快手、小红书、微博集体公告
央视新闻· 2026-01-09 10:34
专项治理行动概况 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的“AI魔改”视频专项治理行动 [1] - 专项行动重点整治基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的内容 [1] - 在行动第一周,网络视听平台共计处置约4800余条违规视频 [1] 主要平台处置情况 - 微信平台处置违规短视频内容1078条 [2] - 抖音平台累计处置涉“AI魔改”违规视频1075条 [2] - 快手平台已处置违规内容1057条 [2] - 哔哩哔哩平台拦截处置违规稿件700余条 [2] - 小红书平台累计清理处置违规视频内容487条并处置违规账号21个 [3] - 百度平台累计巡查清理违规视频284条并关闭账号2个 [4] - 微博平台拦截并清理违规视频190余条并对7个违规账号予以阶段性禁言直至永久禁言处置 [4]
小红书:累计清理处置“AI魔改”视频违规内容487条
新浪财经· 2026-01-08 23:54
行业背景与问题 - 随着人工智能技术飞速发展与广泛应用,互联网上涌现大量由AI生成的视听内容 [1] - 通过AI对经典影视作品、历史题材影像进行解构与颠覆性改编的现象蔓延,其内容存在过度虚构、篡改或扭曲历史情节与人物形象的问题 [1] - 此类内容会对大众认知造成冲击,侵蚀传统文化,并长期干扰未成年人形成正确文化认知和现实感知,损害青少年健康成长 [1] 公司治理行动与措施 - 公司积极响应主管部门相关管理要求,开展专项清理与治理工作,以扭转“AI魔改”视频蔓延的不良态势,为青少年健康成长营造良好网络空间 [1] - 治理重点针对通过“AI魔改”四大名著、历史及革命英烈题材等影视作品,或利用知名动画形象制作的各类视频 [1] - 集中清理严重歪曲原作、渲染暴力低俗、篡改中华文化、扭曲历史认知及违背公序良俗等有害内容 [1] 治理成果与案例 - 自专项整治行动开展以来,平台累计清理处置“AI魔改”视频违规内容487条,处置违规账号21个 [1] - 典型案例1:用户“给**哥”因高频发布AI魔改四大名著相关内容,账号被禁言处置 [1] - 典型案例2:用户“喵**胖”因高频发布魔改海绵宝宝不良价值观视频,账号被禁言处置 [2] - 典型案例3:用户“卡**画”因高频发布AI魔改皮卡丘不良价值导向内容,账号被禁言处置 [3] - 典型案例4:用户“大**者”因高频发布AI魔改美国山海经相关内容,账号被禁言处置 [4] 公司核心工作与社区呼吁 - 公司始终将筑牢网络安全防线、守护良好信息生态作为核心工作之一 [4] - 公司呼吁广大用户自觉遵守社区公约,积极举报违规线索,共同建设积极健康的网络内容秩序 [4]
B站:从严拦截处置涉“AI魔改”问题的违规稿件700余条
新浪财经· 2026-01-08 23:54
公司治理行动 - 哔哩哔哩根据国家广播电视总局和上海市广播电视局要求,集中开展“AI魔改”视频专项治理,旨在整治传播乱象并构建和谐社区氛围 [1] - 公司自1月1日起加大巡查审核力度,从严拦截处置涉“AI魔改”问题的违规稿件700余条 [1] - 公司鼓励运用生成式人工智能技术创制兼具趣味性与情感共鸣的正向优质内容,以促进网络视听行业高质量发展 [1] 违规行为分类 - 第一类违规行为:严重违背原作精神内核和角色形象,颠覆基本认知,解构普遍共识 [1] - 第二类违规行为:渲染血腥暴力、猎奇低俗,宣扬错误价值观,违背公序良俗 [3] - 第三类违规行为:存在对中华文化挪用、篡改的突出问题 [6] - 第四类违规行为:改编生成的各类邪典动画问题 [9] 社区共建倡议 - 公司呼吁用户共同守护社区氛围,欢迎通过在线客服或发送邮箱积极举报站内违法违规信息 [11] - 治理行动的目标是协力共建更加安全、有序、优质的网络视听环境 [11]
百度:围绕AI“魔改”经典IP等场景,累计巡查清理违规视频284条
新浪财经· 2026-01-08 23:54
专项治理行动背景与公司响应 - 国家广播电视总局自2026年1月1日起,在全国范围内开展为期一个月的“AI魔改”视频专项治理 [1] - 公司积极响应专项治理工作,落实平台主体责任,强化内容审核把关,完善技术识别与人工审核协同机制 [1] 公司采取的具体治理措施 - 精准打击重点领域违规AI内容,构建图像视频与文本协同识别能力,重点识别军警制服、敏感人物及经典IP形象等核心要素 [1] - 专项建设涉政防控大模型,优化语义识别、意图预判能力,强化对恶意“魔改”权威叙事、经典作品及敏感题材的前置识别与拦截 [1] - 强化AI内容源头识别与标识,重点识别AI生成及恶意“魔改”内容特征,精准标记AI生成内容以提升可追溯、可监管能力 [1] 治理行动取得的阶段性成果 - 平台累计巡查清理违规视频284条,关闭账号2个 [2] - 典型违规案例包括:对军人形象进行不当、低俗化演绎;对《西游记》经典人物形象进行不当改编;对关羽等经典历史人物进行不当改编 [3] 公司未来治理承诺 - 公司将持续做好“AI魔改”视频的治理工作,为青少年健康成长营造良好网络空间 [4]
多平台公布涉“AI魔改”违规视频处置结果
经济观察网· 2026-01-08 23:24
监管行动概述 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的“AI魔改”视频专项治理行动 [1] 主要平台治理数据汇总 - 微信处置违规短视频内容1078条 [1] - 抖音平台累计处置涉“AI魔改”违规视频1075条 [1] - 快手平台已处置违规内容1057条 [1] - 哔哩哔哩平台拦截处置违规稿件700余条 [1] - 小红书平台累计清理处置违规内容487条并处置违规账号21个 [1] - 百度平台累计巡查清理违规视频284条并关闭账号2个 [1] - 微博平台拦截并清理违规视频190余条并对7个违规账号予以阶段性禁言直至永久禁言处置 [1]
微信公告:“AI魔改”视频专项治理行动以来,共处置违规短视频内容1078条
新浪财经· 2026-01-08 20:49
监管动态与平台治理行动 - 国家广播电视总局部署要求治理滥用AI工具对经典影视剧、动画片等内容进行颠覆性篡改、"魔性"解构与低俗化改编的问题 [1] - 平台自2026年1月1日起开展为期一个月的"AI魔改"视频专项治理行动,以维护网络信息内容传播良好秩序 [1] 平台处置措施与结果 - 平台对违规发布不良导向"AI魔改"视频的账号和内容进行处置 [1] - 专项治理行动启动以来,共处置违规短视频内容1078条 [1] 行业影响与未来方向 - 平台将持续落实专项治理行动要求,提升治理能力,对违规内容和账号进行从严处置 [1] - 平台呼吁创作者加强自律,共同守护清朗网络生态 [1]
治理“AI魔改”需明确创新边界
新浪财经· 2026-01-07 02:32
监管动态与治理范围 - 国家广播电视总局部署为期一个月的“AI魔改”视频专项治理 [1] - 重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [1] - 治理范围包括颠覆基本认知、消解主流价值、猎奇低俗、违背公序良俗的作品 [1] 行业现状与潜在危害 - 网络空间存在大量AI生成的视频内容,其中不少能吸引流量,一些博主以此“赚快钱” [1] - 部分创作者将经典作品和角色作为“AI魔改”对象,炮制如“林黛玉倒拔垂杨柳”、“土味诸葛亮舌战群儒”等荒诞桥段,甚至对革命英雄人物形象进行夸张变形或歪曲演绎 [1] - 此类行为可能扭曲网络空间价值导向,冲击文化认同,并对处于世界观、人生观、价值观形成关键期的未成年人造成不可忽视的负面影响 [1] 创新边界与正向应用 - 治理“AI魔改”并非否定创新,而是要明确创新边界,厘清继承传统文化与创新表达方式之间的关系 [1] - 行业存在正向应用案例:例如运用AI技术以更生动方式呈现博物馆藏品,让文物“开口说话”,激发公众尤其是年轻人对历史文化的兴趣 [1] - 一些平台利用AI生成“数智人”,让孔子、孟子、李白等古代著名哲人与文人在数字空间中“复活”,“亲口”讲述自己的思想与作品,营造身临其境的体验,这是对经典的合理再创作与值得推广的创新路径 [1] 版权与法律问题 - 治理涉及AI生成内容的版权合法使用问题,一些AI视频创作者法治意识淡薄、版权观念缺失 [1] - 用于生成AI视频的图片、影视剧素材若未取得合法授权,则可能构成侵权,且此类侵权不因标注“内容由AI辅助生成”而免责 [1] - 亟须从法律层面完善相关制度,对AI视频的版权归属与使用作出更细化规定,设定清晰合理的标准与边界,引导AI视频的生成与传播更加合理规范 [1] 行业责任与监管方向 - AI视频技术本身无善恶,关键在于使用者的价值取向与责任意识,技术背后必须有稳固的文化内核与坚定的精神立场作为支撑 [1] - 视频平台应切实履行内容审核责任,扮演好把关者角色 [1] - 监管部门需要压实管理职责,及时清理违规“AI魔改”账号,扭转不良态势,并鼓励优质AI视频创作,以营造更加清朗的网络文化空间 [1]
起底AI魔改灰色产业链:1分钱撬动日入千元暴利
36氪· 2026-01-06 15:21
面对生成式人工智能不断降低的滥用门槛,如何为技术划定合规边界、构建健康的内容治理生态、明确平台的主体责任,已成为当前难以回避的紧迫课 题。 短视频平台上,一场由AI技术滥用的"猎奇"盛宴正引发广泛忧虑。 《科创板日报》记者观察到,近期利用AI技术换脸、篡改台词以恶搞经典影视及历史人物的视频内容在网络上大量传播。这类内容已催生出一条从售卖 低价制作教程到流量变现的灰色产业链,极低的参与门槛正吸引着大量逐利者涌入。 此类视频的广泛传播与泛滥,不仅存在明显的著作权等侵权风险,更因其对历史与经典叙事的肆意歪曲,对正处于价值观形成关键期的青少年群体构成潜 在的认知误导,引发公众广泛的担忧与讨论。 1分钱入手"AI魔改"教程,日赚近千元 哪吒扛起机关枪扫射、唐僧对妖精点头哈腰、诸葛亮用流利英文"舌战群儒"......这些充斥着离奇与搞怪,甚至荒诞设定的片段,凭借其日益逼真的流畅画 面,在短视频平台上动辄收获数百万次播放,其以假乱真的程度,引起不少网友的关注和讨论。 AI魔改明成祖朱棣唱披头士英文名曲 此类内容的集中涌现,正随着生成式人工智能工具的普及而愈演愈烈。不少经典影视、历史故事,都成为被"魔改"的对象。其制作方式往 ...
“唐僧买保险,刘备卖假鞋”?“AI魔改”该管管了
新浪财经· 2026-01-06 02:44
文章核心观点 - 国家广播电视总局启动为期一个月的专项治理行动,重点打击基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频内容 [1] - “AI魔改”视频利用生成式人工智能工具,在保留经典影视人物形象的前提下完全颠覆和解构原有剧情,将经典低俗恶搞,可能侵蚀文化根基并对年轻一代产生误导 [1] - 专项治理行动旨在及时纠偏,清理低俗恶搞内容,其意义不仅在于保护版权,更在于守护民族的精神基因 [2] 行业现状与问题 - “AI魔改”视频在网络上快速蔓延,其内容将经典作品的厚重感稀释为娱乐碎片,让英雄豪杰沦为快餐式笑料 [1] - 一些商家将AI恶搞教程打包售卖,宣称“两小时学会”、“轻松赚上千元”,背后是商业利益对文化价值的碾压 [2] - 平台算法推波助澜,优先推荐具有“高反差感”的内容,助推形成“劣币驱逐良币”的恶性循环,挤压了传承经典、致敬先烈的原创内容的生存空间 [2] - 观众在碎片化、无营养的信息轰炸中,逐渐丧失对深度叙事的耐心,导致互联网创作生态越发速食化和肤浅化 [2] 治理与监管方向 - 国家广播电视总局在全国范围内启动了专项治理行动,显示出监管机构对此类乱象的重视和干预 [1] - 遏制“AI魔改”需要继续完善AI生成内容的标识系统 [2] - 平台需要扛起主体责任,强化审核机制,以切断低俗内容的传播链 [2] - 需要引导创作者敬畏历史,将技术用于创新而非亵渎,通过技术向善、平台尽责、创作者自律来共同应对数字时代的文化挑战 [2]
国家广播电视总局开展专项行动
科技日报· 2026-01-05 14:06
监管动态 - 国家广播电视总局自2026年1月1日起在全国范围内开展为期一个月的专项治理以整治“AI魔改”视频传播乱象 [1] - 专项治理重点清理基于四大名著、历史题材、革命题材、英模人物等电视剧作品进行“AI魔改”的视频 [1] - 治理同步清理将少年儿童所熟知、喜爱的动画形象进行改编生成的各类邪典动画 [1] 治理内容与标准 - 重点清理严重违背原作精神内核和角色形象颠覆基本认知解构普遍共识的视频 [1] - 重点清理内容渲染血腥暴力猎奇低俗宣扬错误价值观违背公序良俗的视频 [1] - 重点清理存在对中华文化挪用篡改的突出问题导致对真实历史时空中华文明标识产生明显错位认知冲击文化认同的视频 [1] 行业责任与平台举措 - 本次专项治理要求网络视听平台落实主体责任强化内容审核把关坚决清理违规内容处置乱象突出的账号 [3] - 短视频平台应切实承担起把关责任对于涉及侵权甚至包含暴力低俗恶搞等元素的不良内容进行限流下架或封号处理 [2] - 平台可以从内容审核机制入手如开发专门的算法模型来识别“AI魔改”的视频特征对于疑似视频标记后转由人工审核团队进一步检查 [3] - 平台可以建立完善用户举报渠道鼓励用户对“AI魔改”侵权或不良内容视频进行举报 [3] 法律风险与侵权界定 - 截取经典影视作品片段并通过AI技术进行修改侵权风险极高因为直接使用影视片段属于复制行为未经权利人许可即构成侵权 [2] - 利用AI对影视作品进行修改属于改编行为未经授权会侵犯改编权 [2] - 对演员的形象或表演内容进行修改可能进一步侵犯表演者权或肖像权从而加重侵权风险 [2] 后续安排 - 本次专项治理结束后将认真总结进一步研究制定综合治理举措健全工作机制保持治理的常态化长效化 [3]