监管动态与执法案例 - 监管部门首次公开点名并处罚了违反AI生成合成内容标识规定的企业 包括“剪映”、“猫箱”App及“即梦AI”网站 处罚措施包括约谈、责令改正、警告、从严处理责任人等 [3] - 此次执法标志着AI生成合成内容合规管理正从政策倡导加速走向严格落地的实操阶段 [3] 行业背景与技术影响 - 以生成式AI为代表的人工智能技术正以前所未有的速度渗透内容创作领域 涵盖文案生成、视频剪辑、图像与声音模拟等 [3] - 技术门槛降低极大地释放了生产力并激发了创意浪潮 [3] - 但技术也带来了严峻挑战 如虚假信息、深度伪造泛滥可能扰乱舆论、侵害个人权益 不加标识的AI创作可能冲击原创生态并引发版权纠纷 [4] - 当AI生成内容足以以假乱真 会模糊虚拟与现实、人工与智能的边界 可能动摇信息环境的“真实性”基础 进而侵蚀社会共识构建、公共讨论质量及信任机制 [4] 法规框架与合规要求 - 中国已构建系统的AI治理法规框架 包括《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》 均明确要求服务提供者对生成内容进行显著标识 [5] - 对AI生成合成内容进行显著标识 是维护信息秩序和保障用户知情权、选择权的关键一步 [5] - 此次查处表明 无论平台规模大小或用户多少 都必须严格履行法定义务 没有妥协余地 [5] 企业合规现状与挑战 - 部分网站平台在合规意识与行动上存在滞后 原因可能包括对规则理解不深、在商业利益与合规成本间取舍偏差或存在技术整合惰性 [6] - 企业必须将AI伦理与合规置于产品研发和运营的核心位置 严格落实AI生成合成内容标识相关规定 [6] 行业趋势与全球共识 - 对AI生成合成内容进行标识正成为全球共识和监管趋势 [5] - 标识的目的并非阻碍技术发展 而是为了在创新与规范之间取得平衡 为技术的长远健康发展铺设稳固轨道 [5] - 行业正从惊叹于AI“能做什么”的初级阶段 迈入审慎思考AI“应如何做”的规范发展新阶段 [6] 用户与社会影响 - 用户需要提升媒介素养 对所见内容保持审慎 并留意AI标识 这应成为数字时代的基本生存技能 [6] - 社会整体辨识能力的提升 会倒逼内容提供者更加审慎和负责 [6] - AI内容标识是关乎信息真实性、社会信任和科技向善的“大课题” [6]

近期网信部门工作中发现，"剪映""猫箱"App及"即梦AI"网站存在未有效落实人工智能生成合成内容标识规定要求等问题，违反《网络安全 法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办 公室，依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。 国家互联网信息办公室相关负责人表示，网站平台要严守法律底线红线，严格落实人工智能生成合成内容标识相关规定要求。网信部门将深 入推进依法管网治网，持续加大人工智能生成合成内容标识监督管理力度，切实维护社会公共利益，推动人工智能健康有序发展。 来源：新华社 责编：叶舒筠 校对： 刘榕枝 证券时报各平台所有原创内容，未经书面授权，任何单位及个人不得转载。我社保留追 究相关 行 为主体法律责任的权利。 转载与合作可联系证券时报小助理，微信ID：SecuritiesTimes ...

监管动态与执法案例 - 近期，网信部门依法查处了“剪映”App、“猫箱”App及“即梦AI”网站，因其存在未有效落实人工智能生成合成内容标识规定要求等问题 [1] - 上述平台的行为违反了《网络安全法》、《生成式人工智能服务管理暂行办法》、《人工智能生成合成内容标识办法》等法律规定 [1] - 国家互联网信息办公室指导属地网信办，对相关网站平台采取了约谈、责令改正、警告、从严处理责任人等处置处罚措施 [1] 监管要求与行业趋势 - 网信部门要求网站平台严守法律底线红线，严格落实人工智能生成合成内容标识的相关规定 [1] - 监管机构将持续加大对该领域的监督管理力度，以维护社会公共利益并推动人工智能健康有序发展 [1] - 此次行动表明，对生成式人工智能服务的内容标识合规性监管正在深入推进并趋严 [1]