人工智能生成内容标识新规 - 国家互联网信息办公室与工业和信息化部等部门于9月1日同步实施《人工智能生成合成内容标识办法》及配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》[2] - 新规要求所有人工智能生成合成内容必须添加显式和隐式标识 这是AI内容可信的基础和法律规范的前提[2] - 身份标识被定义为AI进入真实物理世界的"入场券" 有助于清晰界定AI模型服务提供者的责权边界[2] 生成式AI监管必要性 - 当前生成式AI提供的信息足以以假乱真 虚构信息和幻觉可能被误读为真实信息 严重干扰现有经济社会秩序[2] - 隐式标识有助于正确评估利用AI生成合成信息的欺瞒行为 使欺诈者承担相应法律代价[2] - 新规不仅规范AI以假乱真行为 更为AI深度融入真实物理世界开启制度性规范序曲[2] AI技术应用发展趋势 - AI Agent（智能体）兴起推动AI应用更快速融入日常生活 自动驾驶和人形机器人等技术已不可逆[3] - AI驱动的"可持续富足"将人类从繁琐工作中解放 实现增长无极限和创新无限制的发展前景[3] - AI对复杂技术和危险性劳动提供的解决方案 使人类对其产生高度依赖性[3] 全球人工智能治理体系 - 中国在上海合作组织会议上提出全球治理倡议 愿与各方共同建设人工智能应用合作中心[4] - 上海合作组织发布《关于进一步深化人工智能国际合作的声明》 推动AI向开放包容普惠公平向善方向发展[4] - 大国博弈重点转向构建AI与人类共享的向善制度框架 规则供给者将成为AI时代主导力量[4] 人工智能治理哲学 - 身份标识在法律层面建立主体与行为的对应性关系 实现责权关系清晰化[4] - 需要基于经济社会成本最小化原则 探寻AI行为边界和伦理边界 避免陷入丛林法则[4] - 身份标识正式开启AI时代善治之旅 向善的制度供给将成为根本竞争法则[5]

2025.09. 03 本文字数：1435，阅读时长大约2分钟 作者 | 一财评论员 9月1日由国家互联网信息办公室、工业和信息化部等部门发布的《人工智能生成合成内容标识办 法》，及其配套的强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同时实施，人工 智能（AI）生成合成的所有内容，都将添加显式和隐式标识。 标识是生成式AI内容可信的基础，有助于让人们清楚什么是信息，什么是想象。同时，标识有助于 从法律上规范信息背后的行为，真正做到权责对等，让AI更规范有序地融入真实物理世界。可以 说，身份标识是AI进入真实世界的"入场券"。 鉴于当前生成式AI提供的信息足以以假乱真，一旦这些虚构信息和幻觉被当成真实信息来解读，将 严重干扰现有经济社会秩序，因此，如何甄别信息与想象，就变得尤为重要。 而且，对AI生成合成内容添加身份标识，不仅是对AI以假乱真行为的规范，其更深层意义是，为AI 深度融入真实物理世界开启制度性规范序曲。 今年以来，AI Agent（智能体）的兴起推动AI应用更加快速地融入日常生活。未来AI将越来越多地 与人类在真实物理世界交融相处，人们必须基于法经济学原理，搭建起AI与人类的清晰法律 ...