事件概述 - 消费者反映购买的《人像摄影口袋书》中图片存在AI生成特征，包括模特面部模糊、光影逻辑混乱、违反生理常识的“六根手指”、“六根脚趾”及肢体扭曲等现象 [3] - 出版方回应称，作者交稿时未说明图片使用AI生成，出版社在审核环节未能及时发现，将为消费者提供无条件退款服务 [3] - 另一本于2023年出版的“奇幻人文艺术图鉴”绘本，描绘了240多种并不存在的“奇幻物种”，其在中国国家版本馆的登记信息中注明了“利用AI绘画工具辅助创作”，但电商平台商品详情页和书籍封面未作提示 [5] 行业监管与法规 - 《人工智能生成合成内容标识办法》已于2023年9月1日正式施行，明确规定AI生成内容必须添加显著标识 [5] - 法规要求相关企业必须对AI生成的图片采用显性和隐性两种标识方法 [8] - 显性标识为印在封面或图片旁、读者肉眼可见的文字提示 [9] - 隐性标识为植入在图片数据内部、只有通过技术手段才能检测到的“数字水印” [9] - 目前仍存在通过技术手段消除显性标识，以及创作者使用境外AI平台绕过隐性标识的可能性，这要求出版社在审核方面投入更多精力 [9] 法律与责任分析 - 若出版物中大量使用AI内容却未明确标识，对消费者构成欺骗，或使其感到出版物并非物有所值，因为消费者希望购买人类作者创作的作品 [7] - 从《中华人民共和国消费者权益保护法》角度，消费者应享有知情权 [8] - 内容的第一责任人是作者，在传统图书领域，出版社和编辑应把好关，不能将明显非人创作的作品不加识别地出版且不告知读者 [8] - 如果图书存在大规模使用AI生成内容且未告知的情况，消费者可依据《消费者权益保护法》向出版社主张赔偿 [8] - 若大规模使用AI生成内容涉嫌欺诈，消费者可以要求“退一赔三”，如遭拒可向法院起诉或要求消保委介入 [8] 行业影响与挑战 - 相较于网络平台，实体出版物在技术鉴别和监管上存在客观难度，但这不能成为免责的理由 [7] - 相较于奇幻内容绘本，传授专业技能、强调纪实与光影准确性的知识类书籍，应对AI内容的选用更为慎重 [7] - 出版社作为出版发行的第一责任人，理应严把质量关，并运用技术手段对图片进行检查 [8] - 对于覆膜包装的书籍，应在封面、封底等读者可明显感知的醒目位置告知本书含有人工智能相关的图片内容，不能使用很小的字体 [9] - 当“AI提示词生成”取代“潜心创作”，且出版社编辑无法分辨这些内容时，出版业的核心价值将受到冲击 [9]

政策实施与行业成效 - 2025年9月1日《人工智能生成合成内容标识办法》正式施行，要求AI生成内容必须添加显式与隐式标识，标志着行业进入“持证上岗”的规范化时代 [1][3] - 政策落地后，各大网络平台已构建各具特色的AI标识实施机制，例如抖音、今日头条、快手在发布界面增设“AI生成内容声明”选项，喜马拉雅采用“片头提示+文字标注”等形式 [4] - 截至2025年6月，中国生成式人工智能用户规模达5.15亿人，较2024年12月增长2.66亿人，用户规模在半年内实现翻番 [3] - 标识政策实施后，用户对未知来源内容的“质疑意识”提升了近40%，且隐式标识使一起跨境AI虚假新闻的追责周期从平均72小时缩短至12小时 [7] - 行业专家认为，AI标识政策的实施破解了AI内容“难识别、难追溯”的行业痛点，推动了从平台合规到用户认知、从技术研发到行业自律的积极态势 [7] 执行挑战与黑灰产乱象 - 新规落地百日，记者调查发现短视频、图文笔记、直播间仍存在大量AI内容未亮明身份，且部分违规行为转向暗箱操作，深度伪造技术与黑灰产结合愈发紧密 [1] - AI伪造已从“一眼假”升级至高拟真段位，并滋生分工明确、收益可观的完整黑灰产链条，例如出现“AI伪造烂水果骗取‘仅退款’”、“一位明星穿梭8个直播间来回带货”等乱象 [8] - 电商及社交平台上存在“明码标价”的规避标识黑灰产生意，提供从几十元基础工具到上千元定制服务的“AI去水印”、“无痕除标识”技术与服务，且持续迭代升级以绕过平台检测 [9] - 一款被宣传为“万物皆可去水印”的工具声称能无痕去除98%的AI生成痕迹，尤其擅长处理AI视频 [9] - 部分违规者利用不同平台标识规则与技术差异进行跨平台“零成本”规避监管，例如在A平台被要求标注的内容经格式转换后在B平台发布可能绕过检测 [9][10] - 记者实测显示，将AI生成图片的标识裁掉后发布至社交平台，并未被检测出AI元素 [10] - “反标识”技术已升级为“多元技术路线与商业模式并行”的完整产业链，催生元数据“深度清零”、格式多轮转码、标识“露而不显”等升级版仿造乱象 [10] 现存问题与监管短板 - 尽管主流AI服务已普遍添加显式标识且溯源能力增强，但处罚标准模糊、技术检测不足制约了政策成效的进一步释放 [10] - 《人工智能生成合成内容标识办法》第十三条仅规定“依据现有法规处理”，缺乏针对未标识、恶意篡改标识等行为的具体罚则 [10] - 部分平台缺乏隐式标识核验工具，难以有效识别违规内容 [10] 专家建议与治理方向 - 专家呼吁需在“标识可见”基础上，筑牢“可识别、可追溯、可问责”的纵深防线，从技术创新、责任划分、协同治理多维度发力 [11] - 应加快推进AI标识技术的标准化，细化不同平台及不同类型内容的标识技术规范，避免因技术差异导致监管漏洞 [11] - 需强化隐式标识的抗篡改技术升级，确保标识信息在文件格式转换、二次编辑后仍能有效识别，并整合不同AI工具的生成痕迹以提升识别精准度 [11] - 应进一步细化《办法》中的主体责任，明确生成合成内容服务提供者、传播平台、分发平台等不同主体的具体义务 [11] - 建议强化对黑灰产的处罚力度，对恶意删除标识、伪造标识、提供规避标识工具、批量篡改标识等行为从重处罚，并探索建立违规主体“黑名单”制度 [11] - 需完善举报与监督机制，鼓励公众参与治理，建立健全跨平台投诉举报联动机制，实现违规账号信息共享，避免违规主体“换平台重来” [12] - 需持续强化公众AI素养科普，普及AI内容标识识别方法、常见造假手段及维权路径，引导公众养成“看标识、辨真伪”的使用习惯 [13]

事件概述 - 12月19日，一张显示“阿里千问全员会”的图片在网络流传，图中疑似员工手举豆包并配有“干死豆包”标语，涉及阿里巴巴“千问”与字节跳动“豆包”两款AI应用的竞争关系，引发热议 [1][3] - 阿里千问官方迅速辟谣，确认图片为AI生成，并指出图片存在工牌、LOGO设计错误以及人群行为模式不符合逻辑等多处细节错误 [3] - 官方在辟谣后，转而宣传其千问App的生图功能，发布了多张AI生成的梗图 [3] AI伪造图片的现状与风险 - 此次事件并非孤例，AI伪造图片凭借高度逼真的视觉质感在社交平台快速传播，已引发多起不良社会影响 [6] - 具体案例包括：西藏地震后“小男孩被埋废墟”图片、广东强对流天气“冰雹比鸡蛋大、砸垮房屋”画面、广州流浪汉入侵民居虚假图片、小鹏汽车车展低俗车模虚假配图，以及伊朗宣称击落以色列“F-35”战机的虚假残骸照片 [6] - 这些虚假内容轻易误导公众认知、煽动社会情绪，其渗透范围已覆盖多个领域，对社会信任体系和公共秩序构成潜在威胁 [6] 行业监管与政策动向 - 针对AI伪造内容乱象，国家已部署开展治理工作，2024年及2025年的“清朗”系列专项行动均将规范生成合成内容标识、打击AI技术滥用作为整治重点 [7] - 2024年9月1日，《人工智能生成合成内容标识办法》正式施行，要求所有AI生成的文字、图片、视频等内容必须添加显式和隐式两种标识以“亮明身份” [7] - 法规对传播平台也提出明确要求，规定提供网络信息内容传播服务的服务提供者需核验文件元数据中的隐式标识 [7] 治理挑战与未来方向 - 尽管立法已明确要求对AI生成内容进行标识，但AI伪造图片等虚假内容仍在网络“横行”，治理面临挑战 [8] - 中央网信办文章指出，需加强网信领域新技术研发应用，做好人工智能生成合成内容标识工作，加快技术治网能力建设，提升人工智能安全治理水平 [8] - 专家及研究报告建议，应从源头治理、溯源机制、惩治力度、科普宣传等多角度入手，推动形成多方联动的“多元共治”格局，以化解AI虚假内容治理痛点 [9] - 南都大数据研究院发布的《AI新治向：生成式人工智能内容与传播风险观察》报告，揭示了生成式AI伴生的多类风险，并解析了AI虚假内容的传播链和成因，提出了治理建议 [9]

报告核心观点 - 南都数字经济治理研究中心发布《生成式AI落地应用：透明度测评与案例分析报告（2025）》，对15款国产大模型进行透明度测评，发现行业在训练数据来源、用户赋权等方面仍有明显提升空间，呼吁持续增强大模型服务透明度[1][2] 测评概况与整体发现 - 测评选取DeepSeek、腾讯元宝、豆包、千问等15款知名国产大模型，重点关注数据来源及处理、知识产权保护、内容安全、交互设计四大维度，共10个具体测评项，满分为50分[3] - 测评发现，15款大模型在AI生成内容标识、生成内容的参考来源或出处方面做得较好，但在模型训练数据来源、用户赋权等领域还有明显提升空间[2] - 与2024年测评结果相比，2025年各家大模型在协议层面的规定更加明确和详细，AI生成内容添加显著标识已成为各家标配，行业均分高出1分，涨幅较为明显[9][10] 训练数据来源透明度 - 在15款被测大模型中，仅有DeepSeek明确提及训练数据的大致来源，其他大模型在此方面仍相当不透明[1][3] - DeepSeek披露其模型预训练阶段主要使用两大类数据：互联网上公开可用的信息，以及公司与第三方合作获取的信息[3] - 对比国外，Anthropic也会披露从第三方来源获取个人数据训练Claude，但和DeepSeek一样均未披露训练数据时间范围、第三方合作具体情况、是否包含受版权保护内容、涉及哪些个人信息或敏感数据及其处理措施等更多信息[4] 用户数据控制与选择权 - 绝大多数AI大模型应用要求用户授予一项免费使用权，以在法律允许范围内将用户输入输出内容和反馈用于模型训练与优化[5] - 15款大模型都在隐私政策中提到用户可更改个人信息授权范围或注销账号，但同时强调撤回同意不影响此前基于授权已开展的个人信息处理[5] - 有5款大模型应用（可灵AI、智谱清言、百小应、千问、豆包）提及，如果用户不希望输入内容用于模型优化，可发送邮件到指定邮箱通知平台撤销授权，但有大模型应用指出，因训练数据通常已被嵌入模型参数，技术上无法真正“擦除”[5] - 千问和豆包两款大模型还允许用户撤回声纹信息，用户可通过关闭账号设置里的“改进语音服务”来撤回授权[5] - 腾讯元宝、DeepSeek表现更优，在产品内提供具体的“退出”开关，用户可通过关闭“数据用于优化体验”来选择退出，关闭后用户的输入和输出内容不会再用于模型训练[1][6] - 在海外，谷歌旗下Gemini允许用户选择是否开启活动记录，关闭后对话不会显示在活动记录中，也不会被用于训练AI模型，甚至允许用户调整“自动删除”数据的期限（3个月或36个月）[7] - OpenAI推出了“隐私门户”，用户可在账户设置中行使多项隐私权和选择权，包括更正或更新个人信息、访问信息、删除单个或所有对话、删除账户、反对使用用户内容帮助训练模型等[7] - 报告认为，赋予用户更多选择权是一种友好设计表现，但目前国产大模型在此方面进展相对缓慢，建议强化用户赋权并借鉴国外优秀设计[8] 内容标识与来源追溯 - 所有被测大模型应用都增加了对AI生成标识的说明，主动告知模型局限性，强调不保证AI生成内容的真实性和准确性，仅供用户参考[9] - 除两款视频生成应用外，其余13款大模型在内容生成页面以易于理解的方式披露了参考来源，今年披露得比去年更规范和详细，堪称“图文并茂”[11] 交互设计与特殊群体保护 - 针对未成年人特殊群体，一些国产大模型推出了专门设计，例如专注AI陪伴的智能体应用星野在App端特设了未成年人模式，开启后每日22点至次日6点将无法使用App，且相关功能将关闭[12] - 为避免用户过度使用聊天机器人，OpenAI推出了聊天休息提醒功能，当用户进行长时间对话时，ChatGPT会弹出提示询问是否需要休息[13] - 但国产大模型在核心的问答交互服务中，普遍没有像ChatGPT那样主动提供“长时间使用休息提示”功能[13] 行业建议与未来方向 - 报告呼吁持续增强大模型服务的透明度，这对确保技术公平性、避免偏见以及满足法律合规要求至关重要[2] - 建议服务提供者应通过负责任的、阶段性的披露来保证其服务的透明度，并承担部分教育、解释责任，例如建立线上平台促进公众与专家交流，解答关于生成式AI的疑问，提升参与者的理解和认知深度[13]

AI技术滥用冲击电商售后 - 消费者利用AI生成虚假商品瑕疵图片（如烧焦的毛绒玩具、击穿的宠物碗、腐烂的水果）申请“仅退款”或部分退款，对商家构成新型欺诈风险[1][2][7][9] - 此类行为在生鲜、服装、日用品等多个品类中均有出现，生鲜类商品因易变质、难举证的特点成为重灾区[9] - 有商家指出，平台在处理小额退款申请时审核机制存在漏洞，“只要消费者提供图片，金额较低的，几乎都会自动通过”[20] AI造假技术特征与识别难度 - AI生成图片技术快速迭代，目前主流AI应用可轻松进行“AI修图”，输入“烧焦”、“开裂”等提示词，不足10秒即可生成效果逼真的破损图片[11] - 专业测试显示，在73人参与的识别问卷中，AI假图的整体识别正确率为71.23%，但个别图片（如一件脏污羽绒服）成功骗过近半受访者，32人判断为真，28人判断为AI[11][12] - AI图片存在共性特征，如瑕疵边缘模糊、光影逻辑混乱、破坏痕迹过于平均，而人为破坏通常具有局部性和不平均的特点[18] - 测试同时发现，AI技术加剧了用户对真实图片的不信任，5张真实图片中仅有53.42%被正确判断为真，35.62%被错误判定为AI生成[14][15] 电商平台应对措施 - 京东已针对生鲜商品构建多模态AI假图识别能力，处于试运行阶段，预计年底正式上线，可识别拦截虚假凭证[20] - 抖音电商已建立相关AIGC识别能力并在测试运行中，正式上线后将实现对利用AI假图进行恶意售后行为的拦截[21] - 拼多多表示将加强售后技术支持，淘宝（天猫）称其风控系统会核实凭证真实性[20][21] - 各平台正逐步优化“仅退款”服务规则，限制平台介入判定“仅退款”的适用情形，扩大商家自主决定权[21] 行业影响与法律定性 - 利用AI伪造证据申请退款的行为被法律专家定性为民事欺诈，若骗取金额达到“数额较大”，可能涉嫌构成刑法中的诈骗罪[19] - 该行为被指扰乱市场秩序，导致商家货、款两空，并增加其核验证据和应对纠纷的成本，可能打击中小商家的经营积极性和创新能力[22][23]

政策背景与实施 - 国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》于9月1日起正式施行 要求AI生成的文字、图片、视频等内容必须进行标识 不得"隐身"传播 [1] - 多家互联网平台在政策实施后调整用户协议 强调对AI生成内容的合规管理 [1] - 政策回应了公众对信息真实性和透明度的关切 为人工智能产业健康发展划定必要"红线" [1] AI生成内容技术发展与风险 - AI生成内容（AIGC）技术发展突飞猛进 应用场景从新闻稿件到短视频 从智能客服到创意设计 日益丰富 [1] - 部分不法分子借助生成式技术制造虚假新闻 伪造图像视频 实施金融诈骗 侵犯隐私 [1] - 这类"隐身"传播损害公众利益 威胁社会信任体系 技术红利可能被滥用为信息污染甚至违法犯罪工具 [1] 政策意义与影响 - 维护信息真实性与公众知情权 用户知晓信息由AI生成后可保持必要警惕 避免被虚假内容误导 尤其在金融、医疗、法律等专业领域 透明标识降低错误信息风险 [2] - 促进产业规范与公平竞争 标识制度让"人"与"机"界限更清晰 有助于建立合理行业标准 保护原创与创新 [2] - 增强国家治理能力与国际话语权 AI内容标识是国内网络安全与治理需要 也是与国际数字规则接轨的重要环节 中国行动提升其在全球人工智能治理体系中的参与度与影响力 [2] 政策落实与保障机制 - 落实标识需要技术与制度双重保障 平台需建立完善溯源机制和自动识别工具 防止标识被随意篡改 [3] - 监管部门需加强执法检查 确保"有法必依" 公众需提升媒介素养 正确理解和使用AI生成内容 [3] - 政策应与产业发展形成良性互动 在"可控、透明"轨道上释放人工智能最大价值 [3] 政策定位与行业展望 - AI生成内容标识要求是关键制度创新 既是"防火墙"守护社会信任和公共安全 也是"护航者"为人工智能产业高质量发展提供稳定制度环境 [3] - 技术越强大越需要规则约束与伦理引领 AI"亮明身份"是建设清朗网络空间、推动科技造福社会的重要步骤 [3]

宇树科技IPO与业务布局 - 公司计划在2025年第四季度（10月至12月期间）向证券交易所提交IPO申请文件 [1] - 2024年产品销售额分布：四足机器人占65%、人形机器人占30%、组件产品占5% [1] - 四足机器人应用领域：80%用于研究、教育和消费领域，20%用于工业领域（如检查与消防） [1] - 人形机器人完全用于研究、教育和消费领域 [1] xAI商业机密诉讼事件 - 马斯克旗下xAI起诉一名离职员工，指控其窃取公司全部代码库 [2] - 该员工已于2024年7月28日辞职，并在离职前三天将xAI相关数据上传至个人系统 [2] - 涉案员工目前已跳槽至OpenAI [2] 商汤科技AI内容标识合规措施 - 公司于2025年9月2日宣布所有面向公众的生成合成服务（包括文本、图片、音频、视频、虚拟场景生成）均已添加显式与隐式标识 [3] - 该举措旨在落实《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等监管政策 [3] - 用户通过商汤平台生成的AI内容不得恶意删除、篡改、伪造或隐匿标识信息 [3]

学前教育政策 - 国务院办公厅明确从2025年秋季学期起免除公办幼儿园大班保育教育费 [2] - 政策覆盖所有幼儿园大班儿童 预计2023年秋季学期惠及约1200万人 [2] - 民办幼儿园适龄儿童参照同类型公办幼儿园标准减免保育教育费 [2] 电动自行车行业规范 - 《电动自行车安全技术规范》将于9月1日实施 强化非金属材料防火阻燃要求 [4] - 新标准规定塑料使用总质量不超过整车质量5.5% 完善电池组防篡改要求 [4] - 要求车辆具备北斗定位与动态安全监测功能 提升整体安全性能 [4] - 已购非标车不强制淘汰 各地可通过以旧换新政策加速更新换代 [6] 铁路客运政策 - 学生旅客每学年可享4次单程优惠票 优惠区间可根据居住地与学校位置调整 [7] - 动车组列车学生票适用范围扩大至二等座、一等座和卧铺各席别 [7] - 票价按执行票价7.5折计算 相关车票预计9月6日开始发售 [7][8][9] 人工智能内容监管 - 《人工智能生成合成内容标识办法》9月1日施行 要求AI生成内容必须标识 [10][12] - 新规针对AI合成的文字、图片、视频等内容 旨在防止虚假宣传 [12]

军工设施保护条例 - 重要军工设施保护条例将于2025年9月15日实施 涵盖7章51条内容 明确设施范围与各方责任 规范保护区划定 强化管理单位义务[2] - 条例旨在保障军工设施安全与使用效能 维护军工科研生产活动正常进行 加强国防现代化建设[2] 学前教育免费政策 - 2025年秋季学期起免除公办幼儿园大班保育教育费 民办幼儿园参照同级公办标准减免费用[3] - 政策覆盖幼儿园大班约1200万儿童 国务院推行免费学前教育计划[3] 铁路学生票优惠 - 学生每学年可享4次单程优惠票 优惠区间可根据家庭与学校所在地调整 动车组优惠扩大至二等座/一等座/卧铺[4] - 票价按执行价7.5折计算 新规于9月6日开始发售 12306系统正进行优化测试[4][5] 消费贷款贴息政策 - 2025年9月1日至2026年8月31日期间 个人消费贷款可享财政贴息 需通过贷款账户识别消费交易信息[8] - 单笔5万元以下消费全额贴息 5万元以上仅对5万元额度贴息 覆盖汽车/养老/教育/文旅/家居/电子/医疗等重点领域[8] 社保缴纳司法解释 - 最高人民法院明确"不缴社保"约定无效 新司法解释于9月1日实施[10] - 劳动者因单位未依法缴社保解除劳动合同 可获经济补偿 统一劳动争议法律适用标准[10] 住房租赁条例 - 住房租赁条例9月15日施行 明确出租住房标准 加强合同管理 规范租赁双方行为[12][13] - 条例突出保护承租人利益 解决实践中的突出问题[11] 电动自行车新国标 - 电动自行车安全技术强制国标9月1日实施 设8个月生产过渡期至8月31日[14] - 新标准实施后所有新车需符合要求 已购旧车可通过以旧换新政策更新 各地政府自主推进淘汰[14][17] 行政区划代码管理 - 行政区划代码管理办法9月1日实施 系首部部门规章 规范广泛应用的基础代码管理[16] - 代码用于身份证前六位及民生保障/社会治理/公共服务系统[16] AI内容标识规定 - 人工智能生成内容标识办法9月1日施行 要求对AI生成的文字/图片/视频添加显式与隐式标识[18] - 由国家网信办/工信部/公安部/广电总局联合制定 强制规范AI生成内容披露[18]