整治AI技术滥用专项行动进展 - 中央网信办将为期3个月的"清朗·整治AI技术滥用"专项行动划分为两个阶段：第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力；第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题 [1] - 微博清理传播教授AI换脸教程类内容162条，关闭账号22个，清理分享售卖违规AI产品类有害信息234条，关闭账号52个 [1] - 抖音清理AI生成的虚假信息、低俗内容等24749条，此前5月19日发起关于"AI起号"的专项治理行动，重点整治利用AI生成低俗猎奇视频、引导规避平台AI标注等行为 [1] 重点网站平台违规AI产品清理情况 - 上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理"一键脱衣"、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息 [2] - 各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个 [2] - 小红书、哔哩哔哩开通有害AI内容的举报受理处置渠道，MiniMax旗下AI陪伴产品星野开展智能体全面排查清理 [2] 训练语料治理与重点领域风险防控 - 百度对存量数据进行整体清洗，使用211个权威网站的正能量数据源，百川智能停止使用存在疑问的数据来源，制定严格的网络爬取规范 [2] - 针对"AI荐股"，智谱明确禁止生成具体股票推荐、基金购买建议，快手对医疗回答明确标注"不替代专业医疗建议" [2] - 猿力科技对未成年人提问进行分级审核，仅允许教育类内容生成，小米通过实名认证和年龄校验，限制未成年人使用AI生成暴力内容等敏感功能 [2] AI内容标识管理政策与落地情况 - 国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》将于今年9月1日起施行，为AI平台、社交内容平台、应用商店和用户四类主体分别设定了AI内容的标识义务 [3] - 北京市目前已有近60家企业落实标识要求，微博、抖音等平台实现生成内容"显著标识+元数据水印"双标注 [5] - MiniMax、阶跃星辰、通义、小红书、哔哩哔哩、Soul等上海属地企业已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证 [5] AIGC标识生态建设与技术方案 - 上海网信部门在5月中旬指导成立AIGC标识生态联盟，推进标识互认、能力共享与标准协同，小红书、MiniMax等是该联盟成员 [5] - MiniMax旗下所有产品至少采用一种显性标识方式，文字和音频内容在用户交互场景中加入显性提示标识，图片和视频内容将显性标识添加在画面当中 [5] - MiniMax验证完成在各类可下载和导出的文件中添加元数据隐性标识的技术方案，计划为AI生成的文字内容增加角标，在AI音频中嵌入摩斯码 [5]