核心观点 - 巨量引擎发布《2025巨量引擎商业信任与安全治理报告》，系统阐述了在AIGC技术变革广告产业并催生新风险的背景下，公司以“AI治理AI”理念构建全链路风控体系的实践路径，旨在实现用户体验与商业效率的双重提升，并为行业提供可借鉴的治理参考 [1] 治理策略与技术实践 - 公司提出“以AI治理AI”的系统性实践，依托自研多模态大模型构建智能风控体系，以精准识别深度伪造、AI智能体作弊等新型风险，其单日处置黑产账户峰值已突破20万个 [3] - 2025年全年，平台前置拦截违规素材超百亿条，关停风险账户超400万个 [1] - 治理范围向“点击后”延伸，“隐私号”服务已拓展至医疗、教育等行业，在保障用户隐私安全的同时，助力合规商家转化率提升8.89% [3] 用户体验与精细化运营 - 公司在广告领域首创消费者抱怨指数体系，通过量化分析用户“静默抱怨”并精准归因，推动治理模式向精细化运营转型 [3] - 2025年，平台内容CCR同比下降56.2%，履约CCR下降67.1%，用户广告体验得到显著改善 [3] - 2025年平台广告客诉用户满意度同比提升11% [5] 赋能商家与合规支持 - 公司完成从“治理者”到“赋能者”的角色升级，推出智能合规支持体系，包括发布颗粒度精细的AI审核指引、上线AIGC一键修复工具，以及通过“规则中心”运营和“以考代罚”等机制构建商家陪伴式成长体系 [5] - 2025年规则中心页面浏览量环比增长194%，合规培训覆盖超300万人次，有效降低了商家合规门槛 [5] 特殊群体权益保护 - 公司重点强化对“一老一少”数字弱势群体的权益守护，推出专项保障计划，通过简化举证流程、提供图文指引、设立快速通道等举措提供便利 [5] - 2025年全年累计为超5800名老年与未成年用户解决相关问题，问题解决率达91% [5] 行业协同与社会责任 - 公司积极推动自身治理实践转化为行业公共资产，其“基于CCR的广告体验治理体系”获评中国广告协会年度优秀案例，并入选北京市市场监管局数字广告高质量发展创新案例 [7][8] - 公司深度参与AI广告内容标识、审核技术等行业标准制定，为行业规范化发展注入动力 [8] - 公司履行社会责任，联合制作反诈微电影，深入北京全市92所高校开展宣传，并联合员工公益在云南山区举办“AI+反诈”公益课堂 [8] - 2025年，平台协助警方打击利用广告实施的违法犯罪案件18起，抓获犯罪嫌疑人104名，以技术力量守护群众财产安全 [8] 未来方向 - 公司表示将持续深耕AI风控技术迭代，坚守合规底线与用户信任，联动各方共建行业健康生态 [9]

文章核心观点 - 数字人产业在多模态AI、大模型与AIGC技术驱动下，正从“展示型”向“功能执行型”跨越，实现规模化落地并形成千亿级产业生态 [1][4] - 技术低门槛导致数字人被滥用于传播虚假信息、进行身份伪造和欺诈，引发系统性信任危机，成为行业顽疾 [1][5] - 监管部门采取“以AI治AI”策略，通过法律、技术、平台三方构建溯源防线，首次将数字人主播纳入监管，以应对技术滥用乱象 [1][6] 技术驱动与产业增长 - 多模态AI、大模型与AIGC技术深度融合，推动数字人从“静态展示”向“动态服务”转型，具备实时交互、逻辑推理与情感识别能力 [1][4] - 技术突破大幅降低内容生成成本，使数字人可应用于24小时直播带货、政务助手、医疗顾问等多种场景 [4] - 某美妆品牌通过定制数字人主播实现日均销售额突破50万元，转化率较真人主播提升18% [4] - 技术普及带动从建模、驱动到运营的产业链完善，形成千亿级产业生态 [4] 技术滥用与行业风险 - 数字人技术低门槛使其成为传播虚假信息的“完美工具”，例如伪造“老专家”形象虚假宣传保健食品，涉案金额超2000万元 [5] - 犯罪团伙利用换脸技术伪造“明星带货”场景，诱导购买三无产品，单案涉案金额破亿元 [5] - 主要风险包括身份伪造（AI可生成以假乱真的虚拟形象）以及大模型被恶意提示词诱导生成违规内容 [5] - 技术漏洞导致安全事件，如攻击者通过输入特定关键词控制AI数字人主播上架0元商品，造成商家重大损失 [5] - 滥用行为模糊真实与虚拟边界，引发社会对技术的系统性信任危机 [5] 监管措施与解决方案 - 市场监管总局与国家网信办联合印发《直播电商监督管理办法》，首次将数字人主播纳入政策监管 [1] - 新规明确要求AI生成内容需进行显著标识并持续提示消费者，要求平台对运营者及服务机构进行资质核验并建立动态管控机制 [1][6] - 监管提出“以AI治AI”方案，从法律、技术、平台三方面构建溯源防线 [6] - 技术层面推动应用AI检测工具与区块链溯源，例如腾讯云“数字人溯源系统”可提取虚拟形象特征生成数字指纹，将违规内容溯源时间从72小时缩短至2小时 [6] - 平台层面建立审核与惩戒机制，如快手电商通过信用评价体系采取限流、暂停直播等措施并要求缴纳保证金；抖音平台自2024年下半年处置17万个录播直播间，封禁3万个账号，清退11家违规机构 [6]