文章核心观点 - 生成式人工智能的普及正在深刻重塑互联网广告行业，它在提升创意生产效率和投放精准度的同时，也带来了更具隐蔽性和迷惑性的新型违规风险，如深度伪造和虚假宣传，这促使行业治理模式从“人与规则”的对抗升级为“AI与AI”的博弈 [1] - 平台通过构建“全链路治理+以AI治AI”的体系，不仅高效防御违规内容，还通过赋能广告主和关怀特殊群体来提升用户体验和行业健康度，这标志着治理思路从“堵”到“疏”的成熟转变 [2][3][4] - 行业的可持续发展超越了单纯的技术与商业竞争，其基石在于构建“信任”，这要求平台在技术创新、规则完善、技术伦理与社会责任之间寻求动态平衡，并以“科技向善”为根本追求 [5][6][7] 行业趋势与挑战 - **AI技术的双重影响**：生成式AI大幅降低了广告创意生产成本并提升了投放精准度，但同时也为隐蔽植入、深度伪造、虚假宣传等违规行为提供了新的技术工具和隐蔽手段 [2] - **新型黑灰产威胁**：黑灰产组织正利用AI技术研发新型攻击手法，如批量创建模拟真实用户行为的恶意账号，使得“AI化”攻击与平台“AI化”防御之间形成激烈的数字攻防战 [2] - **市场规模与普及**：截至2025年6月，中国生成式人工智能用户规模达5.15亿人，普及率为36.5%，叠加全球算力基建投入，共同催生了全新的市场景观 [7] 平台治理实践与成果 - **全链路AI治理体系**：平台构建了覆盖内容审核、风险预警、召回处置全流程的AI治理体系，通过多模态识别、语义理解、异常行为监测及大数据分析等技术，实现对违规内容的高效识别与处置 [2][3] - **治理数据成果**：2025年全年累计前置拦截违规素材达百亿条，关停违规账户超过400万个 [2] - **用户体验显著改善**：通过量化用户负面反馈的广告CCR（消费者抱怨指数）体系显示，2025年平台的内容CCR同比下降56.2%，履约CCR同比下降67.1% [3] 治理理念的演进与赋能 - **从防御到赋能**：平台治理不仅注重风险防御，还通过优化违规广告修正指引、提供AIGC创意修复工具、搭建广告主合规成长体系来赋能商家，降低其违规风险与投放成本 [4] - **差异化人群关怀**：平台推出“一老一少”专项服务保障计划，通过简化举证流程、提供图文指引、设立快速通道，降低数字鸿沟带来的维权障碍 [3] - **思路根本转变**：治理理念从让“违规不易发生”转向让“优质内容的创作更加容易”，完成了从“堵”到“疏”的成熟升级 [4] 行业责任与生态建设 - **输出行业标准**：平台深度参与多项行业标准的制定工作，将自身实践经验转化为可参考、可推广的行业规范 [6] - **技术与社会动员结合**：通过开展线上线下反诈公益行动，结合技术能力输出与公众教育，推动形成更广泛的社会共识与防御网络 [6] - **角色定位转变**：平台企业正从商业运营者向生态建设者转变，其治理创新被嵌入社会责任体系与价值取向中 [6][7] 未来发展的核心基石 - **信任为核心**：平台将“信任”置于核心位置，认为“信任”是AI广告穿越周期的基石，这超越了单纯的技术或商业考量 [6] - **动态平衡机制**：面对持续演进的AI技术，行业需要在创新与规范、商业价值与社会责任之间，建立一种可持续可预期的动态平衡 [7] - **科技向善追求**：平台的任何治理创新都应以守护用户信任为底色，以科技向善为根本追求，唯有建立在信任基础上的创新才能获得恒久生命力 [7]

核心观点 - 巨量引擎发布《2025巨量引擎商业信任与安全治理报告》，系统阐述了在AIGC技术变革广告产业并催生新风险的背景下，公司以“AI治理AI”理念构建全链路风控体系的实践路径，旨在实现用户体验与商业效率的双重提升，并为行业提供可借鉴的治理参考 [1] 治理策略与技术实践 - 公司提出“以AI治理AI”的系统性实践，依托自研多模态大模型构建智能风控体系，以精准识别深度伪造、AI智能体作弊等新型风险，其单日处置黑产账户峰值已突破20万个 [3] - 2025年全年，平台前置拦截违规素材超百亿条，关停风险账户超400万个 [1] - 治理范围向“点击后”延伸，“隐私号”服务已拓展至医疗、教育等行业，在保障用户隐私安全的同时，助力合规商家转化率提升8.89% [3] 用户体验与精细化运营 - 公司在广告领域首创消费者抱怨指数体系，通过量化分析用户“静默抱怨”并精准归因，推动治理模式向精细化运营转型 [3] - 2025年，平台内容CCR同比下降56.2%，履约CCR下降67.1%，用户广告体验得到显著改善 [3] - 2025年平台广告客诉用户满意度同比提升11% [5] 赋能商家与合规支持 - 公司完成从“治理者”到“赋能者”的角色升级，推出智能合规支持体系，包括发布颗粒度精细的AI审核指引、上线AIGC一键修复工具，以及通过“规则中心”运营和“以考代罚”等机制构建商家陪伴式成长体系 [5] - 2025年规则中心页面浏览量环比增长194%，合规培训覆盖超300万人次，有效降低了商家合规门槛 [5] 特殊群体权益保护 - 公司重点强化对“一老一少”数字弱势群体的权益守护，推出专项保障计划，通过简化举证流程、提供图文指引、设立快速通道等举措提供便利 [5] - 2025年全年累计为超5800名老年与未成年用户解决相关问题，问题解决率达91% [5] 行业协同与社会责任 - 公司积极推动自身治理实践转化为行业公共资产，其“基于CCR的广告体验治理体系”获评中国广告协会年度优秀案例，并入选北京市市场监管局数字广告高质量发展创新案例 [7][8] - 公司深度参与AI广告内容标识、审核技术等行业标准制定，为行业规范化发展注入动力 [8] - 公司履行社会责任，联合制作反诈微电影，深入北京全市92所高校开展宣传，并联合员工公益在云南山区举办“AI+反诈”公益课堂 [8] - 2025年，平台协助警方打击利用广告实施的违法犯罪案件18起，抓获犯罪嫌疑人104名，以技术力量守护群众财产安全 [8] 未来方向 - 公司表示将持续深耕AI风控技术迭代，坚守合规底线与用户信任，联动各方共建行业健康生态 [9]

文章核心观点 - 数字人产业在多模态AI、大模型与AIGC技术驱动下，正从“展示型”向“功能执行型”跨越，实现规模化落地并形成千亿级产业生态 [1][4] - 技术低门槛导致数字人被滥用于传播虚假信息、进行身份伪造和欺诈，引发系统性信任危机，成为行业顽疾 [1][5] - 监管部门采取“以AI治AI”策略，通过法律、技术、平台三方构建溯源防线，首次将数字人主播纳入监管，以应对技术滥用乱象 [1][6] 技术驱动与产业增长 - 多模态AI、大模型与AIGC技术深度融合，推动数字人从“静态展示”向“动态服务”转型，具备实时交互、逻辑推理与情感识别能力 [1][4] - 技术突破大幅降低内容生成成本，使数字人可应用于24小时直播带货、政务助手、医疗顾问等多种场景 [4] - 某美妆品牌通过定制数字人主播实现日均销售额突破50万元，转化率较真人主播提升18% [4] - 技术普及带动从建模、驱动到运营的产业链完善，形成千亿级产业生态 [4] 技术滥用与行业风险 - 数字人技术低门槛使其成为传播虚假信息的“完美工具”，例如伪造“老专家”形象虚假宣传保健食品，涉案金额超2000万元 [5] - 犯罪团伙利用换脸技术伪造“明星带货”场景，诱导购买三无产品，单案涉案金额破亿元 [5] - 主要风险包括身份伪造（AI可生成以假乱真的虚拟形象）以及大模型被恶意提示词诱导生成违规内容 [5] - 技术漏洞导致安全事件，如攻击者通过输入特定关键词控制AI数字人主播上架0元商品，造成商家重大损失 [5] - 滥用行为模糊真实与虚拟边界，引发社会对技术的系统性信任危机 [5] 监管措施与解决方案 - 市场监管总局与国家网信办联合印发《直播电商监督管理办法》，首次将数字人主播纳入政策监管 [1] - 新规明确要求AI生成内容需进行显著标识并持续提示消费者，要求平台对运营者及服务机构进行资质核验并建立动态管控机制 [1][6] - 监管提出“以AI治AI”方案，从法律、技术、平台三方面构建溯源防线 [6] - 技术层面推动应用AI检测工具与区块链溯源，例如腾讯云“数字人溯源系统”可提取虚拟形象特征生成数字指纹，将违规内容溯源时间从72小时缩短至2小时 [6] - 平台层面建立审核与惩戒机制，如快手电商通过信用评价体系采取限流、暂停直播等措施并要求缴纳保证金；抖音平台自2024年下半年处置17万个录播直播间，封禁3万个账号，清退11家违规机构 [6]