核心观点 - 巨量引擎发布《2025巨量引擎商业信任与安全治理报告》，系统阐述了在AIGC技术推动产业变革与催生新风险的背景下，公司以“AI治理AI”理念构建全链路风控体系的实践路径，旨在提升用户体验与商业效率，并为行业提供参考 [1] 以AI治AI：风控体系与成效 - 面对黑灰产“AI工业化”升级，公司将“以AI治理AI”理念转化为系统性实践，依托自研多模态大模型构建智能风控体系，精准识别深度伪造、AI智能体作弊等新型风险，单日处置黑产账户峰值突破20万个 [3] - 2025年全年，平台前置拦截违规素材超百亿条，关停风险账户超400万个 [1] - 治理范围向“点击后”延伸，“隐私号”服务拓展至医疗、教育等行业，在保障用户隐私的同时，助力合规商家转化率提升8.89% [3] 用户体验量化与提升 - 公司在广告领域首创消费者抱怨指数体系，通过量化分析用户“静默抱怨”并精准归因，推动治理模式向精细化运营转型 [3] - 2025年，平台内容CCR同比下降56.2%，履约CCR同比下降67.1%，用户广告体验显著改善 [3] - 全年广告客诉用户满意度同比提升11% [5] 赋能商家合规经营 - 公司完成从“治理者”到“赋能者”的角色升级，推出智能合规支持体系，包括发布颗粒度精细的AI审核指引、上线AIGC一键修复工具、运营“规则中心”及推行“以考代罚”等人性化机制 [5] - 2025年，规则中心页面浏览量环比增长194%，合规培训覆盖超300万人次，有效降低商家合规门槛 [5] 守护弱势群体权益与社会责任 - 公司重点强化对“一老一少”数字弱势群体的权益守护，推出专项保障计划，通过简化流程、提供指引、设立快速通道等举措提供便利 [5] - 全年累计为超5800名老年与未成年用户解决相关问题，问题解决率达91% [5] - 公司联合制作反诈微电影，深入北京全市92所高校宣传，并走进云南山区举办“AI+反诈”公益课堂 [7] - 2025年，平台协助警方打击利用广告实施的违法犯罪案件18起，抓获犯罪嫌疑人104名 [7] 行业协同与生态共建 - 公司积极推动自身治理实践转化为行业公共资产，其“基于CCR的广告体验治理体系”获评中国广告协会年度优秀案例，并入选北京市市场监管局数字广告高质量发展创新案例 [7] - 公司深度参与AI广告内容标识、审核技术等行业标准制定，为行业规范化发展注入动力 [7] - 行业专家指出，公司的举措超越了单一企业的风控范畴，从基础合规应对转向综合生态共建，代表了生态型平台企业高质量发展的重要态势 [8]

网络谣言的挑战与特征 - 虚假信息在社交平台传播成为难题，例如网民为博取关注发布不实帖文并被行政拘留 [1] - AI技术降低谣言制造门槛，换脸等技术使谣言更具迷惑性，信息真实性扑朔迷离 [1] - 谣言利用社交平台转发、点赞、评论实现裂变传播，情绪化与猎奇内容加剧扩散 [1] 平台方的技术治理方案 - 平台需秉持技术主义，发挥技术优势加强对不实信息治理 [2] - 抖音平台尝试以AI治理AI，利用大模型语义理解与模式识别能力实时分析海量信息，提升谣言识别准确率和响应速度 [3] - 大模型技术使平台治理化被动为主动，将单例谣言发现处置时效从天单位缩短至小时单位，实现发现即管控 [3] - 平台推出AI抖音求真功能，为用户提供一键查证工具，通过求真卡获知事件完整信息及辟谣内容 [3] 协同治理体系的构建 - 谣言治理是系统工程，仅靠平台难以根治，因造谣成本低而辟谣需投入大量人力时间专业资源 [4] - 辟谣信息传播常滞后于谣言，且谣言利用先入为主规律，事后辟谣难以完全消除负面影响 [4] - 需构建多元共治体系，如媒体发挥权威信息源作用，专业机构加强科普与事实核查 [6] - 提升公众媒介素养以增强谣言辨别能力，形成平台、机构、公众协同发力的治理合力 [6]