行业治理框架与会议概况 - 首都互联网协会召开2025年度“自媒体”治理与发展总结评议会，会议由北京市网信办指导，旨在总结行业自律工作并探索多方共治策略[1] - 北京市网信办负责人、行业专家及北京地区23家重点“自媒体”平台代表参与了此次会议[1] - 协会介绍了从成立专业委员会、组织行业评议到聚焦重点领域治理等方面的自律自治工作开展情况[1] 平台治理举措与技术创新 - 抖音搭建了涵盖内容制作溯源、传播环节拦截、主动求真辟谣三大维度的不实信息治理体系，并通过“AI抖音求真”机制为用户提供认知安全防线[1] - 微博通过“智搜附注”功能创新AI时代治理技术措施，并发挥“财经大V联盟”在财经领域内容生态建设上的正向引导作用[1] - 百度为应对AIGC风险，研发了“深度伪造鉴伪大模型”，可实现对伪造图像、音频及视频的精准识别、检测与拦截[1] - 腾讯新闻为“自媒体”创作者提供全方位合规培训及专项培育，并通过正能量议题共创来丰富优质内容供给[1] - 快手以AI大模型织密反诈安全网[4] - 美团搭建了跨场景识别策略以全维度提升内容治理质效[4] - 雪球构建了财经“自媒体”四维治理新模式[4] 年度创新案例与行业趋势 - 首都互联网协会发布了2025年度“自媒体”治理与发展创新案例，共有9家平台的11个案例入选，包括抖音的“AI抖音求真”、微博的“财经大V联盟”及百度的“深度伪造鉴伪大模型”等[2][4] - 相较去年，2025年度的创新案例覆盖平台更广泛，治理手段更多元，示范效应更突出[2] - 行业专家指出平台治理呈现三大新特点：从专项治理转向形成可拓展、可推广的常态化机制；利用AI技术从事后辟谣转向事前事中的鉴别、追踪与提示；对优质内容采取多元激励和引导措施[2] 行业发展方向与未来规划 - 北京市网信办负责人强调下一步工作需突出政治引领、强化行业自律、深化创新治理、聚焦高质量发展，以激发行业内生动力[2] - 各方被期望积极履责、有效协同，共同推动首都“自媒体”行业健康有序发展[2] - 首都互联网协会将以网络评议会为抓手，以行业自律协同机制为纽带，推动形成政策共商、问题共治、生态共建的治理模式，营造清朗有序的传播生态[3]

算法与平台治理透明化 - 公司宣布推出10项新举措，持续加强算法透明、平台治理和用户服务，以创建安全与信任的平台环境[2] - 公司将进一步公开算法原理和运营机制，并披露推荐算法在大模型等领域的前沿应用和技术创新[2] - 公司将推进治理透明工作，加大治理工作的技术与资金投入，强化新技术在治理中的应用[2] - 公司于2025年建立了安全与信任中心，未来将通过此窗口公开内容运营与治理报告，并多渠道听取反馈接受社会监督[5] 内容治理与生态建设 - 公司将加大对谣言、仿冒、伪造问题的治理，迭代“AI抖音求真”等辟谣产品能力[3] - 2025年，公司在谣言治理中应用大模型技术，实现谣言主动发现和快速管控，平台谣言曝光量已下降90%[3] - 公司推出《社区热点信息和账号治理规则（试行）》，规范热点信息传播，限制“争议流量”变现，未来将强化对争议热点的研判[3] - 公司将持续治理网络暴力，优化推荐算法并结合大模型技术，从多维度治理“愤怒诱饵”，同时强化对潜在网络暴力行为的识别与当事人权益保护[2] - 2025年1月至11月，平台已为635名用户提供免费法律咨询[2] 优质内容激励与原创保护 - 公司持续倡导优质、原创内容方向，通过“懂行用户”机制及多项激励计划，推动优质内容日均投稿量提升118%，优质内容总播放量提升160%[4] - 公司将持续加大投入，通过细分阶段的激励计划助力内容创作者成长，并迭代算法构建优质内容池，加大优质内容创作者收入分成规模[4] - 公司将坚持原创内容生态，鼓励真诚创作，打击“恶意营销号”，并对相关黑灰产协同有关部门线下追责[4] 特定用户群体服务 - 针对未成年人群体，公司将通过“健康守护、亲子护航、优质陪伴”三项措施进行服务[4] - 针对老年人群体，公司将持续提供清晰易懂的上网指引，帮助他们更安全、更轻松地使用网络[4] 用户服务与权益保障 - 公司以提升用户服务满意度为目标，将优化抖音客服95152服务热线入口，提高“批量侵权”及“涉企侵权”处理效率，并提升侵权争议事件的规则及沟通透明度[5]

平台治理与算法透明化举措 - 公司宣布推出10项新举措，持续加强算法透明、平台治理和用户服务，旨在创建安全与信任的平台环境[1] - 公司将进一步做好算法透明工作，持续公开算法原理和运营机制，并披露推荐算法在大模型等领域的前沿应用和技术创新[3] - 公司将推进治理透明工作，加大治理工作的技术与资金投入，强化新技术在治理中的应用[3] 网络暴力与不实信息治理 - 公司将优化推荐算法，结合大模型技术，从内容和评论等多维度治理“愤怒诱饵”，并强化对潜在网络暴力行为的识别与权益保护[3] - 2025年1月至11月，平台已为635名用户提供免费法律咨询，并将扩大与社会机构合作为当事人提供法律维权、心理疏导等帮助[3] - 公司将加大对谣言、仿冒、伪造问题的治理，引导用户做好信息来源标注，迭代“AI抖音求真”等辟谣求真产品能力[3] - 2025年，公司在谣言治理中应用大模型技术，实现对谣言的主动发现和快速管控，平台谣言曝光量已下降90%[3] 热点信息与内容生态管理 - 公司已推出《社区热点信息和账号治理规则（试行）》，规范热点信息传播秩序，保护热点当事人权益，限制“争议流量”变现[4] - 未来公司将强化对争议热点的研判，倡导社区理性氛围，并定期对外发布关于社区热点信息的治理态度和动作[4] - 通过“懂行用户”机制及“青年创作者成长计划”、“媒体精选计划”等激励计划，公司推动优质内容日均投稿量提升118%，优质内容总播放量提升160%[4] - 公司将持续加大投入，通过细分阶段的激励计划助力内容创作者成长，迭代算法构建优质内容池，并加大优质内容创作者收入分成规模[4] - 公司将坚持原创内容生态，鼓励真诚创作，打击“恶意营销号”，并对相关黑灰产协同有关部门线下追责[5] 特定用户群体服务与用户服务优化 - 针对未成年人群体，公司将通过“健康守护、亲子护航、优质陪伴”三项措施提供服务[5] - 针对老年人群体，公司将持续提供清晰易懂的上网指引，帮助他们更安全、更轻松地使用网络[5] - 在用户服务方面，公司将以提升用户服务满意度为目标，优化抖音客服95152服务热线入口，提高“批量侵权”及“涉企侵权”处理效率，并提升侵权争议事件的规则及沟通透明度[5] 平台透明化与监督机制 - 2025年，公司建立了安全与信任中心，以此为载体推进平台工作透明化[5] - 未来，公司将通过这一窗口公开内容运营与治理报告，并继续通过开放日、社交媒体等多渠道倾听用户反馈、听取各界建议，接受社会监督[5] - 此次新“10项举措”是对2025年1月宣布推出10项措施、建立安全与信任中心承诺的回应与升级[5]

平台治理与透明度举措 - 公司于2025年上线了安全与信任中心网站，全面公开其算法原理，截至目前该网站访问量已超过150万次 [1] - 公司在平台治理中引入大模型技术，显著提升了谣言治理效果，与年初相比，平台谣言曝光量下降90%，谣言举报量下降74% [1] - 公司推出了“AI抖音求真”功能以帮助用户识别和澄清谣言，目前该功能的“求真提示”日均曝光量达到3亿次 [1] 内容生态规范建设 - 针对争议热点信息传播、AI生成内容、恶意营销号等新兴治理问题，公司推出了《社区热点信息和账号治理规则（试行）》等共计7项治理类规范 [2]

行业背景与挑战 - 生成式人工智能和大语言模型在2023年底走红后，从业者预言AI将成为互联网虚假内容的“制造机” [1] - 不到两年时间，“AI污染互联网”已成为诸多网友的共识 [1] - AI生成内容与人类创作的界限模糊，其表达能力与人类极为接近，导致辨别困难 [8] - 互联网内容平台对AIGC持矛盾态度：既希望其实现内容多元化以丰富生态，又不愿看到低质量内容污染平台 [5] 平台治理措施 - 抖音上线“AI抖音求真”功能，当用户浏览易产生误解的内容或搜索谣言信息时，可获知完整信息和辟谣内容 [3] - 该功能依托抖音训练的“谣言治理大模型”和“资讯大模型”，以及专门的辟谣运营团队 [3] - 平台实现了精准定义“内容误导性”、“公共价值”、“可证伪”等谣言特征的能力，能主动审查达到一定热度的内容 [3] - 通过提取视频信息、分析主旨、联网搜索，完成对内容是否为谣言的风险判断 [3] - 抖音已将大模型技术应用于谣言治理，自7月以来平台谣言曝光量下降67% [3] 技术方案的局限性 - “AI抖音求真”并非万灵药，可能存在不准确、覆盖面不够完整的情况 [5] - 该功能对于以往存在的谣言类型有效，但对“新鲜事”和“新花样”可能力有未逮 [10] - 其效能主要依托于“谣言治理大模型”的迭代速度，需要跟上AI虚假内容的发展 [10] - 如果权威媒体没有报道相关内容，该功能只能给出“存疑”的判断 [10] - 此招在短时间内只能做到“治标不治本” [8] 创作者生态与平台政策 - 在百模大战初期，抖音、快手、知乎等内容平台已要求创作者主动添加“内容由AI生成”的声明 [5] - 但创作者普遍担心打上AI生成标签会导致作品被限流 [5] - 流量分成政策依然存在，使得当年做“内容农场”的人现在转向做“AI农场”以牟利 [8] - 平台无法取消流量分成，因为这会极大打击正常创作者的积极性 [8]

行业核心观点 - 数字传播行业面临信息验证滞后与谣言快速扩散的核心矛盾 任何个体均可即时生成内容 但事实查证需要更长周期 导致公众最初接触的信息多为未经证实的内容[1] - 平台推出AI辅助验证工具如抖音"AI抖音求真" 通过生成"求真卡"在用户浏览场景中嵌入查证入口 集中呈现事件发展脉络并澄清错误信息 使验证行为随手可及[1] - 该功能重新配置信息传播与事实核查关系 使查证与传播可同时并置 降低公众接近可验证信息的门槛 减少主动检索不同来源的求真成本[2] 技术解决方案 - "AI抖音求真"在用户浏览或搜索可能引发误解的信息时自动触发 提供事件发展脉络和错误澄清 其价值在于将查证入口嵌入日常信息接触场景[1] - 平台通过集中呈现相关材料于同一页面 为公众提供更容易获得的参照 使思考和判断能建立在更充分材料基础上 既不取代个人判断也不简化复杂事件[2] 认知模式变革 - 真相被重新理解为动态生成过程 随新证据加入而补充 随旧信息修正而改写 平台工具旨在创造窗口让公众更早接触支撑判断的材料[3] - 工具帮助用户在第一时间寻找可追溯证据 延缓情绪化反应 使事实呈现更快进入公共视野 促进讨论建立在有依据基础之上[3] 行业影响 - 数字时代真相治理是技术与社会双重问题 需科学手段精准性、文化理解宽容度及制度协商稳定性协同作用[3] - 平台AI工具可提升用户对事实信息的识别与澄清效率 但核心仍需用户主动参与并保持批判性思维以理性应对信息流动[3]

AI技术应用于谣言治理 - 公司近期将AI大模型技术用于谣言治理，一个季度内平台谣言曝光量下降67% [1] - AI大模型能够主动审阅所有有一定热度的资讯，通过提取信息、分析主旨、联网搜索来判断真假并自动处置，将处置周期从几天缩短到几小时 [1] - 平台训练的“谣言鉴定专家”大模型能判断信源是否来自权威媒体报道、政务公开平台或历史谣言库样本，并具备精准定义“内容误导性”、“公共价值”等谣言特征的能力 [1] - 大模型识别谣言的准确率达到85%，并且仍在持续提升 [1] 平台功能升级与用户触达 - 公司在2025年4月推出“辟谣卡”功能，并升级推出“AI抖音求真”功能，在易产生误解的视频内容旁挂载跳转链接 [1] - 用户搜索谣言相关事件关键词时，搜索结果会以“求真卡”形式展现，内容包括事件溯源、澄清信息和权威报道，并对谣言或存疑内容进行显著标注 [2] - “AI抖音求真”功能呈现的内容依托于“谣言治理大模型”、“资讯大模型”及辟谣运营团队，其单日曝光量估测可达近亿次 [2] 多元化辟谣生态建设 - 公司通过热点运营、辟谣账号运营、建立媒体辟谣团等方式打造辟谣生态 [2] - 辟谣运营团队会主动向当事人或有关部门核实谣言风险信号，例如与9个地区的地方公安联动核实并处置“人贩子”谣言，并通过“抖音辟谣”账号发布辟谣内容 [2] 谣言治理的持续挑战 - 谣言的产生难以杜绝，主观编造和传播偏差均会带来不实信息 [3] - 辟谣工作面临查证和时效性的挑战，热点事件常处于动态发展中导致谣言反转，传播方式的变化也使信源本身受到污染 [3]

AI谣言治理技术应用 - 平台将AI大模型技术用于谣言治理，一个季度内平台谣言曝光量下降67% [1] - 大模型主动审阅有一定热度的所有资讯，将疑似谣言的处置周期从几天缩短到几小时 [1] - 大模型具备判断信源权威性及精准定义"内容误导性"等特征的能力，识别准确率达85%且持续提升 [1] 平台功能升级与运营 - 2025年4月推出"辟谣卡"功能，近期升级推出"AI抖音求真"功能，为疑似不实内容挂载跳转链接 [1] - 用户搜索谣言相关事件关键词时，结果以"求真卡"形式展现事件溯源和澄清信息，显著标注"谣言"或"存疑" [2] - "AI抖音求真"功能单日曝光量估测近亿次，内容依托于"谣言治理大模型"和辟谣运营团队 [2] 综合治理生态建设 - 平台通过热点运营、辟谣账号运营、建立媒体辟谣团等方式打造辟谣生态 [2] - 辟谣运营团队主动核实谣言风险信号，例如与9个地区公安联动处置"人贩子"谣言并发布辟谣内容 [2] - 谣言的产生难以杜绝，辟谣的查证和时效性面临挑战，需要多方共治 [3]

公司技术举措 - 抖音首次系统披露平台引入大模型技术治理谣言的“方法论”并上线“AI抖音求真”功能，当用户浏览误导性内容或搜索相关谣言时可及时获取事件完整信息及辟谣内容[1] - 抖音训练出的“谣言鉴定专家”能够主动审阅平台上达到一定热度的所有资讯内容，通过提取视频信息、分析主旨、联网搜索完成对内容是否为谣言的风险判断并自动响应分级处置[3] - 抖音采用“无依据不当臆测内容”的大模型针对性处置一些没有可靠依据、仅为臆测的内容，识别准确率能达90%左右[11] - 抖音将“辟谣卡”升级为“AI抖音求真”功能，单日曝光量估测可达近亿次，在视频流和搜索场景中用户均可通过“求真卡”获知事件完整信息及辟谣内容[7][8][10] 公司治理成效 - 在谣言治理智能体的助力下，近一个季度来平台谣言曝光量下降67%，力求实现对谣言的“发现即管控”[1][5] - 与过往人工发现谣言的链路不同，抖音AI治理谣言链路核心逻辑在于强调“发现即管控”，能够在谣言萌芽阶段即实施有效干预、传播阶段实现辟谣感知[3] - 例如在处置“老人7月乘高铁有新折扣”相关谣言时，智能体在内容刚获热度时就关注到并拆解信息，同步联网检索权威信源，最终判定为捏造事实并迅速处置[5] 行业挑战与背景 - 《科学》杂志2018年研究表明，谣言在社交媒体上的传播速度比真实信息快6倍，且传播范围更广、转发频次更高[2] - 当前社媒生态中谣言伴随热点事件频出，呈现传播速度更快、形式更多样、隐蔽性和流变性更强等特点，辟谣查证和时效性面临挑战[6][7] - 除纯粹虚假谣言外，平台治理还面临更复杂的“问题性信息”，如传播偏差、真相动态演变等因素导致查证难度极大，一些不当臆测类内容极易引发公众误解[11] 行业治理方向 - 良性的平台辟谣生态构建不能仅依靠平台自身的技术防御与责任担当，更需要发动广大用户共建“认知防线”以实现携手共治[2][13] - 行业观点认为引导利用AI模型来斩断谣言流转的各环节链条是大势所趋，技术治理上不应有代际差，需与所对抗的技术保持在同一代[5] - 谣言治理是一场智慧与技术博弈的“持久战”，需要平台端和政策端持续发力，更需要全社会立体式的参与和互动[12][13]

平台AI谣言治理举措 - 抖音上线"AI抖音求真"功能 针对误导性内容和谣言提供事实展示及澄清 [1] - 平台将大模型能力应用于谣言治理 实现"发现即管控" 一个季度内谣言曝光量下降67% [1] - 通过热点运营/辟谣账号运营/媒体辟谣团等方式打造辟谣内容生态 并向用户推出"辟谣卡"功能 [3] AI谣言特征与危害 - AI谣言具有门槛更低/传播更强/变异更频繁/更易跨平台扩散等特点 大幅提升网络防谣辟谣难度 [1] - 典型AI谣言包括"AI预测彩票中奖"/"老年人坐火车打折"/"地震小孩被埋图"等 歪曲政策/消解社会公平/侵蚀社会信任 [1] - AI谣言滋生灰黑利益链 导致相关部门和机构需频繁发声辟谣 [1] 治理模式升级 - 治理模式从被动转为主动 从"点"的治理转向"面"的升级 技术工具日益丰富 [3] - 大模型应用于谣言识别/研判/处置 极大提升识别能力和处置效率 [3] - 平台通过技术篱笆完善履行信息"守门人"责任 有利于涵养清朗健康的内容生态 [2] 协同治理需求 - AI谣言存在跨平台传播和变种快的特点 需要监管部门完善法律法规并建立跨平台信息共享与联合惩戒机制 [4] - 需要大众媒体/专业机构及时发声 社会公众培养健康网络素养和理性上网习惯 [4] - 需从单纯技术防线过渡到多主体协同/全社会共同参与的共治阶段 [4]