行业背景与趋势 - 海外社交平台X于1月20日正式开源其推荐算法，并计划每四周更新一次相关代码，此举被视为提升算法透明度的举措 [1] - 算法已深度嵌入公众日常生活，但用户对算法的了解远弱于算法对用户的了解，形成了“算法黑箱”之说 [1] - 为防范算法风险，监管部门通过法规和专项行动开展算法治理，例如2024年11月中央网信办启动了“网络平台算法典型问题治理”专项行动 [1] 抖音的算法透明度举措 - 抖音于2025年1月3日推出10项措施推动平台工作透明化，并于2025年3月建立“安全与信任中心”网站，不定期公开算法原理与平台治理体系 [1] - “安全与信任中心”网站上线迄今累计访问量超150万人次，发布了十余条关于算法运作逻辑的科普文章 [5] - 抖音每个季度组织一次用户信任感调研，问题涉及社会责任、沉迷困扰、内容可信度及平台氛围等 [5] - 抖音不仅自行撰写科普内容，还联合外部博主制作深度科普视频，并在线下举办开放日、沟通会，2025年全年举办了30余场交流会 [10] - 抖音内容运营负责人表示，算法原理并非公司秘密，公开目的是增进外界理解并取得用户信任 [2][10] 抖音推荐算法的运作原理 - 推荐算法旨在帮助内容精准找到感兴趣的用户，当用户打开抖音时，算法会对候选视频打分 [7] - 视频得分取决于两大要素：一是用户对视频进行点赞、关注、收藏、分享等行为的概率；二是每项行为对应的价值权重分，将概率乘以权重后加总得到综合得分，根据得分排序进行推荐 [7] - 基于用户行为预估的推荐算法可能被“搭便车”，一些博眼球、诱导点赞的内容可能获得更高的行为预测得分 [7] 对算法负面效应的治理：“愤怒诱饵” - “愤怒诱饵”指用令人沮丧、冒犯或制造分裂的方式煽动愤怒以提升参与度的内容，该词在2025年被列为牛津年度词汇，过去12个月内使用频率增长了两倍 [11] - 抖音表示不欢迎此类“有毒的流量”，因其会导致平台戾气弥漫并引发用户反感 [12] - 抖音早在两三年前就已关注此现象，并持续用算法进行治理，算法会对可能激化矛盾的内容赋负分以降低推荐权重 [12] - 针对热点争议事件，抖音于2025年5月发布《抖音社区热点信息和账号治理规则》，打击谣言和挑动对立的内容，并邀约专业创作者引导理性讨论 [13] - 治理行动会带来一定程度的流量损失，但抖音将社区公约导向的优先级置于这些损失之前 [15] - 2026年1月，抖音在安全与信任大会上公布新的“10项举措”，强调将多维度治理“愤怒诱饵”、强化争议热点研判 [16] 对算法负面效应的治理：“信息茧房” - “信息茧房”指人们只接触自己感兴趣的信息形成封闭系统，个性化推荐算法常与此问题挂钩 [16] - 抖音认为仅推荐单一内容会使用户厌倦并导致活跃度下降，因此平台也希望打破“信息茧房” [16] - 根据抖音的数据实验，内容推送越多元，用户的长期活跃度越高，平台试图在算法推荐的精准性与多元化之间找到平衡 [16] - 抖音在2025年5月升级了“使用管理助手”，以可视化形式展示用户浏览内容的类型分布，并提供“探索更多”模式以推荐更多元内容 [16] 平台治理的技术手段与挑战：网络暴力 - 2025年8月河南周口医生坠亡事件引发关注，抖音核查发现，89条相关视频中有76条因违规被处置，962条相关评论中有457条因违规被处理 [18] - 国家网信办等四部门在2024年出台《网络暴力信息治理规定》，为平台设定了网暴预防预警、处置等多重义务 [19] - 平台治理网暴并非游刃有余，主要挑战包括不同用户对网暴的体感差异较大，以及部分内容未达攻击辱骂程度但造成持续精神纠缠 [20] - 抖音曾针对医生群体进行摸排，筛选出140多个存在被网暴风险的医生账号，并按风险分级，对高风险医生提供人工外呼服务提醒其使用防网暴工具 [20] 平台治理的技术手段与挑战：谣言整治 - 抖音在2025年引入大模型技术治理谣言，AI可联网检索历史谣言库和权威报道信息来鉴别内容是否失实 [21] - AI将失实内容分为“无需核实”和“需要核实”两类，对前者直接管控，对后者交由人工审核员校验 [21] - 引入AI谣言治理后，抖音平台上单例谣言的处置时效已缩短至以“小时”为单位，谣言内容曝光量下降90% [21] - 抖音后续将上线在评论区“@抖音求真”的功能，为用户提供自主辨别谣言的工具 [21] - AI治理谣言的局限性在于：热点谣言诞生初期常缺乏权威信源以供鉴别，抖音将此类情况视为“存疑信息”并进行流量限制，例如“武大杨某某被香港浸会大学取消录取”一事 [21] - 此外，AI检索的外部数据库本身存在被污染的可能，一些权威媒体或机构也可能发布未经核实的虚假信息 [26]