算法治理
搜索文档
抖音、微信视频号、小红书……都出手了!
新华网财经· 2025-05-22 18:36
算法治理专项行动 - 中央网信办等多部门针对算法推荐加热低俗信息、加剧"信息茧房"、加重观点极化等问题开展专项行动 [1] - 重点平台签署"算法向善"南宁宣言 完善算法推荐内容审核 开发"茧房评估""一键破茧"等创新功能 [2] - 抖音、小红书、微博、快手、微信视频号、哔哩哔哩等平台系统性优化正能量内容加权推荐、用户自主选择权保障等功能 [2] 算法透明度提升 - 抖音通过"安全与信任中心"网站和开放日活动阐释推荐逻辑、干预机制及治理成效 [4] - 微博公示热搜上榜规则和数据规则 上线热搜热度标签标示推动因素 [4] - 微信视频号发布《一图读懂微信视频号算法推荐》《算法破茧系列》以通俗方式公示规则 [4] 破除"信息茧房"措施 - 抖音升级"使用管理助手" 新增内容偏好评估功能可视化呈现用户浏览内容 [6] - 小红书设置"内容偏好评估与调节""探索更多"功能 支持一键浏览多元内容 [6] - 快手依托正能量算法增加对"正向""有用""温暖""信任"类内容的挖掘与推荐 [6] 推荐内容审核机制 - 微信视频号完善"好友推荐+算法推荐"双重机制 迭代识别打击模型禁止低俗信息进入推荐池 [8] - 抖音推出热点当事人核实机制 防范摆拍造假、仿冒蹭热等恶意传播行为 [8] 用户赋权功能优化 - 快手提供可滑动调节的兴趣标签管理功能 支持用户自定义内容推送强度 [10] - 微博设置不感兴趣、不看此博主、内容质量差等多种负反馈选项精准响应用户需求 [10] 治理成效与后续计划 - 网信部门承认平台算法治理取得初步成效 但存在功能使用效果不显著、推荐内容质量待提升等问题 [10] - 将开展常态化巡查 督导平台持续优化算法机制 探索多样化"破茧"路径和创新用户赋权功能 [10]
算法推荐乱象凸显,中央网信办督导抖音、小红书等平台优化调整
YOUNG财经 漾财经· 2025-05-22 17:36
算法推荐治理专项行动 - 中央网信办针对算法推荐乱象开展"清朗·网络平台算法典型问题治理"专项行动,重点治理低俗信息推荐、"信息茧房"、观点极化等问题[1] - 重点平台签署"算法向善"南宁宣言,完善内容审核机制,公开算法规则原理,开发"茧房评估""一键破茧"等创新功能[1] - 抖音、小红书、微博、快手、微信视频号、哔哩哔哩等平台系统性优化算法功能,涉及正能量内容加权、用户自主选择权、内容多样性等核心环节[2] 平台算法优化措施 算法透明度提升 - 抖音开设"安全与信任中心"网站并举办开放日活动,阐释推荐逻辑和干预机制[2] - 微博公示热搜上榜规则和数据规则,上线热度标签标示推动因素[2] - 微信视频号发布《一图读懂微信视频号算法推荐》《算法破茧系列》等通俗解释材料[2] "信息茧房"破解 - 抖音升级"使用管理助手",以可视化形式呈现用户浏览内容[2] - 小红书设置"内容偏好评估与调节"和"探索更多"功能[2] - 快手通过正能量算法增加对"正向""有用""温暖""信任"内容的挖掘和推荐[2] 内容审核机制 - 微信视频号完善"好友推荐"和"算法推荐"双重机制,迭代升级识别打击模型[2] - 抖音推出热点当事人核实机制,防止摆拍造假、仿冒蹭热等恶意传播行为[2] 用户赋权功能 - 快手提供精细的兴趣偏好管理功能,用户可调节不同内容推送强度[2] - 微博设置不感兴趣、不看此博主、内容质量差等多种负反馈选项[2] 治理成效与展望 - 重点平台算法治理取得一定成效,但仍存在功能使用效果不显著、推荐内容质量不够高等问题[3] - 算法治理是长期系统性工程,网信部门将开展常态化巡查,督导平台持续优化算法机制和管理规则[4]
针对算法推荐乱象,中央网信办督导抖音、小红书、微博等平台优化调整
证券时报· 2025-05-22 12:11
中央网信办算法治理专项行动 核心观点 - 中央网信办针对算法推荐导致的低俗信息泛滥、"信息茧房"、观点极化等问题开展专项治理,重点平台通过优化算法规则、提升透明度、创新功能等方式响应整改 [1][2] - 抖音、小红书、微博、快手、微信视频号、哔哩哔哩等平台在正能量内容加权推荐、用户自主权保障、内容多样性优化等环节推出系统性改进措施 [1][2] - 当前治理成效初显但仍存不足,网信部门将持续督导平台优化算法机制,探索多样化"破茧"路径 [3] 算法透明度提升 - 抖音开设"安全与信任中心"网站并举办开放日活动,公开推荐逻辑及干预机制 [1] - 微博公示热搜上榜规则及数据规则,新增热度标签标示推动因素 [1] - 微信视频号发布《一图读懂微信视频号算法推荐》等图文视频材料,以通俗方式解释算法原理 [1] "信息茧房"破除措施 - 抖音升级"使用管理助手",通过可视化图表展示用户近期浏览内容偏好 [2] - 小红书推出"内容偏好评估与调节"功能,支持一键探索多元化内容 [2] - 快手在算法中增加对"正向""温暖"等内容的挖掘权重 [2] 推荐内容审核机制 - 微信视频号建立"好友推荐+算法推荐"双重机制,迭代识别模型拦截低俗信息 [2] - 抖音推出热点当事人核实机制,打击摆拍造假、仿冒蹭热等行为 [2] 用户赋权功能优化 - 快手提供可滑动调节的兴趣标签管理功能,支持精细化控制内容推送强度 [2] - 微博设置"不感兴趣""不看此博主"等多样化负反馈选项 [2] 现存问题与后续计划 - 部分平台功能使用效果未达预期,推荐内容质量仍有提升空间 [3] - 网信办将开展常态化巡查,推动平台持续优化算法管理规则和"破茧"路径 [3]
“网友反映强烈”!中央网信办发文
21世纪经济报道· 2025-05-22 12:09
算法治理专项行动 - 中央网信办针对算法推荐加热低俗信息、加剧"信息茧房"、加重观点极化等问题开展专项治理,督促重点平台优化算法功能与规则 [1] - 抖音、小红书、微博、快手、微信视频号、哔哩哔哩等平台签署"算法向善"南宁宣言,系统性完善内容审核、算法透明度及用户偏好管理 [1][6] 算法透明度提升措施 - 抖音通过"安全与信任中心"网站及开放日活动公开推荐逻辑、干预机制及治理成效 [2] - 微博公示热搜上榜规则与数据规则,上线热度标签标示推动因素 [2] - 微信视频号发布《一图读懂微信视频号算法推荐》等图文视频材料向用户公示算法原理 [2][6] "信息茧房"破解创新 - 抖音升级"使用管理助手",以可视化形式呈现用户近期浏览内容偏好 [2] - 小红书推出"内容偏好评估与调节"及"探索更多"功能,支持一键获取多元化内容 [2][6] - 快手通过正能量算法强化"正向""有用""温暖"内容挖掘与推荐 [2] 推荐内容审核机制 - 微信视频号采用"好友推荐+算法推荐"双机制,迭代识别模型禁止低俗信息进入推荐池 [3] - 抖音推出热点当事人核实机制,打击摆拍造假、仿冒蹭热等恶意传播行为 [3] 用户赋权功能优化 - 快手提供滑动调节兴趣标签功能,支持用户自定义内容推送强度 [3] - 微博设置"不感兴趣""不看此博主"等负反馈选项精准响应用户需求 [3] 平台公告与功能升级 - 抖音公告多措并举赋能用户管理推荐内容 [6] - 小红书发布内容偏好调节功能指南 [6] - 微信视频号优化算法推荐并上线兴趣探索功能 [6] - 哔哩哔哩推出个性化内容推荐算法新功能 [6]
大数据时代,莫让“算法”变“算计”
人民网· 2025-05-14 09:12
算法治理现状 - 算法已深度渗透日常生活 涵盖购物推荐 社交话题推送 导航路线规划等领域 [1] - 算法不合理应用导致三大乱象:信息茧房 大数据杀熟 诱导沉迷 侵蚀个人权益并扰乱市场秩序 [1] - 2022年《互联网信息服务算法推荐管理规定》实施 明确禁止过度推荐 操纵榜单等行为 [1] - 2024年四部门联合开展专项行动 整治信息茧房 大数据杀熟等问题 取得显著效果 [1] 算法治理挑战 - 企业以技术中立为由规避监管 算法逻辑不透明导致用户维权困难 [2] - 用户过度依赖单一平台 加剧信息偏食现象 [2] 治理路径建议 - 需健全法律制度 明确平台主体责任 提高对大数据杀熟等行为的处罚力度 [2] - 创新技术治理手段 允许可控环境测试算法 监管部门动态监测破解算法黑箱 [2] - 网络平台应开通投诉渠道 推广多平台比价工具 提升市场透明度 [2] 行业发展方向 - 算法需平衡效率与公平 在法治框架下注入向善价值观 [2] - 构建多方协同的共治生态是实现清朗网络的关键 [2]
用户自选内容推荐强度 能破“信息茧房”?
南方都市报· 2025-04-29 12:20
平台算法透明度提升举措 - 小红书、微博等App推出新功能,以饼状图展示用户浏览内容偏好分布,支持用户调节个性化推荐强度,分为"减少推荐""默认强度""增加推荐"三个档位 [1][2] - 用户可删除不感兴趣的内容标签,并添加其他内容分类标签,自主决定平台推送内容 [2] - 哔哩哔哩App在"首页推荐内容偏好测试版"中展示用户偏好分布,用户可固定、删除、添加偏好标签 [3] - 抖音、快手暂未上线类似精细化调节功能,但抖音公开算法原理、社区规范和治理体系,快手公示热搜榜单排序规则和算法运行规则 [3] 用户对算法推荐的担忧 - 算法推荐系统深度介入日常生活,引发对"杀熟""信息茧房"及算法解释性不足的担忧 [4] - 网友尝试通过"喊话"大数据对抗算法,如批评商品价格、要求优惠、表达内容偏好,希望反向驯化算法 [4] 政策监管与平台响应 - 2022年《互联网信息服务算法推荐管理规定》实施,要求平台提供关闭个性化推荐选项及删除用户标签功能 [4] - 微博、微信、哔哩哔哩、抖音、小红书等App上线"个性化推荐"开关,为用户提供灵活选择 [5] - 2023年11月四部委发起"清朗·网络平台算法典型问题治理"专项行动,重点整治"信息茧房"、大数据"杀熟"等问题 [5] - 抖音、微博、小红书等平台在专项行动宣布后公布一系列治理措施 [5]
AI时代,如何面对技术革命带来的法律困境
新京报· 2025-04-22 16:38
文章核心观点 - 法学专家在“未来契约:AI时代的法律刻度”论坛上深入探讨了AI时代算法带来的法律挑战,核心在于如何构建一个既能促进技术创新(如生成式AI带来的新质生产力),又能守护人类核心价值(如隐私、公正、信任)的法律框架[1] 算法概念与法律界定 - 算法从解决具体算术问题的方法,演进至大数据和AI时代,其复杂性和结果多样性引发了“算法黑箱”和透明度等问题[2] - 2023年以来生成式AI的发展为算法增添了新要素,先进的算法能减少大模型训练所需的算力、时间及数据需求,推动AI进步和社会福利增加[2] - 算法已广泛渗透于各类生活应用(如购物、短视频、资讯App),通过个性化推荐使不同用户看到不同内容,并在商业模型和闲置资源调配中发挥关键作用[2] - 法律对算法的定义因法规而异:《个人信息保护法》触及“自动化决策”概念以应对大数据杀熟问题;《互联网信息服务算法推荐管理规定》则对利用生成、合成类算法技术向用户提供信息进行了法律界定[2] - 平台在算法治理中扮演核心角色,因其拥有直接技术触达力、资源调配能力、社会影响力、技术团队(可发现算法Bug)以及通过用户协议收集数据影响算法质量与效果的能力[2] 算法透明的挑战与重要性 - 算法治理最重要的一点是算法的公开透明,其重要性源于公众对算法决策的恐惧和焦虑,因为算法决策过程不为人知且常与人类决策混合,而传统面向人类决策的知情、异议、救济程序需要升级以适应算法时代[3] - 算法透明在法律层面引出了“算法解释权”这一重要权利,但学界对此存在争论,可能需要的是算法问责的一整套机制[4] - 实现算法透明面临多重挑战:技术复杂性与黑箱问题、知识产权与商业秘密保护、数据隐私与安全、模型的动态性与持续演化,以及全球科技博弈白热化导致的监管碎片化[4] - 尽管挑战重重,算法透明本质上关乎社会信任,是关乎未来价值选择和社会构建的过程,而不仅仅是技术或合规议题[4] 算法在社会与经济中的影响 - 数据驱动的算法能实时监测社会舆情并调整管理策略,在提升效率的同时也可能引发新社会问题,后续论坛将讨论算法是否制造“信息茧房”、平台对网暴与谣言的应对策略,以及用户与推荐系统的真实互动模式[5] - AI技术正在创造新型就业岗位(如数据科学家、算法专家),同时也在重塑传统行业[6] - 算法对经济有深远影响:后续论坛将从量化高频交易切入,分析算法如何重构市场机制;聚焦AI带来的就业变革与岗位替代;剖析算法推荐对消费行为和财富分配的影响,以及大模型与推荐算法的融合趋势[6]
抖音,首次公布!
证券时报· 2025-03-30 23:04
文章核心观点 抖音集团拟推出10项措施推进算法和平台治理透明化,“抖音安全与信任中心”网站上线公开推荐算法原理及平台治理审核流程,同时行业面临网络暴力、谣言等平台生态治理问题,相关部门开展专项行动整治算法典型问题,美团已推出算法治理行动 [1][3] 行业动态 - 2024年11月12日中央网信办等四部门开展“清朗·网络平台算法典型问题治理”专项行动,要求整治同质化推送等重点问题 [3] - 2024年12月美团建立算法公开机制,计划在2025年底前逐步取消骑手超时扣款 [3] 公司举措 - 今年1月抖音集团拟推出10项措施推进算法和平台治理透明化,涉及公开算法原理、破除信息茧房、治理不实信息等 [3] - “抖音安全与信任中心”网站上线,公开抖音推荐算法原理,介绍预估用户行为概率及内容推荐方式,还披露平台治理审核流程 [1]