Workflow
算法治理
icon
搜索文档
平台算法从“黑箱”走向透明
证券时报· 2025-04-29 06:28
算法透明化趋势 - 抖音、小红书、美团等平台近期加速算法公开化进程,抖音首次公开推荐算法原理,美团推出八项算法改进举措包括骑手防疲劳和订单分配算法公开[1][2] - 微博优化热搜算法并增加热词解释标签,美团计划年底前取消骑手超时扣款,转向正向激励[2][3] - 行业主流判断认为算法治理是互联网企业2025年必修课,透明化既是重塑数字文明的抓手,也可能挑战部分平台商业模式[1][5] 算法机制与行业实践 - 抖音算法不依赖内容或用户标签,而是通过神经网络直接预估用户对内容的行为概率(如"看完了""点赞"),再推荐高概率内容[3][6] - 美团算法优化受京东外卖竞争压力驱动,京东通过为骑手缴纳社保等举措攻擂,迫使美团调整运力与用户需求平衡[3][5] - 小红书、抖音等平台通过多样性推荐机制(如多兴趣召回、扶持小众兴趣)试图打破"信息茧房"[6][8] 监管与行业挑战 - 2023年监管部门针对"大数据杀熟""信息茧房"等问题启动专项行动,美团、滴滴等平台接受调研座谈或分类指导[5][6] - 算法失范可能导致三层面问题:个体认知窄化(信息茧房)、市场公平受损(大数据杀熟)、社会价值观撕裂(流量至上)[5][8] - 部分平台算法公开被质疑为变相宣传,仅公开改进措施而未披露核心规则,缺乏第三方监督佐证[6][8] 算法与社会价值 - 美团算法公开后,订单分配规则明确以骑手安全和收入优化为目标,同时保障用户准时收餐[7][8] - 行业专家提出算法需注入人性温度,例如降低消费者对限时送达的苛刻预期,增加弹性协商空间[8] - 算法治理核心应指向"科技向善",杜绝纯追逐流量与利润,转向促进人的成长和社会安全[8]
AI时代,如何面对技术革命带来的法律困境
新京报· 2025-04-22 16:38
文章核心观点 - 法学专家在“未来契约:AI时代的法律刻度”论坛上深入探讨了AI时代算法带来的法律挑战,核心在于如何构建一个既能促进技术创新(如生成式AI带来的新质生产力),又能守护人类核心价值(如隐私、公正、信任)的法律框架[1] 算法概念与法律界定 - 算法从解决具体算术问题的方法,演进至大数据和AI时代,其复杂性和结果多样性引发了“算法黑箱”和透明度等问题[2] - 2023年以来生成式AI的发展为算法增添了新要素,先进的算法能减少大模型训练所需的算力、时间及数据需求,推动AI进步和社会福利增加[2] - 算法已广泛渗透于各类生活应用(如购物、短视频、资讯App),通过个性化推荐使不同用户看到不同内容,并在商业模型和闲置资源调配中发挥关键作用[2] - 法律对算法的定义因法规而异:《个人信息保护法》触及“自动化决策”概念以应对大数据杀熟问题;《互联网信息服务算法推荐管理规定》则对利用生成、合成类算法技术向用户提供信息进行了法律界定[2] - 平台在算法治理中扮演核心角色,因其拥有直接技术触达力、资源调配能力、社会影响力、技术团队(可发现算法Bug)以及通过用户协议收集数据影响算法质量与效果的能力[2] 算法透明的挑战与重要性 - 算法治理最重要的一点是算法的公开透明,其重要性源于公众对算法决策的恐惧和焦虑,因为算法决策过程不为人知且常与人类决策混合,而传统面向人类决策的知情、异议、救济程序需要升级以适应算法时代[3] - 算法透明在法律层面引出了“算法解释权”这一重要权利,但学界对此存在争论,可能需要的是算法问责的一整套机制[4] - 实现算法透明面临多重挑战:技术复杂性与黑箱问题、知识产权与商业秘密保护、数据隐私与安全、模型的动态性与持续演化,以及全球科技博弈白热化导致的监管碎片化[4] - 尽管挑战重重,算法透明本质上关乎社会信任,是关乎未来价值选择和社会构建的过程,而不仅仅是技术或合规议题[4] 算法在社会与经济中的影响 - 数据驱动的算法能实时监测社会舆情并调整管理策略,在提升效率的同时也可能引发新社会问题,后续论坛将讨论算法是否制造“信息茧房”、平台对网暴与谣言的应对策略,以及用户与推荐系统的真实互动模式[5] - AI技术正在创造新型就业岗位(如数据科学家、算法专家),同时也在重塑传统行业[6] - 算法对经济有深远影响:后续论坛将从量化高频交易切入,分析算法如何重构市场机制;聚焦AI带来的就业变革与岗位替代;剖析算法推荐对消费行为和财富分配的影响,以及大模型与推荐算法的融合趋势[6]
抖音,首次公布!
证券时报· 2025-03-30 23:04
文章核心观点 抖音集团拟推出10项措施推进算法和平台治理透明化,“抖音安全与信任中心”网站上线公开推荐算法原理及平台治理审核流程,同时行业面临网络暴力、谣言等平台生态治理问题,相关部门开展专项行动整治算法典型问题,美团已推出算法治理行动 [1][3] 行业动态 - 2024年11月12日中央网信办等四部门开展“清朗·网络平台算法典型问题治理”专项行动,要求整治同质化推送等重点问题 [3] - 2024年12月美团建立算法公开机制,计划在2025年底前逐步取消骑手超时扣款 [3] 公司举措 - 今年1月抖音集团拟推出10项措施推进算法和平台治理透明化,涉及公开算法原理、破除信息茧房、治理不实信息等 [3] - “抖音安全与信任中心”网站上线,公开抖音推荐算法原理,介绍预估用户行为概率及内容推荐方式,还披露平台治理审核流程 [1]