Workflow
算法向善
icon
搜索文档
构筑立体教育防护体系 莫让“数字泔水”侵蚀青少年心田
新浪财经· 2026-02-09 05:39
行业背景与问题定义 - 以生成式人工智能为核心的新技术浪潮正重塑社会信息生态,但伴生了被称为“数字泔水”的海量低质内容[1] - “数字泔水”指由算法批量炮制或为追逐流量而粗制滥造,具有逻辑混乱、事实失真、价值导向模糊等特征的内容[8] - 我国未成年网民规模已突破1.96亿,互联网普及率高达97.3%,该群体基本全员触网,是“数字泔水”影响最深、最易感的群体[1] “数字泔水”的危害机制 - 侵蚀深度认知能力:长期接收碎片化、高刺激、低逻辑密度信息会抑制青少年前额叶皮层功能发展,易形成思维惰性[2] - 扭曲价值观与社会认知:内容中长期重复呈现的庸俗成功学、戏剧化人际关系和历史虚无主义等,会潜移默化地塑造未成年人失真的“拟态环境”[2] - 加剧数字文化生态恶化:“数字泔水”凭借制造流量的高效率,在算法分发中挤压优质内容空间,形成“劣币驱逐良币”的结果[2] - 可能形成恶性循环:大量“数字泔水”本身可能作为训练数据“反哺”人工智能模型,导致信息生态陷入低质化内卷,抑制社会文化创造力[2] “数字泔水”的成因分析 - 技术与市场逻辑驱动:生成式AI降低了低质内容的生产门槛,平台基于用户参与度优化的推荐算法构成了以“流量至上”为核心的分发引擎[3] - 平台治理责任后置:在商业增长驱动下,平台往往将内容审核、算法价值校准等公共治理责任后置,导致传统专业“信息守门人”机制被削弱[3] - 受众认知特点与教育滞后:未成年人处于前额叶皮层发育关键期,对强烈刺激敏感而批判性过滤能力不足,但系统性媒介素养教育仍显滞后,未有效植入现行课程体系[3][4] 综合治理体系与行业对策 - 以“算法向善”为导向压实平台责任:推动算法逻辑从“流量至上”向“价值优先”转型,将未成年人权益保护内化为算法设计核心准则[5] - 平台需建立强制性算法透明度披露与审计制度,定期公开推荐机制保护成效并接受第三方评估[5] - 在操作层面,应强制对AI生成内容进行“数字水印”标识与溯源,并建立高效的违规内容识别系统[5] - 推动平台建立“优质内容推荐池”,对符合主流价值、富含知识营养的精品内容实施显著的流量权重加成,重塑信息竞争规则[5] - 以“精准共治”为原则构建监管体系:在未成年人保护法框架下,加快出台针对生成式AI内容治理的专项细则[6] - 建立由网信部门牵头,多部门参与的常态化联合研判与执法机制,实现对新型风险的动态识别与联合处置[6] - 监管手段应突出精准性与敏捷性,例如运用大数据绘制风险传播热点图谱,对重点领域开展靶向治理,并探索“监管沙盒”机制[6] - 以“生态优化”为目标激励优质内容:通过设立专项创作引导基金、实施税收优惠、完善评优推广机制等政策组合,降低优质内容生产与传播成本[6] - 推动形成优质内容共创联盟,鼓励主流媒体、文化机构、高校与平台企业开放资源、协同孵化[6] - 关键改革在于平台内部激励机制:必须将内容的社会效益指标、知识价值密度及青少年正向反馈等纳入流量分配与商业分成的核心算法[6] - 以“素养筑基”为根本筑牢教育防线:将系统的网络素养与批判性思维教育作为基础课程,全面融入中小学各学段[7] - 同步实施家庭数字素养支持计划,通过开发权威指南、开设社区工作坊等方式赋能家长[7] - 广泛动员图书馆、博物馆、科技馆及优秀企业,开发体验式、交互式的素养教育公益项目,在全社会营造崇尚深度思考的文化氛围[7]
货运算法破局:为司机减负,让司机收入更有保障
21世纪经济报道· 2026-01-30 09:58
文章核心观点 - 货运平台算法正从“效率至上”向“公平向善”转型,货拉拉通过第六次算法公开,以技术透明和系统减负为核心,为行业提供了兼顾效率、公平与人文关怀的实践样本,旨在实现平台、司机与货主的三方共赢 [1][15] 构建清晰可预期的减负体系 - 针对行业抽佣规则复杂不透明的痛点,货拉拉通过全维度降抽佣、刚性抽佣上限、持续降费率等措施,将司机成本从“模糊地带”拉回“清晰区间” [2] - **多场景降抽,实现精准减负**:降抽策略覆盖所有订单类型,按品类(用户出价单、顺路单、拼车单)、长里程(100公里以上)及供需情况(如订单长时间未被接单)实施差异化减免,算法实时分析多维特征动态计算减免幅度,若多策略同时满足则自动选用降幅最大的一项 [4] - **刚性抽佣上限,筑牢成本“安全阀”**:明确设置抽佣上限,购买“减佣卡”的司机每笔抽佣上限50元,无卡司机上限100元,彻底杜绝高价值订单佣金无限上涨的问题 [5] - 案例显示,司机承接总价超2200元、里程800多公里的订单,原佣金156元,因触发长里程降抽及50元上限,最终仅支付50元,直接减负106元 [8] - **持续降费率,引领行业良性竞争**:公司将减负作为长期战略,通过“减佣卡+普遍抽成优化”,推动综合抽佣率从2023年的12.2%降至目前的10.9% [8] - 2025年,货拉拉降抽佣累计让利司机2.6亿元,旨在形成“平台让利→司机增收→服务提升→货主认可→平台发展”的良性循环 [8] 系统性优化运营环境 - 除显性佣金成本外,公司还针对计价复杂、到付回款风险、运费拖欠等行业共性隐性风险推出配套措施 [11] - **计价透明化,实现“心理减负”**:对里程计价订单进行规则优化,改为总里程乘以单公里价的模式,使计价更清晰 同时,在运力紧张时段智能启动最高60%的高峰服务费,2025年平台各类补贴与高峰服务费累计投入6.8亿元,命中近5000万笔订单,为司机单均增收13元 [11] - **到付服务费,化解回款风险**:针对到付订单回款风险,创新推出向用户额外收取2%-3%(封顶100元)服务费的机制,直接补偿司机 2025年该机制为司机增收2.4亿元,预计2026年将提升至3.5亿元 [13] - **运费垫付保障,筑牢收入底线**:针对行业普遍存在的运费拖欠问题(据报告占比75.77%),公司承诺对符合条件、长期催付无果的订单主动为司机垫付运费 2025年累计垫付超1000万元,2026年计划将垫付额度提升至1500万元 [14] 从个体实践到行业共识 - 货拉拉的实践表明,算法可作为兼顾效率、公平与人文关怀的桥梁,平台发展不应牺牲司机权益 [15] - 行业健康发展需要各方协同:头部平台发挥示范作用持续推进算法公开与优化,监管部门完善机制强化算法监管,司机积极反馈与平台形成良性互动 [15] - 随着算法向善成为行业共识,更多平台跟进优化,货运行业将朝着更公平、高效、可持续的方向迈进 [16]
货运算法破局:为司机减负,让司机收入更有保障
21世纪经济报道· 2026-01-30 09:46
文章核心观点 - 在数字经济背景下,货运平台算法若盲目追求“效率优先”会导致订单分配不公、司机收益不稳等痛点,算法向善与透明度已成为行业合规与可持续发展的关键课题 [1] - 货拉拉通过第六次算法公开,以技术透明和系统减负为核心,构建了兼顾效率、公平与人文关怀的实践样本,旨在实现平台、司机与货主的三方共赢 [1][19] 构建清晰可预期的减负体系 - 公司实施多场景降抽佣,覆盖所有订单类型,按品类、长里程及供需情况进行差异化减免,算法实时分析多维特征并自动选用降幅最大的策略,确保司机利益最大化 [6] - 公司设立刚性抽佣上限,购买“减佣卡”司机每笔抽佣上限50元,无卡司机上限100元,彻底杜绝高价值订单佣金无限上涨的问题 [7] - 通过案例说明,一位司机承接总价超2200元、里程800多公里的订单,原佣金156元,因触发长里程降抽及50元上限,最终仅支付50元,直接减负106元 [9] - 公司将减负作为长期战略,通过“减佣卡+普遍抽成优化”,推动综合抽佣率从2023年的12.2%降至目前的10.9% [11] - 2025年,公司降抽佣累计让利2.6亿元,持续让利旨在形成“平台让利→司机增收→服务提升→货主认可→平台发展”的良性循环 [11] 系统性优化运营环境 - 公司推出计价透明化措施,将里程计价订单规则优化为总里程乘以单公里价的模式,使计价更清晰 [15] - 在运力紧张时段,平台智能启动最高60%的高峰服务费,2025年各类补贴与高峰服务费累计投入6.8亿元,命中近5000万笔订单,为司机单均增收13元 [15] - 公司创新推出“到付服务费”机制,对到付订单向用户额外收取2%-3%(封顶100元)的服务费,直接补偿司机回款风险,2025年该机制为司机增收2.4亿元,预计2026年将提升至3.5亿元 [17] - 针对行业普遍存在的运费拖欠问题(占比75.77%),公司承诺对符合条件、长期催付无果的订单主动为司机垫付运费,2025年累计垫付超1000万元,2026年计划将垫付额度提升至1500万元 [18][19] 从个体实践到行业共识 - 公司的算法公开是货运行业算法从“效率至上”向“公平向善”转型的实践,其核心逻辑是算法应成为兼顾效率、公平与人文关怀的桥梁 [19] - 行业健康发展需要各方协同:头部平台发挥示范作用推进算法优化,监管部门完善机制强化算法监管,司机积极反馈形成良性互动 [21] - 从公司的六次算法公开可见行业积极变化,算法开始承载人文关怀,平台转型为司机赋能,行业正摆脱内卷走向良性发展 [21]
算法不能向善,线下不得安宁
新浪财经· 2026-01-24 15:17
行业现状与问题根源 - 当前流量分发规则由算法主导,其逻辑是“流量至上”,规规矩矩的内容无人问津,而剑走偏锋的违规操作却能轻松获得高曝光量[2] - 部分主播为迎合算法偏好,采取如占道公共空间、煽动对立等违规行为以换取流量,形成了“越违规越有流量”的恶性循环模式[2] - 平台算法设计为恶俗与违规内容提供了生存土壤,推送机制表现为内容越出格、争议越大,则获得的流量推送越密集[2] 平台责任与算法影响 - 平台责任不仅限于事后封号等管理措施,更关键的是需从算法设计的源头进行干预,切断违规内容获得的流量激励[2] - 算法本身没有价值观,但其设计与运营方需承担社会责任,若将商业利益凌驾于社会责任之上,以“争议性”和“出格程度”作为核心分发指标,将导致线上混乱向线下现实秩序蔓延[2] - 线上流量狂欢直接导致了线下公共空间的秩序混乱,例如主播占用外滩观景道等行为,即是算法之“恶”在现实中的体现[2] 解决方案与未来方向 - 终结乱象需推动算法“向善”,平台应重构流量分发逻辑,确保合规内容获得更多曝光,同时对违规行为坚决实施限流[3] - 监管部门需加强对算法的监管,给平台念“紧箍咒”,以此倒逼平台履行其主体责任[3] - 若算法分发逻辑不改变,持续偏爱“越界者”,则线下执法与警告难以从根本上解决问题[3]
热点追踪丨抵挡“数字泔水”的三道防线
新华社· 2026-01-21 11:20
行业核心观点 - “数字泔水”(低质数字内容)泛滥是技术红利与流量贪婪叠加的产物,对未成年人成长构成多重隐患,需通过技术、监管、家校协同共治来应对 [3][6] 行业现状与问题 - “数字泔水”泛指虚假剧本短视频、畸形价值观微短剧、AI低俗魔改经典作品等低质数字内容,已成为社会关注焦点 [1] - 其泛滥本质是AI技术普及与流量贪婪叠加,算法推荐加速了其向未成年人扩散 [3] - 我国未成年网民规模已突破1.96亿,营造健康数字环境至关重要 [4] 对未成年人的具体影响 - 消解认知能力,造成思维钝化:通过“即时爽感”诱导沉迷,拉高情绪满足阈值,导致对优质内容丧失兴趣与耐心,主动思考能力退化 [3] - 扭曲价值认知,埋下心理隐患:承载的不良导向会模糊是非边界,使未成年人错把恶搞当趣味、出格当个性,在成长关键期陷入价值迷思 [3] - 污染社交生态,诱发行为异化:低质内容被当作“潮流”后,会裹挟未成年人社交圈层,诱发畸形行为习惯 [3] 治理对策与行业行动 - **技术防线**:平台需扛起主体责任,摒弃“流量至上”,推动“算法向善”,通过优化推荐机制为优质内容进行算法加权,阻止流量流向“数字泔水” [4][5] - **技术防线**:需强化技术审查,狙击虚假信息,帮助公众识别AI生成的虚假内容 [5] - **监管防线**:需加快完善AI生成内容监管法规体系,明确责任边界,针对低俗魔改、虚假剧本等突出问题出台专项治理细则 [5] - **监管防线**:2026年1月1日起施行的新《网络安全法》为专项立法细化人工智能监管、算法透明度要求等具体规则奠定法律基础 [5] - **家校防线**:学校需结合未成年人认知特点,通过专题教育培养孩子独立思考能力与批判性思维,增强信息筛选与抵制诱惑的“免疫力” [5] - **家校防线**:家庭应避免让手机成为“电子保姆”,通过正向引导与习惯培养,让孩子在清朗数字环境中成长 [5] 治理成效与行业方向 - 我国持续推进“清朗”系列专项行动,2025年清理违法违规信息超百万条 [5] - 治理核心是为技术划定边界,通过制度倒逼行业规范发展,而非限制技术 [5] - 抵御“数字泔水”需技术、监管、家校三方协同共治,三道防线同向发力才能铲除其滋生土壤 [6]
如何让“飞奔的人”无忧奔跑
新浪财经· 2025-12-29 03:26
文章核心观点 文章探讨了以快递员、外卖骑手、网约车司机、网络主播等为代表的“新就业群体”在社会保障、平台算法规则、城市融入与行业治理等方面面临的挑战,并介绍了济南市通过创新法律服务、推动算法透明化、建立行业协会与社区共治机制等方式,为保障该群体权益、促进行业可持续发展所进行的实践探索[3][7][8] 新就业群体规模与现状 - 在济南市,新就业群体规模庞大,日均外卖订单量达100万单,快递订单量达270万单,并有2.88万名网约车司机日夜奔波[3] - 该群体的工作状态紧密连接城市运行效率与市民日常生活幸福指数[3] 社会保障挑战与“量身定制”探索 - 在灵活用工模式下,众包、外包等形式模糊了劳动关系界定,部分平台借此规避社保缴纳义务,外卖骑手尤其是兼职骑手成为社保“裸奔”的“重灾区”[4] - 外卖骑手与平台签订每周一续的用工协议,缺乏正式劳动合同和社保缴纳,对未来保障存在普遍担忧[4] - 济南市共建了21家法律服务工作联系点,今年以来已为新就业群体提供法律咨询和帮助296次,其中社会保障类咨询占比达45.6%[4] - 济南市12345热线专门增设“新就业群体法律纠纷”受理类别,已成功处理近200件相关诉求,其中社会保障类问题占比近35.97%[4] - 专家建议为新就业群体“量身定制”社会保障政策,优化社保方案设计,让缴费基数和比例更具弹性,并推行多种缴费方式[4] - 建议探索建立兼顾平台成本和劳动者权益的社保机制,并鼓励头部企业率先示范[4] 平台算法与抽成规则透明度问题 - 网约车平台抽成规则不透明,司机反映每单抽成在20%至27%间浮动,但具体计算规则平台未明确说明[6] - 记者实测案例显示,11.09公里路程乘客支付22元,驾驶员实收16元,平台抽成比例达27%[6] - 网约车司机反映,特惠单、低价单的抽成比例往往更高,且低价竞争的成本转嫁给了司机[6] - 有司机接到“一口价”订单,因堵车耗时2小时最终收入不足50元,无法覆盖时间和燃油成本[6] - 交通运输部要求各主要平台公司公布的最高抽成比例不超过30%,济南网约车平台最高抽成比例未超过此上限[6] - 专家指出,需通过立法明确规则,将“算法向善”从理念转化为可审计、可追责、可优化的制度实践,让规则公开透明[6] 行业治理与城市融入的“双向奔赴” - 济南市创新服务管理,组建了网约车司机、网约货运司机、网约配送员、快递员、网络主播5个新就业群体协会,首批吸纳112个单位和246名个人入会[7] - 协会搭建沟通桥梁,旨在通过关爱服务帮助新就业群体融入城市发展,实现群体成长与城市治理的“双向奔赴”[7] - 社区为新就业群体提供公益暑假托管班等暖心服务,解决其后顾之忧[7] - 新就业群体积极回馈社区,济南已选聘810名骑手兼任社区流动网格员、166名骑手兼任食品安全监督员,参与平安创建、文明宣传和社区服务[7] - 通过“泉城星光”评选等活动提升新就业群体的职业尊崇感和城市归属感[7]
抖音安全与信任中心在沪举办研讨会,学者共议算法向善与治理透明
搜狐财经· 2025-12-25 00:41
文章核心观点 - 抖音平台通过举办专家沟通会,旨在推动算法透明化与“算法向善”的实践,并计划将专家建议融入其算法机制与治理体系的优化中 [1][8] 算法原理与透明度建设 - 公司算法工程师与内容运营在会上介绍了抖音的算法原理和平台内容生态建设 [3] - 公司持续加强平台透明化建设,其安全与信任中心官网于3月上线,公开算法原理和治理政策 [8] - 有专家指出,当前算法透明的实践主要集中在技术可解释性,但对普通公众而言在可理解性、易理解性方面仍有门槛,建议从“技术透明”走向“治理透明”以培养知情公众 [7] - 公司计划将本次沟通会的专家建议融入算法机制优化与治理体系完善中 [8] 用户需求与算法体验 - 专家指出短视频用户群体存在明显分层,算法需兼顾不同用户的多元需求,没有完全一样的推荐机制和统一的用户 [3] - 专家建议平台关注用户主观感受,提升用户控制权,例如优化“使用管理助手”,并为“不感兴趣”功能添加细分原因标签以增强算法透明度 [5] - 专家认为缓解“信息茧房”争议的关键在于增强用户对推荐内容的“可控感” [5] - 公司已升级“使用管理助手”,为用户提供观看时长分析和内容偏好管理工具 [8] 平台治理与社会责任 - 专家强调平台算法治理是一种“空间治理”,许多问题是真实社会问题的投射,难以单纯依靠技术调整解决结构性社会需求 [4] - 专家建议平台应正确看待批评,重视算法在公共事务讨论中的影响,并在数据开放、谣言治理及关注青少年心理健康方面采取更细致的方法 [3] - 专家建议平台将更多社会目标纳入推荐算法体系,以实现社会责任与商业利益的动态平衡,并通过与创作者联动增强用户对“算法向善”理念的感知 [7] - 专家承认社会“公序良俗”界定是平台治理难点,强调需通过持续优化算法设计与生态治理机制进行渐进式改良 [7] - 针对直播平台,专家建议完善面向创作者的沟通框架,明确区分短视频与直播的推流逻辑与反馈机制 [8] 内容生态与行业挑战 - 专家指出“优质内容”的标准可能仅代表平台或意见领袖的意志,其推广需处理与大众文化趣味脱节的挑战 [7] - 公司主动搭建沟通桥梁,今年以来在北京、上海、广州、成都、武汉等城市举办了20余场专题沟通会及行业交流会,以回应算法焦点问题 [8]
聚焦“十五五”规划建议丨繁荣互联网条件下新大众文艺
新华网· 2025-10-29 08:40
政策导向 - 《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》提出广泛开展群众性文化活动并繁荣互联网条件下新大众文艺 [1] - 政策旨在加强对新兴文艺的支持和引导,推动资源参与发展,将网络空间的创造灵感和创新活力转化为文化产品 [1] 行业现状与规模 - 截至2025年6月,中国短视频用户规模达10.68亿人,微短剧用户规模达6.26亿人 [1] - 互联网和信息技术为文化创新繁荣打开巨大空间,推动新大众文艺蓬勃发展 [1] - 人民大众以前所未有的规模和意愿深度参与文艺创造,运用新技术新工具创新文艺形式和表达方式 [1] 行业挑战 - 部分创作者在流量驱使下一味追求短期商业利益,出现泛娱乐化、同质化等倾向 [1] 发展建议 - 需加强对新大众文艺发展规律、价值逻辑与技术向善等方面的研究,营造良好发展生态 [2] - 应强化价值引导与平台责任,推动算法向善、打破信息茧房,创建积极健康的网络文化环境 [2] - 新大众文艺发展要牢固树立质量为王意识,坚持满足人民群众精神文化需求,释放新兴文艺的正能量 [2]
征集响应万条建议、普惠超400万城市骑士 饿了么签订平台算法和劳动规则协议
环球网· 2025-09-10 21:24
平台算法与劳动规则协议 - 饿了么平台签订全国首份平台算法与劳动规则协议 覆盖超过400万城市骑士[1][3] - 协议内容涵盖劳动报酬 休息休假 劳动保护 福利保障及协商协调机制[1][7] - 平台通过恳谈会形式与一线骑士达成共识 前期征集近1万条建议并分类为217类问题[3][4] 劳动报酬优化措施 - 平台确保众包骑士小时劳动报酬不低于当地最低工资标准 收入不低于月最低工资标准[7] - 算法提高远距离订单配送时间动态调整 对超重或难配送订单增加计价权重[6] - 顺路单派单几率提升至90%以上 通过订单搭配减少空驶[6] 劳动保护与安全升级 - 算法增加交通管制 天气预警等动态因素权重 降低超时概率和事故风险[7] - 逐步取消超时扣款处罚 改用正向激励和技术牵引方式[7] - 推进防疲劳规则升级 优化强制下线功能保障身心健康[7] 福利保障创新举措 - 淘宝闪购与饿了么推出养老保险 医疗保险补贴全国覆盖 属行业首次[3][9] - 2025年底前对稳定跑单骑士补贴至少50%保险费用 队长和荣誉骑士全额补贴[9] - 提供帮困专项资金 子女助学计划及残障骑士专项保障等"橙意计划"[9] 业务规模与就业影响 - 淘宝闪购8月周日均订单量达8000万单 日均活跃骑手超过200万[9] - 对比去年同期创造超过百万个新就业岗位[9] - 多平台竞争推动市场活力 增加商家消费者选择权并促进骑手增收[9]
推送算法破茧:愿你在手机上刷到更大的世界,而非自己的影子
21世纪经济报道· 2025-05-22 20:14
算法治理专项行动成果 - 中央网信办针对算法推荐加热低俗信息、加剧信息茧房等问题开展专项行动,督促平台优化算法功能并取得阶段性成果 [1] - 平台已公开算法规则原理,开发"茧房评估""一键破茧"等功能帮助用户自主调节推荐强度 [1] - 国家互联网信息办公室公开发布数百条境内互联网信息服务算法备案信息,推动算法透明度提升 [1] 平台算法发展现状与挑战 - 推荐算法推动内容产业生态发展,一季度全网月活用户达12 59亿,月人均使用时长175 8小时(日人均5 86小时)[2] - 超级平台用户规模扩大导致算法治理面临新挑战,平台实际运行情况存在监管穿透困难 [2] - 部分案例显示算法流量机制被滥用,如抖音用户编造故事骗取流量,反映算法利益导向可能掩盖真实性 [2] 算法治理创新路径 - 需建立政府、企业、媒体、科研机构及用户协同的常态化治理机制 [3] - 监管技术需突破算法不透明特性,建设多方参与的算法治理实验验证平台实现逆向监管 [3] - 建议通过用户视角对推荐算法结果进行跟踪记录和评估,实现可追溯性 [3]