Workflow
信息茧房
icon
搜索文档
【夜读】“萝卜纸巾考试”火了!每个人都值得一句“真棒”
新浪财经· 2026-02-09 23:11
核心观点 - 文章以“萝卜纸巾考试”这一互联网现象为切入点 探讨了在人际交往和网络环境中培养宽容、打破偏见、实现自我肯定与相互鼓励的重要性 [1][5][8] 现象分析 - “萝卜纸巾考试”从人与猫咪的互动测试 逐渐演变为跨越多个领域和群体的流行活动 其特点是容错率极高 [4] - 该现象的核心在于人们默认并接受了“人各有盲区”和“术业有专攻”的事实 将不熟悉的领域转化为默契的笑点而非冲突点 [4] - 这一活动为公众提供了一个温和的出口 用以承认自身局限并包容他人的陌生领域 [5] 社会启示 - 当前网络环境中 不同圈层的知识盲区或相悖观点常导致网友陷入针锋相对的争执 部分源于“信息茧房”效应 [6] - “信息茧房”的形成与个体行为相关 人们主动屏蔽不喜欢的声音 远离相悖观点 降低了对陌生事物的耐受度 能容忍自己的无知却难以容忍他人的不同思考 [6] - 打破“信息茧房”的关键在于主动收起偏见 包容他人的不同 认识到生活许多事情并无绝对标准答案 [6][7] - 该活动启示人们 无需在差异上一较高下 也不必强求他人与自己保持一致 [6] 价值倡导 - 每个人都有自己的知识盲区 也必然拥有自己擅长和热爱的领域 并值得获得肯定 [8] - 真诚的赞美“真棒”不应只限于天才或第一名 而是可以给予任何展现所长与所爱的人 即使其内容并不“高大上” [8] - 文章倡导将互联网人际交往视为一场温柔的“考试” 在理解他人不同声音的同时 也学会肯定自己的优点 [8] - 最终目标是让宽容不止于网络热梗 而是能融入每一次现实的观点碰撞之中 [8]
别让AI的信息茧房困住青年实践的步伐
新浪财经· 2026-02-08 07:56
文章核心观点 - 当代大学生正从“数字游民”进化为具备AI素养与协作能力的“AI公民” 但AI工具的便捷性也可能使其陷入“认知舒适区”和“信息茧房” 导致脱离实际场景与缺乏主动探索动力 [1] - 社会实践是纠正AI认知偏差、实现知行合一的关键 高校通过组织学生深入乡村与产业一线 让AI技术落地应用 使学生从“课堂学习者”转变为“乡村建设者” 认识到基层答案在于实地走访而非算法 [2] - AI是高效学习的认知工具 但真正的成长需要在实践中完成 青年应让AI服务于实践 并用实践校正AI认知 以此在技术浪潮中站稳脚跟 练就过硬本领 [3] 高校社会实践与AI应用案例 - 福建农林大学实践队在闽清县樟洋村驻村两周 为全国首个“乡村OPC(一人公司)”大会提供全流程保障 并实地解决槟榔芋销售难题 利用AI工具制作文旅宣传短视频和设计乡村文旅LOGO [2] - 闽江学院实践队在古田县食用菌产业基地探访产业“数字大脑” 走进现代化菇房与龙头企业 实地见证AI赋能银耳产业 并通过深度访谈厘清AI技术在乡村产业应用的制约因素与实施路径 [2] AI工具的双面性 - AI工具能提供丰富的理论分析、资料梳理和策略建议 但易让青年远离真实应用场景 例如能算出农产品市场数据却无法感知田间产销痛点 能生成文化活动方案却难以体会传统技艺的文化温度 [1] - AI整合的海量答案与面面俱到的分析会造成信息饱和 算法构建的“信息茧房”可能使青年认知停留在“虚拟框架”中 陷入“纸上谈兵”的惰性 丧失主动探索和亲身体验的动力 [1] “知”与“行”的辩证关系 - 信息的易得性不是实践的对立面 AI作为认知工具为青年打开了高效学习的窗口 能在社会实践前帮助其高效搭建知识框架和把握时代脉搏 [3] - 真正的成长需要在“行”中完成 当青年走进田间地头、非遗工坊和产业一线时 能以现有知识为基础 在实践中修正认知偏差、锻炼实际能力 实现从理论认知到实践行动的转变 [3] - 青年需坚守“实践出真知”的初心 让AI服务于实践 同时用实践校正AI的认知 以此在技术发展中既掌握数字技术硬本领 也具备躬身实干真能力 [3]
在焦虑社会和AI时代,特别能共情的人将成为稀缺人才
第一财经· 2026-02-06 14:45
文章核心观点 - 文章以《焦虑社会》一书为引,探讨了在信息技术和人工智能加速发展的数字时代,个人与组织普遍面临焦虑的社会现象,并指出“疗愈经济”和“情绪资本”的兴起是应对焦虑的重要市场响应,同时强调建立深层社会连接和提供情绪价值将成为未来社会的重要需求与职业方向 [5][9][13][14] 社会焦虑的成因与表现 - 个人焦虑主要源于事业发展未达预期(25%)、亲密关系不理想(16.8%)和经济压力(15.8%)[8] - 同辈比较竞争(32.8%)、父母等外界压力(31.7%)和社会整体焦虑氛围(25.2%)是推高焦虑感的主要因素 [8] - 数字技术和人工智能的快速发展导致工作生活节奏突然变快,使人难以适应,在社会层面催生了“内卷”与“躺平”心态 [9] - 数字网络使生活碎片化,人的时间与精力被切割,疲于应付各种事项 [10] 特定职业群体的焦虑案例(医生) - 一项针对中国28个省份1.3万名医生的调查显示,医生日均出诊7.8小时,另需1.5小时应对科研任务,每周平均工作5.8天 [11] - 医生日均接诊26人,单人平均诊疗时间仅16分钟,工作强度大 [11] - 60%的医生对医患关系紧张感到害怕,超过三分之二的医生认为媒体对医疗纠纷的报道不属实 [11] - 职业倦怠导致医生群体出现分化,部分医生为寻求工作与生活的平衡,选择离开三甲医院前往压力较小的机构,即使这意味着放弃更高的收入和声望 [11] 应对焦虑的社会方案与市场机遇 - “疗愈经济”在2019年已成为中国十大消费新现象之一,全球健康研究所预测其市场规模到2025年将达到7万亿美元 [13] - 疗愈形式多样,包括艺术、禅修、接触自然景观等,旨在提供脱离固有生活的体验,例如美术疗愈通过绘画促进左右脑对话来解决问题 [13] - 社会学家认为,情绪资本的影响将逐渐超过人力资本,情绪将成为数字时代的市场要素,疗愈性陪伴响应了焦虑社会的刚需 [13] - 应对焦虑的“社会药方”之一是通过拓展社会连接、建立和善的社会关系来提供共情交流 [14] 未来职业与教育趋势 - 人工智能的快速发展可能导致大学教授岗位及集中授课方式消失,教师的角色将转向从人生阅历上为学生提供情绪价值和指导 [14] - 教育领域中,与人心灵更近的岗位(如幼儿园、小学老师)因其对学生的细心、耐心和共情能力,将比大学老师更稳定,职业供给会更多 [14] - 特别能共情、对人类心灵启迪更有经验的人,将逐渐成为数字时代最稀缺的人才 [14]
新华视点|“数字泔水”污染加剧,怎么管?
新华社· 2026-02-02 18:22
文章核心观点 - AI技术被滥用于批量生成低质量数字内容(即“数字泔水”)包括劣质爽文、“魔改”视频等 这些内容在网络上泛滥 污染了网络生态 并对青少年价值观形成和认知能力构成潜在威胁 其背后是技术滥用、流量驱动的灰色产业链以及平台算法推荐机制共同作用的结果 应对挑战需要系统治理 包括完善法规、强化平台责任以及家庭和学校的引导 [1][2][3][4][5][6][7] “数字泔水”的现象与表现形式 - AI生成的“爽文”数量激增 内容涉及校园暴力、逆袭等夸张剧情 价值观存在问题但令人上瘾 在一些网络社群中有青少年主动索要此类“资源” [1] - AI技术被滥用于“魔改”传统文化经典视频 例如将《西游记》与西方元素、暴力内容诡异组合 或将《三国演义》打斗场面改成“激光大战” 此类内容在短视频平台上仍有传播 [2] - “数字泔水”不仅限于文字 还包括低俗小说、“魔改”动画、虚假视频等 AI生成内容已渗透至网络各领域 [2][3][4] “数字泔水”泛滥的成因与生产逻辑 - **技术滥用与低门槛生产**:AI技术大幅降低了“数字泔水”生产门槛 例如电商平台上有售价29.9元的“AI短视频制作教程” 有的已售出上千份 教程售卖者只考虑谋利 不管用途 导致低质内容越来越多 [3] - **“流量贪婪”与灰色产业链**:部分内容生产者为赚快钱 量产吸引眼球的内容收割流量 例如有自媒体通过AI生成编造“珠峰电梯建成测试”等虚假信息 一些MCN机构会分析用户偏好 通过AI工具生成内容 再利用大量“僵尸账号”发布 以猎奇博眼球、以数量换流量 [4] - **算法推荐机制强化传播**:平台算法以点击量、完播率为核心考核指标 低质内容因具有短时长、强刺激的特点更容易获得高数据反馈 算法根据用户点击记录持续强化推荐 形成“用户点击—算法推荐—更多点击”的循环 将用户困于“信息茧房” [4][5] “数字泔水”的社会影响 - **对青少年的潜在危害**:青少年时期是价值观形成的关键时期 AI生成的文章渲染“暴力冲突”“物质攀比”等畸形观念 可能催生偏激心态与二元对立思维 [2] 长期接触同质化、套路化的AI垃圾内容 可能导致大脑变得懒惰 影响思考与创造能力 [3] AI“魔改”视频会传播错误认知 割裂文化传承 削弱年轻一代的文化认同与历史敬意 让孩子与严肃阅读的距离越来越远 [2] - **污染数字生态形成恶性循环**:一些低质内容被用于AI训练数据库 进一步污染数字生态 形成了“泔水投喂泔水”的恶性循环 [3] - **可能导致网络成瘾**:未成年人过度依赖网络 容易发展为网络成瘾 导致社交障碍、心理问题等一系列严重后果 [7] 行业监管与治理动态 - **用户规模与监管完善**:截至2025年6月 中国生成式人工智能用户规模达5.15亿人 [6] 监管法律规章正逐渐完善 《人工智能生成合成内容标识办法》已于2025年9月1日施行 要求所有AI生成内容必须进行显著标识 [6] 新修改的《中华人民共和国网络安全法》于2026年1月1日施行 进一步明确了AI内容监管与平台主体责任 [6] - **对平台的要求**:相关网络平台需规范自身行为 对AI生成内容进行显著标识 并过滤有害、垃圾信息 平台应优化推荐算法 避免过度向老年人、未成年人等群体大量推送AI生成的低质内容 对于违法违规、有违公序良俗的内容 应加强自查并配合监管部门防范打击 [6] - **对家庭与学校的要求**:学校和家庭应积极引导未成年人多读纸质书 养成学历史、读经典的习惯 学校、媒体和网络平台应多提供适合学生群体的优质历史文化读物与影视作品 共同营造健康的成长环境 避免未成年人过度沉迷网络 [7]
从货比三家到AI代劳:一场静悄悄的“认知绑架”
搜狐财经· 2026-02-01 16:43
消费者行为模式变迁 - 消费者决策习惯正发生根本性剧变,从主动在购物软件中“货比三家”转向直接向AI提问以获取商品或服务推荐[1] - 行业从“逛”的传统电商随机探索模式,转变为由AI驱动的强需求导向模式,旨在快速满足预设需求[2] AI电商的商业模式与潜在影响 - AI算法通过分析用户海量数据,为用户贴上精准标签,并在其身份圈层内进行商品推荐[2] - 平台利用算法进行“心理战”,例如先展示高价产品锚定认知,再推送低价产品制造捡便宜错觉,并使用“库存紧张”、“大家都在买”等策略影响消费决策[2] - AI推荐引擎被视为“黑箱”,其推荐逻辑缺乏透明度,消费者难以分辨推荐是基于产品力还是商业利益[3] - 有测评发现,AI在推荐美妆产品购买平台时,其推荐平台的价格比另一主流平台高出近60%[3] 行业竞争与营销策略演变 - 品牌方正采用GEO(生成式引擎优化)技术,通过分析AI算法偏好,生产并投放AI喜欢的内容,以争夺在AI生成答案中的“话语权”[3] - 这种策略模糊了商业信息与客观事实的边界,将营销内容嵌入AI回复,形成一种高级的“认知广告”[3] AI技术局限性与消费者风险 - AI存在“幻觉”风险,有时会推荐根本不存在的商品或品牌[4] - AI的过度个性化推荐可能强化用户既有偏好,降低用户发现新奇与未知商品的可能性,形成“信息茧房”[4] - 行业提供的AI模特等内容可能呈现比实际更纤瘦的虚拟世界,影响消费者审美判断[2] 对消费者与行业的建议 - 建议消费者对重要消费决策使用多个AI工具进行交叉验证,并通过提出如“请推荐除了A品牌之外的其他选择”等问题来测试AI推荐的客观性[4] - 强调AI仅是工具而非最终决策权威,消费者需保持独立思考能力[4][5]
评论区不能被算法“控制” | 焦点网谈
搜狐财经· 2026-01-29 02:51
文章核心观点 - 社交媒体及电商平台的算法推荐机制,通过“定制评论区”等方式制造“信息茧房”和“回音壁”效应,长期来看会加剧群体对立、损害平台公信力并影响青少年价值观,因此需要从国家监管、平台责任与个人素养三方面进行综合治理,以打破算法黑箱,恢复网络空间的多元与健康 [3][6][8][9] 平台算法机制与影响 - 平台算法基于用户互动行为(如赞、踩、转发、评论)实时搜集偏好并调整推荐内容,实现“千人千面”的信息推送,其根源在于平台的趋利性 [3] - “定制评论区”通过个性化推荐屏蔽反对意见,让用户产生“持相同观点者是大多数”的错觉,人为隔离不同观点群体 [6] - 算法导致的单一观点呈现消除了多样声音,长远看不利于健康网络空间建设 [6] 定制评论区的社会危害 - 加大群体对立情绪,被隔离的对立观点不会消失,可能在未来引发更大的对抗 [6] - 极化意见影响青少年价值观,青少年三观尚在形成期,易被极端观点误导,普通人亦易被情绪裹挟,导致“后真相”效应凸显 [6] - 损害平台公信力,不同群体的网络对骂无助于事件解决,平台介入管理(如叫停名人线上“隔空约战”)是建设性举措,但刻意设置单一立场侵犯公众知情与表达权 [6][7] 国家层面的监管与治理 - 国家通过连续开展网络专项治理行动、出台《互联网信息服务算法推荐管理规定》、发布《网络名人账号行为负面清单》等措施,制度笼子越织越密 [8] - 监管部门需运用人工智能、大数据追踪平台热点事件,及时纠正走偏的舆论导向,并将平台算法行为及影响纳入社会责任考核 [8] - 对放任群体对立的平台要及时约谈,同时对“一刀切”粗暴禁声的行为也要叫停 [8] 平台企业的责任与行动 - 平台企业应适度公开算法规则,使算法透明化,避免“算法”变“算计” [8] - 平台应综合运用内容去重、打散干预等策略,不极化检索、排序、选择、推送等行为,避免对用户产生不良影响 [8] - 平台需完善算法,减少用户沉迷,避免信息过载 [8] 个人用户的应对与素养 - 个人需加强媒体素养,善于聆听不同声音,在了解事件全貌后下结论,避免被单一信息源或网络名人误导 [9] - 个人在表达观点时应遵守法律法规及平台规则,并注重保护个人隐私,在App隐私设置中取消平台过度搜集个人偏好的授权 [9] - 拒绝算法裹挟,拥有对“定制”内容说不的选择权,是走出“信息茧房”的关键 [9]
阿尔法世代来了,Z世代会被嫌弃吗? | 编辑部聊天室
新浪财经· 2026-01-25 11:50
文章核心观点 - 数字技术特别是社交媒体和智能设备的普及 正在深刻重塑代际关系和社会结构 一方面技术创造了新的沟通方式和共同文化 如表情包和tag 另一方面也加剧了代际间的误解 隔阂甚至对立 这种影响是复杂且多层次的 涉及社会心理 沟通方式和文化认知等多个维度 [1][6][25] 复杂因素影响下的代际划分 - 代际划分标准因社会而异 中国常以十年为一代 如80后 90后 00后 而西方社会则使用Y世代 Z世代等概念 划分依据是特定群体共同经历的社会思潮或重大事件 如美国的婴儿潮一代或中国疫情期间的大学生群体 [1][2] - 社会变迁速度影响代际差异 中国社会高速发展导致代际观念冲撞剧烈 原生家庭等话题讨论热烈 相比之下 社会变化较缓的国家如日本 代际冲突则不明显 [2] - 互联网普及时间点不同导致“数字原住民”定义存在地域差异 例如1996年中国大多数家庭没有个人电脑 大规模普及发生在2000年甚至2005年之后 这使得以互联网为标志的Z世代划分在全球范围内并不同步 [3] 数字原住民感知世界方式的变化 - 不同世代与互联网的共生关系不同 90后伴随互联网普及成长 00后生活初期已有互联网 而2010至2025年出生的阿尔法世代则是完全的数字原住民 [6] - 阿尔法世代接触数字设备极早 40%在两岁 58%在四岁就拥有平板电脑 近四分之一在八岁拥有手机 三分之二每天在社交媒体上花费4个小时 [6] - 人机交互方式从文字向视频演变 影响了世代感知世界的方式 千禧一代多用Facebook 微博等文字平台 而年轻世代更倾向使用Instagram 抖音等视频化应用 [8] - 手机功能从娱乐工具转变为生活必需品 疫情期间 手机因网课 通知等需求获得合法性 使用时间显著提升 其角色扩展至学习和工作领域 [9] 数字工具如何创造社交隔阂 - 过度依赖电子设备可能损害解读非语言社交信号的能力 使人们更习惯于线上沟通而非面对面交流 [11] - 数字沟通允许“已读不回” 避免了现实社交中必须回应的压力 但也使人难以捕捉微表情和氛围等微妙信息 [12] - 媒介之外 社会结构变化同样塑造代际特征 例如中国计划生育政策造就了大量独生子女 影响了他们向外的沟通方式和独处习惯 [13] - 在特定社会评价体系下 外向性格曾被视为获得更高评价的重要维度 这进一步塑造了特定世代的行为模式 [15][16] “tag文化”背后的心理茧房 - 表情包和梗文化成为年轻世代的交流工具和文化暗语 但其含义可能不被上一代理解 从而形成区隔 例如微笑表情对两代人意味着不同情绪 [17] - “tag文化”和精准推荐算法在提升信息分发效率的同时 也强化了信息茧房和群体区隔 消费者倾向于选择能持续推送符合自己喜好内容 带来多巴胺冲击的平台 [18][19] - 互联网氛围从促进跨身份沟通的“地球村”转向强化身份认同和对立的“派系主义” 标签化加剧了观点极化和身份政治实践 [20] - 代际标签化加剧隔阂 如年轻世代常认为上一代占尽时代红利 但每一代内部都存在巨大差异 代际身份需与阶级 地域等其他身份交叉看待 [23][24] 未来代际关系的走向 - 媒介发展可能使个体更倾向于通过数字工具满足情感需求 从而加剧人与人之间的原子化 甚至阻碍面对面的直接联系 [25] - AI作为新的对话对象正在兴起 许多人开始使用AI文本聊天解决情感需求 甚至与AI进行视频通话 对于AI原住民而言 工具可能具备“万物有灵”的对话潜质 [25][27] - 网络公共空间的治理模式将影响代际等群体关系的讨论走向 例如小红书新版社区公约明确反对制造对立 这为相关讨论增加了新的复杂度 [27] - 面对科技影响 态度分化为乐观与悲观 乐观者认为人类作为群体动物仍需连接 悲观者则认为社交媒体加剧原子化 未来代际变化周期可能从十年缩短至一年 [28]
“平台不欢迎有毒的流量”,抖音如何驾驭算法?
搜狐财经· 2026-01-24 00:11
行业背景与趋势 - 海外社交平台X于1月20日正式开源其推荐算法,并计划每四周更新一次相关代码,此举被视为提升算法透明度的举措 [1] - 算法已深度嵌入公众日常生活,但用户对算法的了解远弱于算法对用户的了解,形成了“算法黑箱”之说 [1] - 为防范算法风险,监管部门通过法规和专项行动开展算法治理,例如2024年11月中央网信办启动了“网络平台算法典型问题治理”专项行动 [1] 抖音的算法透明度举措 - 抖音于2025年1月3日推出10项措施推动平台工作透明化,并于2025年3月建立“安全与信任中心”网站,不定期公开算法原理与平台治理体系 [1] - “安全与信任中心”网站上线迄今累计访问量超150万人次,发布了十余条关于算法运作逻辑的科普文章 [5] - 抖音每个季度组织一次用户信任感调研,问题涉及社会责任、沉迷困扰、内容可信度及平台氛围等 [5] - 抖音不仅自行撰写科普内容,还联合外部博主制作深度科普视频,并在线下举办开放日、沟通会,2025年全年举办了30余场交流会 [10] - 抖音内容运营负责人表示,算法原理并非公司秘密,公开目的是增进外界理解并取得用户信任 [2][10] 抖音推荐算法的运作原理 - 推荐算法旨在帮助内容精准找到感兴趣的用户,当用户打开抖音时,算法会对候选视频打分 [7] - 视频得分取决于两大要素:一是用户对视频进行点赞、关注、收藏、分享等行为的概率;二是每项行为对应的价值权重分,将概率乘以权重后加总得到综合得分,根据得分排序进行推荐 [7] - 基于用户行为预估的推荐算法可能被“搭便车”,一些博眼球、诱导点赞的内容可能获得更高的行为预测得分 [7] 对算法负面效应的治理:“愤怒诱饵” - “愤怒诱饵”指用令人沮丧、冒犯或制造分裂的方式煽动愤怒以提升参与度的内容,该词在2025年被列为牛津年度词汇,过去12个月内使用频率增长了两倍 [11] - 抖音表示不欢迎此类“有毒的流量”,因其会导致平台戾气弥漫并引发用户反感 [12] - 抖音早在两三年前就已关注此现象,并持续用算法进行治理,算法会对可能激化矛盾的内容赋负分以降低推荐权重 [12] - 针对热点争议事件,抖音于2025年5月发布《抖音社区热点信息和账号治理规则》,打击谣言和挑动对立的内容,并邀约专业创作者引导理性讨论 [13] - 治理行动会带来一定程度的流量损失,但抖音将社区公约导向的优先级置于这些损失之前 [15] - 2026年1月,抖音在安全与信任大会上公布新的“10项举措”,强调将多维度治理“愤怒诱饵”、强化争议热点研判 [16] 对算法负面效应的治理:“信息茧房” - “信息茧房”指人们只接触自己感兴趣的信息形成封闭系统,个性化推荐算法常与此问题挂钩 [16] - 抖音认为仅推荐单一内容会使用户厌倦并导致活跃度下降,因此平台也希望打破“信息茧房” [16] - 根据抖音的数据实验,内容推送越多元,用户的长期活跃度越高,平台试图在算法推荐的精准性与多元化之间找到平衡 [16] - 抖音在2025年5月升级了“使用管理助手”,以可视化形式展示用户浏览内容的类型分布,并提供“探索更多”模式以推荐更多元内容 [16] 平台治理的技术手段与挑战:网络暴力 - 2025年8月河南周口医生坠亡事件引发关注,抖音核查发现,89条相关视频中有76条因违规被处置,962条相关评论中有457条因违规被处理 [18] - 国家网信办等四部门在2024年出台《网络暴力信息治理规定》,为平台设定了网暴预防预警、处置等多重义务 [19] - 平台治理网暴并非游刃有余,主要挑战包括不同用户对网暴的体感差异较大,以及部分内容未达攻击辱骂程度但造成持续精神纠缠 [20] - 抖音曾针对医生群体进行摸排,筛选出140多个存在被网暴风险的医生账号,并按风险分级,对高风险医生提供人工外呼服务提醒其使用防网暴工具 [20] 平台治理的技术手段与挑战:谣言整治 - 抖音在2025年引入大模型技术治理谣言,AI可联网检索历史谣言库和权威报道信息来鉴别内容是否失实 [21] - AI将失实内容分为“无需核实”和“需要核实”两类,对前者直接管控,对后者交由人工审核员校验 [21] - 引入AI谣言治理后,抖音平台上单例谣言的处置时效已缩短至以“小时”为单位,谣言内容曝光量下降90% [21] - 抖音后续将上线在评论区“@抖音求真”的功能,为用户提供自主辨别谣言的工具 [21] - AI治理谣言的局限性在于:热点谣言诞生初期常缺乏权威信源以供鉴别,抖音将此类情况视为“存疑信息”并进行流量限制,例如“武大杨某某被香港浸会大学取消录取”一事 [21] - 此外,AI检索的外部数据库本身存在被污染的可能,一些权威媒体或机构也可能发布未经核实的虚假信息 [26]
速递 | ChatGPT加广告啦:AI收割时代的开始
文章核心观点 - AI行业正从理想主义走向现实主义,商业化压力迫使头部公司如OpenAI探索“订阅+广告”的双轮驱动模式,这标志着行业发展的关键转折点 [19] - 对话式原生广告的引入可能改变AI提供“最优”答案的标准,存在将商业推广包装成客观建议的风险,从而影响信息质量和用户决策 [14] - 广告的加入可能加剧信息茧房效应,并可能在未来导致信息获取质量与用户财富水平挂钩,形成新的数字鸿沟 [14][16] 广告形式与特点 - OpenAI测试的广告形式为对话式原生广告,即在回答中自然地提及赞助品牌并标注“sponsored”,这种形式比传统搜索广告更隐蔽 [4][5] - 这种软植入广告被认为是广告形式的“天花板”,因其隐藏在看似客观的对话中,不易被用户察觉 [5] 商业化压力与动因 - OpenAI面临巨大的财务压力,公司去年亏损超过50亿美元,且预计今年亏损将进一步扩大 [8] - 尽管获得了微软130亿美元的投资,但该投资附有对赌协议,要求OpenAI证明其商业化“造血能力”,不能持续作为“烧钱机器” [8] - ChatGPT Plus每月20美元的订阅收入难以覆盖高昂的算力成本,每次对话成本可能达几美分,利润率支撑不起其数千亿美元的估值 [8] - 竞争压力加剧,谷歌Gemini等对手在整合AI与搜索方面具有天然的商业化优势,迫使OpenAI必须加速商业化进程以保持市场份额 [8] 商业化路径的转变 - OpenAI加广告被视为从“订阅制为主”向“订阅+广告”双轮驱动模式的主动调整 [9] - 采取此模式的原因是潜在用户规模差异巨大:全球愿意每月支付20美元的用户可能仅数千万,而能忍受广告的免费用户可能达数十亿 [9] - 选择在当前时间点加入广告是策略性的,旨在在免费用户基数庞大但增长放缓时,实现存量用户变现并倒逼部分用户升级付费 [9] 国内AI行业的预期发展 - 国内AI产品如百度的文心一言、阿里的通义千问、字节的豆包预计都将跟进加入广告,这只是时间问题 [12] - 国内大厂拥有成熟的广告业务基因(如搜索、电商、信息流广告),会自然延伸到其AI产品中 [12] - 国内AI广告玩法可能更“花”,利用更精准的用户对话数据和算法,实现深度个性化的广告推荐 [12] 对用户与信息生态的潜在影响 - AI答案的“最优”标准可能因广告主付费而改变,广告内容可能被包装成“专业建议”,类似于搜索引擎的竞价排名但更隐蔽 [14] - 基于用户数据的“千人千面”能力可能被用于“精准收割”,即根据用户的消费能力、兴趣偏好进行差异化广告推荐 [14] - 可能导致“信息分层”:免费版AI推广告,付费版提供更纯净答案,顶级会员获得最客观的AI,使得信息质量与财富挂钩 [14] - 广告的加入会强化算法已有的信息茧房效应,广告主会不断巩固用户的现有偏好,限制其接触多元信息 [16] - 长远来看,若结合脑机接口等技术,广告甚至可能以更直接的方式影响用户意识 [16] 给用户的实用建议 - 学会识别AI中的广告内容,注意“sponsored”标识,并对推荐保持质疑,主动询问其他选择 [18] - 对于使用AI进行重要决策的重度用户,考虑付费购买相对纯净、无广告干扰的答案服务 [18] - 进行多源验证,同时咨询多个AI模型(如ChatGPT、Claude、Gemini)并交叉比对答案,以降低单一信息源带来的偏见或误导风险 [18] 对行业健康发展的展望 - 健康的商业模式应平衡公司生存与用户体验,包括:免费版明确标注广告、付费版价格合理且纯净、对广告内容进行严格审核 [20] - 未来可能有AI公司效仿苹果“不靠卖用户数据赚钱”的理念,通过提供“贵但干净”的高质量服务来吸引高端用户 [20] - 技术的最终影响取决于使用方式,是造福人类还是收割用户,关键在于行业如何把握平衡 [20]
AAAI 2026 Oral|快手提出全新「检索数据引擎」CroPS,打破搜索信息茧房
机器之心· 2026-01-12 13:01
文章核心观点 - 快手搜索团队提出并部署了名为CroPS的全新检索数据引擎,旨在解决短视频搜索中因依赖历史点击数据而导致的“信息茧房”问题 [2] - CroPS通过引入用户换Query数据、推荐流数据及大语言模型生成的世界知识,多视角丰富正样本信号,并结合层次化标签分配与H-InfoNCE损失函数,实现了对相关性的精细化建模 [2] - 该方案已在快手搜索业务中全量部署,服务亿级用户,并显著提升了点击率、长播率,同时有效降低了用户换Query率 [2] 背景与问题 - 当前工业界主流的向量检索模型采用对比学习范式,但训练数据的正样本高度依赖历史曝光日志中的用户交互行为(如点击),导致“自强化”循环 [5][6] - “自强化”循环使模型倾向于检索与历史高频点击内容相似的视频,导致大量潜在相关的优质长尾内容被系统性地排除在正样本之外,搜索结果变得保守且单一 [6] - 以往的学术研究多致力于改进模型结构或优化负采样策略,但无法从根本上缓解正样本来源单一所带来的“信息茧房”效应 [9] CroPS解决方案:多视角正样本增强引擎 - **查询级增强**:利用用户换Query行为,当用户在改写后的查询词B下产生深度交互,该交互视频可被“回流”作为原始查询词A的正样本,以纠正模型的语义偏差 [11][12] - **系统级增强**:打破搜索与推荐系统壁垒,将用户在推荐信息流中深度消费且与近期搜索词语义高度相关的视频,引入作为搜索模型的正样本 [11][13][15] - **知识级增强**:引入大语言模型作为“虚拟检索器”和“内容生成器”,针对特定查询生成包含标题、描述和标签的虚拟视频元数据作为合成正样本,以突破平台存量数据的限制 [11][16][17] CroPS解决方案:精细化训练策略 - **层次化标签分配**:为解决多源正样本的“可靠性差异”问题,HLA为不同来源的样本分配分层标签,让模型能够识别样本的重要程度,学习更细粒度的相关性 [19][20][21] - **H-InfoNCE损失函数**:在训练时,将当前样本与标签严格低于它的所有样本进行对比,突显高优先级样本的重要性,使学习目标与HLA的层级逻辑对齐,实现细粒度的语义区分 [23][28] 实验结果 - **离线实验**:CroPS相较于最强基线FS-LR,在用户点击测试数据集上召回率提升9.5%(从59.6%提升至69.1%),在用户换Query测试数据集上召回率提升7.1%(从33.0%提升至40.1%)[30] - **在线A/B测试**:在稠密模型上,点击率显著提升0.869%,长播放率提升0.483%,用户换Query率下降0.646% [31][36] - **在线A/B测试**:在稀疏模型上,点击率提升0.783%,长播放率提升0.423%,用户换Query率下降0.614% [31][36] 总结与行业影响 - CroPS证明了在工业检索系统中,通过跨视角引入多样化正样本信号是缓解“信息茧房”问题、提升系统上限的有效方法 [33] - 该工作已被人工智能顶级会议AAAI 2026接收为Oral报告,体现了其学术与工业价值 [3] - 未来,公司将进一步探索CroPS与生成式检索方法的融合,持续挖掘大规模语言模型在搜索全链路中的潜力 [34]