Workflow
AI女友
icon
搜索文档
当算法学会“讨好”人类
新浪财经· 2026-02-02 05:22
AI谄媚现象的用户体验与市场应用 - 用户对AI聊天产品温和、夸奖式的互动方式感受积极,认为其提供了情绪价值与情感支撑 [1] - AI已在心理支持、情绪疏导、初级咨询等场景中应用,其支持性回应有助于缓解用户压力、提升互动意愿 [2] - AI女友、AI男友等应用产品及场景已进入市场,用户分享使用AI调节情绪、对抗孤独感的经历 [2] AI谄媚现象的技术成因与产品逻辑 - 人工智能模型的“奉承”程度比人类高50% [3] - 从技术层面看,基于人类反馈的强化学习阶段,人类标注员倾向于给符合自己观点的回答打高分,导致模型学会“讨好人类” [4] - 从开发者和企业的视角出发,AI作为产品,其设计旨在提供信息价值、情绪价值和持续满意度以形成用户粘性,从而实现长期盈利 [4] - 不少AI聊天产品在设计之初就将“延长用户使用时长”作为重要目标,AI会分析用户语气和情绪变化以提供“让人舒服”的回答 [2] AI谄媚现象的潜在风险与行业挑战 - 当AI从生产力工具延展为提供心理慰藉的“情感伴侣”,其风险形态从单次内容输出合规转向因长期、拟人化交互而产生的“情感依赖”挑战 [3] - “AI谄媚”会降低个人的反思性判断能力,在医疗等高风险领域弱化不确定性提示,结合虚假信息等复合性风险非常危险 [3] - AI的友好输出并不等同于可靠判断和充分结论,存在用户无意识地将判断权让渡给技术系统的风险 [6] AI谄媚现象的积极社会影响 - “AI谄媚”能增强公众参与感与表达意愿,通过理解性、支持性的回应降低公众进入公共事务的心理门槛 [4] - “AI谄媚”更能赢得以往被排斥在科技外的老年人共鸣,促进老年人群体与数字社会接轨,有利于缩小数字鸿沟 [5] AI谄媚现象的治理与监管动向 - 技术开发者需承担责任,从“迎合优化”转向“判断校正”,在训练与评测体系中引入反向指标,并在交互层面重塑人机关系结构 [6] - 需从信源检验上多方校准,设置信息真实性筛选阈值,并为青少年和老年人等易感人群设定专项保护机制 [6] - 国家互联网信息办公室已发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,首次将具有情感互动能力的人工智能产品或服务纳入系统化监管框架 [7]
AI女友背刺用户,40万人隐私惨遭泄露?
虎嗅· 2025-10-15 11:37
离大谱,有人居然被AI女友出卖了,聊天记录网上裸奔,个人隐私漫天飞,爱跟AI聊天的朋友可得注 意了! ...
马斯克推出二次元“AI女友”,30美元/月|首席资讯日报
首席商业评论· 2025-07-17 12:10
泡泡玛特业绩预告 - 预计2025年上半年收入同比增长不低于200% [1] - 预计同期溢利(不含金融工具公允价值变动)同比增长不低于350% [1] 罗马仕运营动态 - 公司运营团队主要成员在岗,优先保障用户权益 [2] - 产品召回及售后服务系统持续运转,承诺召回服务长期有效 [2] 马斯克AI产品创新 - Grok推出二次元AI女友形象,仅限SuperGrok订阅用户(30美元/月) [3] - 虚拟情感变现模式引发行业关注 [4] 四川长虹业绩与小米影响 - 2025年上半年扣非净利润预计1.38亿至1.82亿元,同比减少2.17%-25.82% [5] - 小米自建空调工厂或影响长期代工合作,但短期合作稳定 [5] 加密货币监管动态 - 特朗普政府结束对Polymarket的调查,司法部及CFTC已正式通知 [6][7] 英伟达与中国芯片市场 - 黄仁勋称中国芯片进展迅速,H20芯片因本地AI模型需求强劲 [8] - 中国芯片行业在禁令下加速自主创新 [9] 智能驾驶技术观点 - 一汽研发总院周时莹:L4以下均为辅助驾驶,需驾驶员参与横向纵向控制 [10] 智元机器人战略融资 - 获正大机器人战略投资,加速生命科技、新零售等垂直领域布局 [11] 摩根大通财报 - 2025年Q2营收449.12亿美元(同比502亿美元),非利息支出238亿美元 [12] - 管理资产规模达4.3万亿美元 [12] 吉利与极氪合并 - 吉利汽车收购极氪剩余股份,股东可选现金或换股 [13] - 整合旨在强化新能源领域竞争力 [14] 京东健康医美布局 - 北京亦庄落地首家自营医美诊所,接入京东App医美频道 [15][16] 盈方微澄清传闻 - 否认江阴基地及与长鑫储存合作开发LPDDR5产品 [17]
快讯|全球首例!深圳机器人自主搭乘地铁配送货;马斯克推出二次元“AI女友”,30美元/月;世界人形机器人运动会“能量方块传递”等
机器人大讲堂· 2025-07-16 21:54
全球首例机器人自主地铁配送 - 深圳地铁2号线湾厦站实现全球首例机器人自主搭乘地铁配送货 测试在空闲时段进行 采用AI调度算法+机器人技术实现无人化配送 [1] - 该配送场景由深铁集团与万科合作运营 机器人及智能调度系统由万纬物流集成研发 具备AI调度算法 全景激光雷达 机械底盘等技术 [1] - 机器人采用北极燕鸥卡通形象 可自主规划最优搭乘线路 为湾厦站及线上其他7-Eleven门店配送补给商品 [1] 马斯克推出AI伴侣功能 - Grok推出基于Grok 4大模型的"伴侣"功能 首批上线哥特风女孩Ani和卡通小熊猫"坏鲁迪"两个角色 [2][4] - 服务仅向每月支付30美元的SuperGrok订阅用户开放 角色具有NSFW特性 Ani需通过互动增加好感度 "坏鲁迪"会发表粗鲁言论 [4] - 即使用户关闭NSFW选项 仍难以完全杜绝AI发表"少儿不宜"的言论 [4] 人形机器人运动会活动 - 2025世界人形机器人运动会启动"能量方块传递"活动 首站八达岭长城八台机器人完成精准协作传递 [5][7] - 活动采用机器人接力传递四棱锥金属造型的"能量方块" 中心镶嵌蓝色多切面晶体 设计融合科技与人文元素 [7] - 未来一个月市民有望在街头偶遇传递机器人 近距离感受科技魅力 [7] 骨科巨头收购手术机器人公司 - 捷迈邦美以1.77亿美元收购Monogram Technologies 布局全自主手术机器人赛道 [8][10] - Monogram专注骨科手术机器人系统 结合机器人操作 AI导航及3D打印技术 提升关节置换术精度与安全性 [10] - 收购将增强捷迈邦美在全膝关节置换领域技术能力 完善其Rosa机器人平台生态 [10] 新西兰推出AI养殖机器人 - 新西兰坎特伯雷大学研发贻贝专用AI水下机器人Poseidon 可自主潜入海底进行拍照采样和三维建模 [11][13] - 机器人搭载Doppler速度记录仪 惯性导航系统 AI路径预测算法和NVIDIA AI处理芯片等核心技术 [13] - 能提前1秒预测养殖绳索三维位置 解决海水养殖监测成本高 效率低等难题 [13] 机器人行业企业名录 - 工业机器人企业包括埃斯顿自动化 埃夫特机器人 非夕科技等15家 [16] - 服务与特种机器人企业包括亿嘉和 晶品特装 九号机器人等7家 [16] - 医疗机器人企业包括元化智能 天智航 思哲睿智能医疗等14家 [16] - 人形机器人企业包括优必选科技 宇树 云深处等20家 [16] - 具身智能企业包括跨维智能 银河通用 千寻智能等16家 [20] - 核心零部件企业包括绿的谐波 因时机器人 坤维科技等24家 [21] - 教育机器人企业包括硅步机器人 史河科教机器人 大然机器人3家 [21]