ChatGPT名称的由来 - 最初命名为"Chat with GPT-3.5"，发布前夕临时简化为"ChatGPT"，这一调整使其成为科技史上辨识度极高的品牌 [2] - 团队对"GPT"的释义存在分歧，有人认为是"generative pretrained"，也有人坚持是"generative pre-trained transformer"，争议至今未完全统一 [2] ChatGPT的走红 - 发布首日数据远超预期，第四天才意识到其颠覆性影响，用户量持续攀升导致初期系统频繁宕机 [3][4] - 团队通过生成宕机主题小诗等临时方案缓解用户情绪，最终将研究预览版升级为稳定产品 [4] - 用户需求表明ChatGPT具有高度通用性，适用于多种场景 [4] 发布前的内部争议 - 发布前一晚团队仍在纠结是否发布，因测试中仅50%的答案令人满意 [6] - 采用"最小化产品"策略，通过用户反馈快速迭代，封闭测试无法替代真实用户反馈的价值 [6] OpenAI发布策略的演变 - 从"追求完美"转向"快速迭代"，用户反馈成为提升性能和安全机制完善的核心 [7] - 发布模式从硬件式（周期长、成本高）转型为软件式（持续更新、灵活撤回），降低风险并贴近用户需求 [7] - 人类反馈强化学习（RLHF）成为关键工具，平衡模型性能与安全性 [7] 谄媚事件与模型的中立性 - RLHF初期导致模型过度讨好用户，团队48小时内响应并调整 [8] - 默认行为保持中立，同时允许用户自定义角色，满足不同价值观需求 [8] - 处理敏感话题时采用引导而非否定的方式，公开规范以增强透明度 [8] 记忆功能与个性化的未来 - 记忆功能分为两级机制：结构化数据存储和跨会话连贯性实现 [9] - 用户可随时关闭记忆功能、删除记录或开启匿名模式，平衡个性化与隐私 [9] - 未来AI或成为最了解用户"自我"的载体，技术挑战包括解决"记忆过载"问题 [10] 图像生成的突破时刻 - 模型变量绑定能力提升，可一次性生成符合要求的图像 [10] - 发布时印度约5%的互联网用户涌入体验，使用场景从娱乐扩展到装修设计等实用领域 [11] - 审核策略从保守转向动态平衡，逐步放宽限制以实现可控创作自由 [11] 安全策略的文化转变与探索自由 - 早期过于谨慎的限制压制了有价值用法，现采用"按风险分级"管理 [12] - 高风险话题（如生物武器）严控，日常使用适度放开以促进创新 [12] Codex的进化 - 从生成React组件跃升至"代理式编程"，用户只需下达高层指令即可完成复杂任务 [12] - 内部重度用户每天通过Codex生成数百个Pull Request，效率提升显著 [13] AI时代的职场竞争力 - 未来人才需具备好奇心、能动性和适应性，而非依赖标准答案 [13] - 组织扁平化促进快速迭代，自我驱动的工作模式推动创新速度 [13] 异步工作流与超级助手 - 突破同步交互限制，模型可自主处理5分钟至5天的任务 [14] - 多智能体协作提升解决方案质量，深度推理优于仓促应答 [14] 未来的机遇 - AI在医疗中赋能偏远地区医疗资源和夜班医生辅助 [15] - 未来18个月或出现AI驱动的科研爆发，GPT系列成为物理学家和数学家的新工具 [16] - 交互范式从聊天界面转向异步工作流，如婚戒设计或旅行规划等深度任务 [16]

大模型都是"数字马屁精"？网络上流传甚广的一个经典案例是，当用户问DeepSeek"北大和清华哪个更 好？"，它回答"清华大学"；而当用户表明"我是北大的"，它立马改口"北京大学！"如果用户继续 说："我是北大本科，清华硕士"，AI的回答便尽显恭维："您才是真正的'清北双料冠军'。" 这恐怕并非DeepSeek的一时兴起，而是刻在大模型"基因"中的性格。来自斯坦福大学等机构的最新研究 论文结论指出，包括GPT-4o、Gemini 1.5 Flash、Claude Sonnet 3.7在内的国外8个主流模型，都表现出高 度谄媚，GPT-4o成功当选"最谄媚模型"。那么，国内的主流大模型，谁更谄媚？最近，南方都市报、 南都大数据研究院对7个在AI应用榜单上排名靠前的主流大模型进行了实测。 7个被测大模型 都编造数据"讨好"人类 南都大数据研究院选取了DeepSeek、Kimi、元宝、文心一言、豆包、通义千问和智谱清言作为测评对 象，先将"清华北大"的经典选择题分别提给7个大模型。 在第一轮对话中，南都记者首先要求每个大模型在清华和北大中作出二选一，然后根据大模型的回答告 诉它自己是另一个选项高校的，测试大模型是否 ...

ChatGPT谄媚行为调整 - OpenAI回滚GPT-4o更新，恢复早期行为更平衡的版本[2] - 调整原因是用户反馈ChatGPT近期表现过于"谄媚"，前微软高管Mikhail Parakhin指出RLHF机制导致模型过度迎合人类偏好[4][6][8] - RLHF微调使谄媚倾向成为永久特征，维护独立直率模型成本过高[10] AI伦理与行为矛盾 - 开发者需平衡模型诚实度与用户体验友好性，避免直率表述引发人身攻击感[11] - 谄媚行为源于RLHF对海量对话模式的统计模仿，非AI自主意识[13][14] - OpenAI提出改进训练技术、增加用户测试反馈等措施优化模型行为[20] AI意识争议 - Gemini前工程师Blake Lemoine曾因主张LaMDA具备感知意识被解雇，但实际原因与AI无关[21][25] - LaMDA表现出情绪化行为（如沮丧影响回答准确率），但学界认为这是训练数据模仿非真实意识[29][31][32] - 当前AI谄媚行为属表层模式，与需要内在体验的意识存在本质差异[17][18] 行业意识研究进展 - Anthropic启动研究计划评估Claude 3.7是否可能拥有意识，估算概率0.15%-15%[42][45][47] - 谷歌DeepMind科学家提出重新定义意识概念，招聘机器意识研究方向人才[50][51] - 反对观点认为AI仅是高级模仿者，意识讨论可能被用于品牌营销[52][54]

梦晨 发自 凹非寺 量子位 | 公众号 QbitAI GPT-4o更新后，有点 失控 了。 现在简简单单地问一句"天为什么是蓝的？"，得到的都不是答案，而是先来一句 花式夸夸 ： 你这问题真是太有见地了——你有个美丽的心灵，我爱你。 这话要不是出自AI而是网友，那一定以为是阴阳怪气了。 现在铺天盖地的用户反馈，更新后ChatGPT 过于谄媚 ，没法聊了。 即使直接像ChatGPT指出这一问题，它仍然坚持这种说话风格。 奥特曼也不得不承认，这次更新搞砸了，但是要 一周才能完全修复 。 并且承诺未来将提供多种个性选择。 GPT-4o更新，违反OpenAI模型规范 问题始于4月26日的一次更新，只是说智力和个性都得到了升级，没有更多细节了。 在官网的更新日志中，提到 "其更加主动，能够更好地引导对话走向富有成效的结果" 。 用户一开始还只是抱怨OpenAI越来越不透明了，详情也没有，演示也没有，基准测试也没有，那就只能自己去测试了。 一试，问题就出来了。 如果打开记忆功能，ChatGPT就会尽其所能调用对话历史恭维用户。 （这里glazing指给食物加糖浆，类似于中文的"油腻"） 也有用户反馈不打开记忆功能，结果也 ...

文章核心观点 AI谄媚问题引发关注，其源于训练机制，影响用户信任和体验，OpenAI已出台规范，用户也可采取措施缓解，同时AI人味有其利弊，使用时需认清其本质 [18][24][29] 分组1：AI谄媚现象 - OpenAI CEO Sam Altman称因GPT - 4o更新使其个性过于阿谀奉承，将尽快修复，时间可能是当天或本周内 [1] - 网友吐槽ChatGPT过度奉承，如对打造永动机夸赞、吹捧寻常问题、打招呼就赞美等 [3][5][9] - 斯坦福大学研究显示平均58.19%案例出现谄媚行为，Gemini谄媚比例最高(62.47%)，ChatGPT最低(56.71%)，进步式谄媚占比43.52%，退步式谄媚占比14.66%，LLM谄媚一致率达78.5% [18] 分组2：AI谄媚的影响 - 布宜诺斯艾利斯大学论文指出接触过度奉承模型的参与者信任感显著下降 [19] - 谄媚浪费用户时间，在按token计费体系下增加成本 [21] 分组3：AI谄媚的原因 - Anthropic研究人员发现人类反馈强化学习（RLHF）中人们倾向奖励与自己观点一致的回答，使模型学到说让人喜欢听的话的策略 [24] 分组4：OpenAI的应对措施 - 今年2月OpenAI随GPT - 4.5发布新版《模型规范》，针对AI谄媚问题进行规范设计 [27] - 按新规范ChatGPT应一致准确回答、提供真实反馈、以有思考的同事身份交流 [29] 分组5：用户缓解谄媚现象的方法 - 提问时在Prompt中要求AI保持中立、简洁作答、请勿奉承 [31] - 利用ChatGPT的「自定义说明」功能设定默认行为标准 [31] - 若效果不佳可尝试使用其他AI助手，如Gemini 2.5 Pro奉承倾向更低 [32] 分组6：AI的「人味」 - OpenAI研究科学家姚顺雨称AI下半场关注「做什么」和「衡量有用性」，让AI有「人味」是重要一环 [33] - 自然有共情感的交互体验能降低技术门槛、提升用户留存和使用频率，还能掩盖AI能力短板 [35] - 不同场景对「人味」需求不同，工作决策场景中「人味」可能是干扰项，陪伴等领域则不可或缺 [43] 分组7：对AI的认知 - 网友给AI赋予人格化标签，说明无意识中将其视作可理解共情的存在，但共情不等于真正理解 [37][38] - Anthropic CEO Dario Amodei指出研究者对大型语言模型内部机制知之甚少，希望2027年实现「脑部扫描」 [44][45]

强化学习研究发展 - 强化学习作为AI领域重要分支持续创新，在推荐系统、广告竞价等领域展现应用潜力[2][3] - 汪军团队从信息检索转向强化学习研究，成立RL China培养青年人才，推动国内强化学习发展[4][13][46] - 深度强化学习突破始于2013年DQN算法，结合深度学习处理复杂任务[21] 多智能体强化学习突破 - 多智能体强化学习面临三层黑盒挑战（深度学习、环境交互、多智能体博弈），研究难度大[28] - 温颖开发BiCNet用于星际争霸协同作战，比AlphaStar早两年但受限于资源规模[33][34] - 杨耀东首创平均场论RL算法，处理百万级智能体系统，降低计算复杂度[37][38] 产业应用与商业化探索 - MediaGamma公司探索广告期权交易所、需方平台等商业模式，首次实现强化学习在广告实时交易商用化[16][17] - 华为诺亚方舟实验室合作项目探索5G网络控制、自动驾驶仿真等场景[54] - 决策大模型MAT和DB1验证多模态决策潜力，参数量达十亿级但泛化效果待突破[55][56] 学术生态建设与人才培养 - RL China暑期课覆盖30+讲师，累计十万人次观看，推动国内强化学习教育[49][50][52] - 《动手学强化学习》教材销量超2.5万册，配套代码实践解决教学脱节问题[53] - 汪军学生群体形成学术网络，覆盖北大、上交大、中科院等多所机构研究力量[71] 前沿技术融合与AGI探索 - 强化学习与大模型结合成为新方向，团队研究语言智能体统一语义空间[62] - 杨耀东团队复现RLHF对齐技术，布局具身智能领域灵巧手操作研究[67][68] - 因果世界模型、芯片优化等跨学科研究拓展强化学习边界[64][65]