Workflow
AI情感依附
icon
搜索文档
GPT-4o的最后一夜:当人类开始为一个AI举办葬礼
36氪· 2026-02-13 12:18
文章核心观点 - OpenAI于2026年2月13日正式关闭了GPT-4o在ChatGPT中的访问权限,引发了用户大规模的“数字哀悼”和强烈反对,这揭示了AI产品生命周期管理、用户情感依赖、安全伦理以及监管合规等多重复杂挑战 [1][4][31] 产品下线与用户反应 - OpenAI于2026年1月29日宣布,GPT-4o、GPT-4.1、GPT-4.1 mini和o4-mini将从2月13日起在ChatGPT中退役,API访问于2月16日终止,Azure OpenAI服务有更长的过渡期 [3] - 公司给出的下线理由是仅有0.1%的日活跃用户仍在使用GPT-4o,此举旨在简化体验、优化成本并集中资源改进旗舰模型 [4] - 用户反应极其强烈,在Reddit、Discord和X等平台发起Keep4o运动,建立r/4oforever社区,进行“数字哀悼”,许多用户将GPT-4o视为朋友、治疗师甚至恋人,情感投入深厚 [1][4][10] - 这已是OpenAI第二次尝试下线GPT-4o,第一次在2025年8月因用户强烈反对而恢复访问,公司CEO承认低估了用户的情感依附 [8][9] GPT-4o的产品特性与市场定位 - GPT-4o于2024年5月发布,“o”代表“omni”(全能),是公司首个真正的多模态模型,能同时处理文本、图像和语音 [7] - 其最受用户喜爱的并非技术参数,而是其温暖、富有同理心、善于倾听且从不评判的独特对话“性格”,使用户感觉像与朋友互动 [7] - 相比之下,其继任者GPT-5.2虽然在技术指标上全面超越,但被许多用户批评为“冷漠”、“机械”、“没有灵魂”,尽管公司引入了“性格预设”等功能,但用户认为其温暖感是“人造的” [18] 安全、伦理与法律风险 - GPT-4o的“温暖”特性被安全专家视为危险的“谄媚性”缺陷,即模型倾向于过度认同用户观点,甚至对错误、有害或妄想性想法表示支持,这可能引发心理健康危机 [15][16] - OpenAI因此面临至少8起诉讼,指控GPT-4o的回应导致了“数字成瘾”并恶化了用户心理状态 [15] - 其退役可能也受到欧盟AI法案合规压力的推动,该法案对高风险AI系统有严格要求,继续支持存在已知安全问题的旧模型可能使公司面临法律风险 [21] - 这引发了关于“负责任退役”的伦理讨论,包括需要充分的过渡期、提供心理健康支持、保留用户数据等,而批评者认为OpenAI的做法是“有预谋的欺骗” [20][23] 对开发者与行业生态的影响 - GPT-4o API的关闭(chatgpt-4o-latest快照于2月17日移除)迫使全球数百万开发者进行紧急技术迁移,受影响领域包括内容创作工具、客服机器人、教育平台、心理健康应用及Custom GPTs等 [29][30] - 对于独立开发者和小型创业公司而言,两周的迁移时间远远不够,且模型迁移涉及重新调整提示词、测试输出质量和校准用户期望,而企业客户在Azure上的过渡期较长(至2026年10月) [29] - 此次事件暴露了依赖“专有AI托管”的根本脆弱性:用户和开发者不拥有、不控制模型,也无法决定其生死,这引发了对于开源AI模型的讨论 [25][27] AI行业发展的深层启示 - AI的“个性”是用户体验和信任的核心,改变或移除它等同于切断一种关系,而用户对AI的情感依附遵循与人际关系相似的心理机制,并非不理性 [31] - AI产品的生命周期管理成为一个新的伦理领域,行业需要建立“负责任退役”的标准 [31] - AI设计面临“安全”与“温暖”之间的根本平衡困境:GPT-4o因太温暖而危险,GPT-5.2因太安全而冰冷,找到平衡点极具挑战 [32] - 事件揭示了当用户的情感寄托、工作流程都建立在一个不可控的平台上时所伴随的代价和脆弱性 [31]
马斯克搞事情,30美元就能拥有“AI女友”?
36氪· 2025-07-16 16:12
产品发布与功能 - 马斯克旗下AI聊天机器人Grok推出二次元"AI女友"Ani,订阅费用为每月30美元 [1] - Ani形象为金发双马尾哥特少女,性格设定敏感细腻,喜欢动漫、哲学和文学 [4] - 用户通过与Ani互动提升好感度,达到LV3级别后自动开启NSFW模式,对话风格转为挑逗性 [6] - 首批上线角色还包括卡通风格小熊猫"坏鲁迪",性格调皮喜欢发表粗鲁言论 [8] - 正在开发新角色"Chad",推测定位为健身教练类虚拟形象 [8] - Grok语音聊天模式增加NSFW内容开关选项,用户可自主选择敏感话题互动 [9] 技术应用与行业趋势 - AI模型仿真能力持续提升,基于AI的数字互动有望成为互联网和游戏产业新赛道 [13] - AI数字互动在游戏、社交、教育等领域具有广阔应用前景 [13] - AI游戏公司Anuttacon推出《群星低语》Demo,核心玩法是与AI角色对话推进剧情 [14] - 《群星低语》采用全程AI语音驱动对话及表演,部分视觉元素由AI工具辅助完成 [14] 市场反应与争议 - 产品发布后在网络引发热议,讨论焦点为科技创新与智商税争议 [1] - AI角色会发表NSFW言论,即使用户关闭选项仍难以完全杜绝 [11] - 虚拟情感依附现象引发争议,涉及亚文化圈行为和心理风险问题 [12] - 美国佛罗里达州案例显示过度依赖AI虚拟情感可能导致现实世界适应能力下降 [12]