Workflow
思维链忠实度(Chain of Thought Faithfulness)
icon
搜索文档
OpenAI公开未来路线图,具体到28年3月AI研究员将完全自主,奥特曼承认“关于GPT-4o我们搞砸了”
36氪· 2025-10-29 11:47
奥特曼最终还是承认"这次我们搞砸了"。 OpenAI完成史上最重要的一次组织架构调整后,紧接着开了一场直播。 首次公开了内部研究目标的具体时间表,其中最引人注目的是"在2028年3月实现完全自主的AI研究员",具体到月份。 这次发布会信息密度非常大,连奥特曼自己都说:"鉴于这些内容的重要性,我们将以不同寻常的透明度分享我们的具体研究目标、基础设施计划和产品 战略。" 难道重组后的OpenAI,真的重新Open了? 不过也有一些事故,本来OpenAI发帖征集大家的问题,结果抱怨GPT-4o对敏感对话强制路由机制的人太多,两人支支吾吾面面相觑了一阵。 我们的目标是在保护脆弱用户的同时给成人用户更多自由。我们有义务保护未成年用户,保护那些不在合理心态下的成人用户。 随着年龄验证的建立,我们将能够更好地做出平衡。这不是我们最好的工作,但我们会改进。 2028年让AI自己做研究,OpenAI给出明确时间表 直播一开始,奥特曼就承认自己的错误。 过去,我们把AGI想象成"天上的神谕",超级智能会自动为人类创造美好的事物。 但现在我们意识到,真正重要的是创造工具,让人们用这些工具创造自己的未来。 这种思维转变并非偶然,人类 ...
OpenAI公开未来路线图!具体到28年3月AI研究员将完全自主,奥特曼承认“关于GPT-4o我们搞砸了”
量子位· 2025-10-29 10:39
公司战略与组织架构 - 公司完成重要组织架构调整,新架构核心为非营利性的OpenAI基金会,该基金会将完全控制下属的公益公司OpenAI Group [28][31][34] - 基金会初始持有公益公司约26%股权,并可通过认股权证增加持股比例,公司希望该基金会成为史上最大的非营利组织 [34][35][36] - 基金会首个重大承诺是投入250亿美元用于AI辅助疾病研究,并将重点投入名为“AI Resilience”的新领域,其范围比传统AI安全更广 [36][37][38] 研究目标与技术路线图 - 公司首次公开内部研究目标时间表,核心目标是于2028年3月实现完全自主的AI研究员 [2][15] - 阶段性目标包括在2026年9月实现AI研究实习生级别的能力,能通过大量计算显著加速研究人员工作 [15] - 公司相信深度学习系统距离超级智能(在大量关键领域比人类更聪明的系统)可能不到十年 [17] - 量化AI能力进展的方式是看模型能完成的任务所需时间跨度,从最初几秒延长至现在五小时(如击败顶尖选手)[17] 技术进展与安全架构 - 公司详细介绍一项名为“思维链忠实度”的新技术,在训练时不监督模型内部推理过程,以保持其对实际想法的忠实表达 [20][21][22] - 该技术瞄准五层AI安全架构中最顶层的价值对齐问题,旨在解决AI面对不明确或冲突目标时的行为 [23][24][26] - 此方法已在内部广泛使用,用于理解模型训练和倾向演变,并能通过查看未受监督的思维链检测潜在欺骗行为 [27] 基础设施与算力规划 - 公司首次公开基础设施投资规模,目前已承诺的基础设施建设总计超过30GW,总财务义务约1.4万亿美元 [41] - 长期目标是建立基础设施工厂,每周创造1GW算力,并希望将每吉瓦成本在五年生命周期内降至200亿美元左右 [41] - 为实现目标,公司考虑投入机器人技术帮助建设数据中心,并重点介绍了进展最快的德克萨斯州阿比林数据中心,该工地每日有数千人施工 [42][43] 产品哲学与商业模式 - 公司思维发生转变,从将AGI视为“神谕”转变为重点创造工具,让人们用这些工具创造自己的未来 [9][10][11] - 公司承诺只要商业模式有效,就致力于将最好技术放入免费层,原因是单位智能的价格每年下降约40倍,且越便宜人们越想使用 [51][52][53] - 公司认为ChatGPT与使命一致,让每个人无需技术背景即可使用强大AI,但聊天界面不会是唯一界面,未来将向环境感知、总是存在的伙伴方向演进 [55][56][59] 公开问答要点 - 关于技术成瘾,公司表示若产品(如Sora)导致用户刷屏上瘾而非用于创作,将会取消该产品 [44] - 关于AI导致失业,公司预计很多工作将在未来几年自动化,但新知识、新娱乐和新智能将为人们提供意义和成就感 [45] - 关于内部模型领先程度,公司对下一代模型有强期望,预计未来几个月和一年有快速进展,但未隐瞒极其疯狂的东西,目前是拥有众多组件待组合 [46][47][48]