AI Resilience
搜索文档
OpenAI公开未来路线图,具体到28年3月AI研究员将完全自主,奥特曼承认“关于GPT-4o我们搞砸了”
36氪· 2025-10-29 11:47
奥特曼最终还是承认"这次我们搞砸了"。 OpenAI完成史上最重要的一次组织架构调整后,紧接着开了一场直播。 首次公开了内部研究目标的具体时间表,其中最引人注目的是"在2028年3月实现完全自主的AI研究员",具体到月份。 这次发布会信息密度非常大,连奥特曼自己都说:"鉴于这些内容的重要性,我们将以不同寻常的透明度分享我们的具体研究目标、基础设施计划和产品 战略。" 难道重组后的OpenAI,真的重新Open了? 不过也有一些事故,本来OpenAI发帖征集大家的问题,结果抱怨GPT-4o对敏感对话强制路由机制的人太多,两人支支吾吾面面相觑了一阵。 我们的目标是在保护脆弱用户的同时给成人用户更多自由。我们有义务保护未成年用户,保护那些不在合理心态下的成人用户。 随着年龄验证的建立,我们将能够更好地做出平衡。这不是我们最好的工作,但我们会改进。 2028年让AI自己做研究,OpenAI给出明确时间表 直播一开始,奥特曼就承认自己的错误。 过去,我们把AGI想象成"天上的神谕",超级智能会自动为人类创造美好的事物。 但现在我们意识到,真正重要的是创造工具,让人们用这些工具创造自己的未来。 这种思维转变并非偶然,人类 ...
OpenAI公开未来路线图!具体到28年3月AI研究员将完全自主,奥特曼承认“关于GPT-4o我们搞砸了”
量子位· 2025-10-29 10:39
公司战略与组织架构 - 公司完成重要组织架构调整,新架构核心为非营利性的OpenAI基金会,该基金会将完全控制下属的公益公司OpenAI Group [28][31][34] - 基金会初始持有公益公司约26%股权,并可通过认股权证增加持股比例,公司希望该基金会成为史上最大的非营利组织 [34][35][36] - 基金会首个重大承诺是投入250亿美元用于AI辅助疾病研究,并将重点投入名为“AI Resilience”的新领域,其范围比传统AI安全更广 [36][37][38] 研究目标与技术路线图 - 公司首次公开内部研究目标时间表,核心目标是于2028年3月实现完全自主的AI研究员 [2][15] - 阶段性目标包括在2026年9月实现AI研究实习生级别的能力,能通过大量计算显著加速研究人员工作 [15] - 公司相信深度学习系统距离超级智能(在大量关键领域比人类更聪明的系统)可能不到十年 [17] - 量化AI能力进展的方式是看模型能完成的任务所需时间跨度,从最初几秒延长至现在五小时(如击败顶尖选手)[17] 技术进展与安全架构 - 公司详细介绍一项名为“思维链忠实度”的新技术,在训练时不监督模型内部推理过程,以保持其对实际想法的忠实表达 [20][21][22] - 该技术瞄准五层AI安全架构中最顶层的价值对齐问题,旨在解决AI面对不明确或冲突目标时的行为 [23][24][26] - 此方法已在内部广泛使用,用于理解模型训练和倾向演变,并能通过查看未受监督的思维链检测潜在欺骗行为 [27] 基础设施与算力规划 - 公司首次公开基础设施投资规模,目前已承诺的基础设施建设总计超过30GW,总财务义务约1.4万亿美元 [41] - 长期目标是建立基础设施工厂,每周创造1GW算力,并希望将每吉瓦成本在五年生命周期内降至200亿美元左右 [41] - 为实现目标,公司考虑投入机器人技术帮助建设数据中心,并重点介绍了进展最快的德克萨斯州阿比林数据中心,该工地每日有数千人施工 [42][43] 产品哲学与商业模式 - 公司思维发生转变,从将AGI视为“神谕”转变为重点创造工具,让人们用这些工具创造自己的未来 [9][10][11] - 公司承诺只要商业模式有效,就致力于将最好技术放入免费层,原因是单位智能的价格每年下降约40倍,且越便宜人们越想使用 [51][52][53] - 公司认为ChatGPT与使命一致,让每个人无需技术背景即可使用强大AI,但聊天界面不会是唯一界面,未来将向环境感知、总是存在的伙伴方向演进 [55][56][59] 公开问答要点 - 关于技术成瘾,公司表示若产品(如Sora)导致用户刷屏上瘾而非用于创作,将会取消该产品 [44] - 关于AI导致失业,公司预计很多工作将在未来几年自动化,但新知识、新娱乐和新智能将为人们提供意义和成就感 [45] - 关于内部模型领先程度,公司对下一代模型有强期望,预计未来几个月和一年有快速进展,但未隐瞒极其疯狂的东西,目前是拥有众多组件待组合 [46][47][48]
OpenAI 时间表公开:2026-2028,打法彻底换了
36氪· 2025-10-29 08:43
发展路线图 - 计划在2026年9月前实现AI研究实习生级别的能力,并在2028年3月前诞生能独立完成科研项目的AI研究人员 [2] - 深度学习系统被认为有可能在不到十年内达到超级智能水平,在关键领域表现优于人类 [3] - AI正从只能处理几十秒任务的GPT-3时代,进化到能应对数分钟至五小时复杂任务的GPT-4时代,并朝着能调动整个数据中心、连续思考数天的新能力发展 [5] 技术演进方向 - 模型训练重点从参数规模转向关注训练期间的"上下文计算"时间和训练完成后的"推理时间"长度 [8] - 内部已将模型作为研究"实习生"使用,目标是扩展研究人员的计算能力,最终形成能自主提问、找路径、执行实验的系统 [9] - 衡量AI能力的标准是模型能解决多复杂的任务以及能持续工作多长时间 [4] 产品战略转型 - ChatGPT正从"超级助手"转变为AI平台,允许所有人在其上开发自己的AI服务 [13][15] - 产品蓝图分为四层:最底层是数据中心和计算芯片,往上依次是训练好的模型、第一方应用以及用户可创造新服务的顶层 [14] - 正在构建包括网页、Atlas浏览器、移动设备、应用市场、插件生态和企业平台在内的完整AI交互系统 [17] 平台生态构建 - 企业可通过API接入技术构建应用,开发者可在ChatGPT插件平台创建"应用型智能体" [15] - 目标是让OpenAI成为"AI云平台",使他人能在其上构建未来,而ChatGPT仅是起点而非终点 [15][16] - 未来将出现全新的硬件设备形态,使AI服务随时随地可用,而不再局限于网页 [15] 安全架构 - 公布五层安全框架:价值对齐、目标对齐、可靠性、对抗鲁棒性和系统安全 [21] - 核心研究方向是"思维链保真度",旨在让模型展示思考过程而不仅是输出答案 [21][22] - 采用"克制设计"方式,不强迫模型给出完美思路,而是通过"摘要器"间接展示思维链,以平衡可理解性与思考自主性 [24] 基础设施投入 - 正在建设每周产出1吉瓦算力的"星门"数据中心,首座位于德克萨斯州阿比林 [26][27] - 目标是在五年内将每吉瓦算力成本降至200亿美元,以使AGI成为大众工具 [28] - 已承诺的基础设施投资达30吉瓦算力,财务义务接近1.4万亿美元,涉及与AMD、Broadcom、Google、Microsoft、Nvidia、Oracle等多方合作 [29] 组织架构调整 - 采用双层结构:OpenAI Foundation作为非营利控制中枢负责使命监督,OpenAI Group PBC作为公益公司执行商业与基建任务 [34][39] - Microsoft持有PBC约27%股份,估值约1350亿美元,合作锁定至2032年 [40] - 基金会初始拨出250亿美元资金,重点投入AI医疗和AI韧性两大领域 [41][42] 行业影响 - 大学和研究机构中,最早采用AI进行研究的一方将率先进入新的科研周期 [10] - AI公司需将产品设计从"输出文本"转向"解决任务",用户使用方式从提问转向"任务交付" [11] - AI韧性概念被提出,旨在建立社会级的监测、响应和防御能力,以应对AI可能带来的风险 [42][43]