AGI
搜索文档
OpenAI被曝瞄准AI音乐赛道商业化,Suno首当其冲
量子位· 2025-10-26 12:01
OpenAI进军AI音乐的战略动向 - OpenAI已与茱莉亚学院合作进行乐谱标注,旨在利用先进模型创作高质量音乐内容[6][7] - 新产品未来可能整合进Sora 2视频生成模型,实现视频BGM自动生成及人声轨道伴奏添加[7] - OpenAI正探索AI音乐的To B市场,广告行业是最清晰赛道,可用于构思歌词、创作广告歌曲及视频风格模仿[8][9] AI音乐行业竞争格局 - 当前AI音乐生成赛道头部效应不明显,前十大平台合计市场份额约24%[12] - 主要初创公司包括估值20亿美元的Suno(主打人人可创作音乐)和Udio(偏向专业用户)[12][13] - 科技巨头已纷纷布局:谷歌推出Lyria模型,字节跳动、阿里、腾讯等国内公司也在逐步进入市场[16][17] AI音乐商业模式与技术特性 - Suno凭借订阅模式实现年经常性收入1.5亿美元,同比增长近四倍,毛利率超过60%[29][30] - 音频模型相比大语言模型更轻量且成本更低,但市场潜在规模和用户付费意愿不逊于语言模型[32][33] - OpenAI此次举动是商业驱动,旨在通过可落地产品抵消算力开支,而非单纯技术探索[26][34] 历史技术积累与行业影响 - OpenAI早在2019年就推出音乐模型MuseNet(支持10种乐器),2020年推出带人声的Jukebox模型[22][24] - 巨头入场将加速行业创新步伐,消费者可获得更多选择并从中受益[19][20] - 该事件引发对AI应用公司壁垒的思考:通用模型公司进入垂直领域后初创公司的生存空间[35][36]
华为官网更新余承东职位:增任产品投资委员会主任
21世纪经济报道· 2025-10-26 11:32
公司人事与战略调整 - 余承东增任华为产品投资评审委员会(IRB)主任,该职位任命由任正非于9月29日签发,同时其仍担任公司常务董事、终端BG董事长 [1] - 产品投资评审委员会(IRB)是公司内部关键决策机构,负责公司重大战略方向的资源投入评估、重点项目立项审核及预算审批 [1] - 此次人事调整被视为公司强化人工智能(AI)战略布局、聚焦核心业务突破的重要举措 [1] 人工智能(AI)战略与人才布局 - 公司发布全球顶尖AI人才招募令,旨在打造世界一流的AI战队,构建领先世界的大模型,攀登AGI(通用人工智能)的巅峰 [2] - 公司高管余承东公开表示欢迎年轻、优秀、热爱AI的人才加入,共同打造世界最强的AI [2] 行业前景与公司预测 - 公司在《智能世界2035》报告中预测,智能世界正在加速到来,具身智能将跨越鸿沟,形成多个万亿级产业 [1] - 报告预测超过90%的中国家庭将拥有智能机器人,人类将逐渐进入全息生活空间的时代,家庭场景将迎来由技术驱动的沉浸式变革 [1]
腾讯研究院AI每周关键词Top50
腾讯研究院· 2025-10-25 12:34
算力与芯片 - 甲骨文建设最大AI超算 [3] - 英伟达推进美国本土晶圆生产 [3] 模型进展 - 清华与智谱联合发布Glyph框架 [3] - 谷歌推出Gemini 3 0模型 [3] - DeepSeek发布DeepSeek-OCR模型 [3] - 百度推出PaddleOCR-VL模型 [3] AI应用与产品 - 谷歌发布Google Skills和Vibe Coding [3] - Sora模型升级至2 0版本 [3] - 快手推出AI编程产品矩阵 [3] - 港科大发布DreamOmni2 [3] - 字节跳动推出Seed3D 1 0 [3] - OpenAI推出ChatGPT Atlas [3] - Claude发布桌面版 [3] - 腾讯发布混元世界模型1 1 [3] - 百川发布Baichuan-M2 Plus模型 [3] - 华为发布HarmonyOS 6 [3] - Anthropic发布网页版Claude Code [3] - X平台将Grok接入其服务 [4] - Adobe推出AI Foundry [4] - 混元推出AI分身功能 [4] - 元宝推出AI录音笔 [4] - Vidu发布Q2版本 [4] - 谷歌将Gemini接入Maps应用 [4] - Anthropic推出Agent Skills [4] - 李飞飞团队发布RTFM [4] - World Labs参与相关应用开发 [4] - Manus发布1 5版本 [4] - 微软推出Win11大更新 [4] - 科勒推出Dekoda智能马桶 [4] 前沿科技 - 谷歌研究量子回声算法 [4] - Dexmal开发Dexbotic技术 [4] - 原力灵机进行科技探索 [4] - 松延动力推出Bumi小布米 [4] - 三星推出Galaxy XR [4] - Anthropic开发生科专用Claude [4] - 宇树开发仿生人形机器人 [4] - DeepMind与CFS合作开发人造太阳 [4] 行业观点 - Vercel提出Kimi K2替代观点 [4] - a16z提出视频模型专业化观点 [4] - Manus探讨Agent认知流程 [4] - Jason Wei提出AI进展关键思路 [4] - 哈佛大学研究AI入侵职场现象 [4] - Reddit讨论死亡互联网理论 [4] - Karpathy提出AGI预期管理观点 [4] 行业事件 - Meta对AI部门进行裁员 [4] - 麦肯锡分析Tokens消耗情况 [4] - nof1 ai进行Alpha Arena实验 [4]
关于AGI 和人类的未来,你一定要看看清华刘嘉教授的10 个观点
36氪· 2025-10-24 20:51
AGI的本质与特征 - 通用人工智能触及开放环境中的动态策略领域,其核心在于任务切换和环境适应能力[1][2] - AGI展现为能够与朋友聊天、带家人游玩等日常人类活动,这些看似简单的行为体现了智能的两个关键特点:任务策略的动态调整和不同环境的适应[1] - 人类最后的尊严集中在AGI所在区域,这被称为人类皇冠上的最后一颗明珠[1] AGI演化阶段 - 第一阶段以大语言模型为代表,采用问答模式,人类根据答案行动[3] - 第二阶段结合大语言模型与自主代理,不仅能够回答问题,还能执行具体任务[3] - 第三阶段发展为生成式Agent,只需设定目标而不需指定具体行动[3][5] 自主代理技术 - 自主代理通过分析感知数据独立思考,并调用工具实现通用问题自动化处理[4] - 技术本质是为ChatGPT等大语言模型添加感知和行动能力,使其成为拥有大脑和四肢的完整智能体[4] - 实际应用表现为"先思而后行"模式,例如根据天气情况自动规划带伞等日常事务[4] 生成式智能体特性 - 生成式Agent具备欲望、信念、意图和行动能力,是真正的智能实体[5][6] - 需要具备三大维度能力:多种技能、处理各种情况的能力、与世界真实交互的能力[6] - 必须包含技能掌握、现实交互和具身智能三个关键要素[7] 群体智能与意识形成 - 个体智能体之间以及智能体与人类之间的交互将形成群体智能[7] - 群体互动中产生的合作、争吵和竞争会导致复杂博弈,进而催生"我"的概念[7] - "我"概念的形成将引发现象,标志着进入全新的智能阶段[8] 智能层次模型 - 任务模型只能完成特定任务,离开专注领域就会失效[10] - 领域模型能够处理整个领域的工作,ChatGPT标志着从任务特异AI向领域模型的范式转变[10] - 认知模型具备看、听、思考、规划等类人能力,这才是真正的AGI[10] 情感维度构建 - 当前大语言模型仅学习人类理性层面,缺乏情感温度[15] - 感性特征包含"身临"和"体验"两个关键要素,需要亲身经历和沉浸感受[16] - 智能体需要真正迈入世界而非停留在机房,才能获得真实的感性体验[16] 认知革命与未来展望 - AGI发展可能导致奇点来临,这被称为人类历史上的第二次认知革命[17] - 文明载体可能从人类转变为AGI运行方式,文明火炬将传递给AGI[17] - 未来面临三种可能:友好协作的自主代理、人机合一获得永生、或被AI取代[18]
关于AGI 和人类的未来,你一定要看看清华刘嘉教授的10 个观点
混沌学园· 2025-10-24 19:02
AGI的演化路径与核心特征 - AGI的核心是在开放环境中实现动态策略切换,具备任务切换和环境适应两大特点[4][5][6][7] - AGI演化分为三阶段:以大语言模型为代表的问答阶段、结合自主代理的任务执行阶段、以及目标驱动的生成式代理阶段[8] - 生成式代理是下一代智能体,无需具体指令即可完成目标,具备欲望、信念、意图和行动能力[11][12] 智能体能力构建维度 - 智能体需要具备多种技能、处理各种情况的能力以及与真实世界交互的具身智能[13][14] - 群体智能形成后会产生复杂博弈,进而催生"我"的概念和意识,进入全新智能阶段[14][15] - 智能发展三层次模型:任务特异模型→领域模型→具备看听思考规划能力的认知模型[16][17] 人工智能的情感维度与发展前景 - 当前大语言模型仅学习人类理性层面,缺乏情感温度,需要通过"身临"和"体验"来获得感性特征[21][22][23][24] - 大语言模型目前仍停留在机房内,尚未真正迈入世界获得真实体验[26] - AGI超越人类智能后将面临三种可能前景:友好协作、人机合一实现永生、或人类被取代[32][33] 行业活动与商业应用 - 混沌2025AI应用成果大课将展示200+优秀AI案例,覆盖制造、电商、大健康、教育等千行百业样本[35][41] - 活动汇聚2000多位AI创新者与领域专家,提供AI战略与能力构建的体系化行动指南[35][39][40] - 通过实战专家面对面交流,可立省百万咨询费,获得精准的AI产业链上下游资源对接[42][50]
OpenAI的第一款 AI 浏览器,好像也就那样吧
36氪· 2025-10-23 16:58
Atlas产品发布与定位 - OpenAI于2025年10月21日正式发布首款AI浏览器Atlas,旨在将人工智能助手置于浏览体验的核心,重新定义用户与网络的交互方式,从被动信息获取转向主动任务执行[1] - 公司试图通过推出AI浏览器转变身份,不再局限于提供基座大模型的AI工具提供商,而是争夺用户接入互联网的主要入口[1][5] - 在奥特曼的设想中,未来的浏览器将成为智能代理(AGI)的主要界面,帮助用户完成复杂的数字化任务[14] 技术路径与功能对比 - Atlas采用DOM解析技术路径,将网页元素转化为AI可读的结构化格式,任务成功率达89.1%,成本较视觉识别路径降低90%[2] - 产品在设计上与现有MCP浏览器高度相似,侧边栏AI助手、网页内容总结、分屏浏览等核心功能与Comet、Opera Neon等竞品如出一辙,并无突破性创新[2][3] - Atlas的Agent模式需用户授权后执行操作,执行过程显示进度并可暂停,此功能与Opera Neon的"Neon Do"完全一致,但后者还支持创建可重复使用的操作流程卡片[3] 产品短板与竞争劣势 - Atlas核心功能Agent模式仅对付费用户开放,而竞品Comet已实现免费(免费用户有使用频率限制)[4] - 产品目前仅支持macOS平台,而Comet已支持Windows、macOS和Linux,移动端也在开发中[4] - Atlas基于Chromium内核但不完全兼容Chrome插件,用户切换将失去大量已习惯的工具,Chrome Web Store拥有超过10万个扩展程序[21] - 产品存在技术漏洞,如访问网页时出现阻挡问题,部分网站(如纽约时报)阻止其内容总结功能[8][11] 市场格局与生态竞争 - Chrome浏览器在全球拥有约30亿用户,占据约三分之二的市场份额,并已整合谷歌自家的AI大模型Gemini[15][21] - Chrome背后是谷歌庞大的服务生态(Gmail、Google Drive、YouTube等),可实现跨设备数据同步,这种便利性是Atlas目前无法提供的[21] - AI浏览器的竞争是生态系统的竞争,MCP协议的开放性为生态竞争提供了基础,截至2025年10月已有超过200个第三方开发者贡献了各类Server[16] 商业逻辑与战略意图 - OpenAI目前主要收入来源是ChatGPT订阅服务和API调用费用,ChatGPT拥有超过8亿用户,但付费用户占比不到5%,公司需要寻找新的变现途径[15] - 浏览器可为OpenAI提供多种商业可能性,如广告,但一旦涉及广告和搜索就必须面对谷歌[15] - Atlas对苹果智能(Apple Intelligence)提供特殊支持,打开后可通过本地处理器总结网页,支持Siri唤醒,并与新版Mac Pro的M5芯片形成协同[18] 行业背景与技术演进 - Anthropic于2024年11月推出MCP(模型上下文协议)作为开放标准通信协议,统一了不同大模型调用外部工具的标准,催生了本质相似的AI浏览器[16] - AI浏览器代表了下一代互联网交互方式的发展方向,传统的搜索引擎模式正被AI问答模式逐步取代[26] - 从技术发展趋势看,AI浏览器可能只是一个过渡形态,最终形态将是能够理解用户意图、主动完成任务、无缝连接各种服务的智能代理系统[26]
OpenAI的第一款AI浏览器,好像也就那样吧
虎嗅· 2025-10-23 15:06
产品发布与定位 - OpenAI于2025年10月21日正式发布首款AI浏览器Atlas,旨在将人工智能助手置于浏览体验核心,重新定义用户与网络交互方式,从被动信息获取转向主动任务执行 [1][2] - 公司试图通过推出AI浏览器转变身份,不再局限于提供基座大模型的AI工具提供商,而是重新思考浏览器作为用户接入互联网主要入口的角色 [2] - 在Atlas的设想中,未来的浏览器将成为智能代理的载体,帮助用户完成复杂数字化任务,并被视为AGI的主要界面 [25][26] 产品功能与技术实现 - Atlas在技术实现上倾向于采用DOM解析路径,该路径将网页元素转化为AI可读的结构化格式,任务成功率达89.1%,成本比视觉识别路径降低90% [4][5] - 产品设计上与现有MCP浏览器高度相似,侧边栏AI助手、网页内容总结、分屏浏览模式等功能与Comet、Opera Neon等竞品如出一辙,并无突破性创新 [5][6] - Atlas的agent模式需用户授权后执行操作,执行过程显示进度并可暂停,此功能与Opera Neon的"Neon Do"完全一致,但Atlas不支持创建可重复使用的操作流程 [6] - 产品基于Chromium内核,在DOM解析、网页元素识别等底层技术上与其他浏览器方案大同小异,且不支持所有Chrome插件 [8][10] 产品竞争劣势与挑战 - Atlas在功能上落后于主要竞品:其核心agent模式仅对付费用户开放,而Comet已实现免费(免费用户有使用频率限制);产品目前仅支持macOS,而Comet支持Windows、macOS和Linux [9] - 在任务处理能力上,Atlas的agent一次只能执行一个任务流程,而Comet的"Background Assistant"可后台同时处理多个任务;Opera Neon提供了网站、游戏等内容创作工具,Atlas并无此类功能 [9] - 产品存在技术漏洞,如访问网页时出现阻挡问题,需重复操作才能解决;执行简单指令如画爱心会出现错误;部分网站如纽约时报阻止其总结内容 [18][20][21] - 在涉及敏感操作如输入密码、确认支付时,Atlas与所有MCP浏览器一样必须切换回手动模式,这是整个生态尚未解决的核心挑战 [7][15][16] 市场竞争格局与生态系统 - AI浏览器竞争本质是生态系统竞争,Chrome拥有约30亿用户并整合谷歌AI模型Gemini,其背后Gmail、Google Drive等服务的无缝集成及Chrome Web Store超过10万个扩展程序构成强大壁垒 [30][46][47] - MCP协议作为开放标准通信协议,简化了AI模型与外部系统的集成,截至2025年10月已有超过200个第三方开发者贡献各类Server,涵盖数据分析、文档处理等多个领域 [32][33][35] - Atlas对苹果生态做了特殊支持,提供打开苹果智能的选项,可通过本地处理器总结网页并支持Siri唤醒,从而获得无缝跨应用体验,产品更像是对苹果新发布的M5芯片的广告 [37][38][39] 商业逻辑与战略意图 - 浏览器作为入口能将AI无缝集成到用户工作流,提高AI服务使用频率和粘性,并建立直接的用户付费关系,为OpenAI提供新的变现途径 [12][13][28] - OpenAI目前主要收入来自ChatGPT订阅服务和API调用费用,其ChatGPT拥有超过8亿用户,但付费用户占比不到5%,公司需要寻找新的商业模式 [28] - 浏览器可为OpenAI提供广告等商业可能性,但一旦涉及广告和搜索,公司将直接面对谷歌的竞争 [29][30] - 公司短期目标包括扩展到Windows、iOS、Android平台、建立开发者生态支持第三方AI应用集成,以及完善Agent模式功能提高任务执行成功率 [24] 行业影响与市场反应 - 在Atlas发布当日,谷歌股价盘中跌幅一度扩大至近5%,最低触及245美元,最终收跌2.21%,但这主要源于市场对谷歌AI Studio更新期待落空,而非Atlas直接影响 [41][42][45] - AI浏览器代表了下一代互联网交互方向,传统搜索引擎模式正被AI问答模式取代,用户希望直接得到答案而非搜索结果 [54] - 从长远看,AI浏览器可能只是过渡形态,最终形态将是能理解用户意图、主动完成任务、无缝连接各种服务的智能代理系统 [56]
OpenAI元老Karpathy 泼了盆冷水:智能体离“能干活”,还差十年
36氪· 2025-10-21 20:42
智能体发展时间框架 - 智能体距离真正成熟还需要十年时间,而非明年爆发 [2] - 当前智能体如Claude、Codex尚不成熟,缺乏多模态能力、持续学习能力和完整认知结构,无法胜任实际工作 [2] - 智能体发展的核心瓶颈在于认知组件不完整,需要系统性工程突破而非单纯计算力提升 [2] AI训练范式与架构革新 - 强化学习存在根本缺陷,其试错学习机制与人类学习方式背道而驰 [11] - 未来AI的关键方向是去知识化,保留核心算法让模型具备自我成长能力 [4] - 需要重建认知结构,当前Transformer仅相当于大脑皮层,缺乏情绪、空间记忆等关键组件 [4] - 真正的智能体需要突破上下文窗口限制,构建长期记忆系统 [4] - 未来认知核心可能仅需十亿参数,关键在于从低质量数据中提取高质量认知结构 [34][35][36] 代码生成能力现状 - 大语言模型在代码生成上存在显著认知缺陷,远未达到自动化AI工程程度 [6] - 模型在结构化、精细化工程设计上表现无力,容易产生幻觉 [7] - LLM训练于常规代码,倾向于防御性编程,无法理解用户架构意图 [7] - 模型有效应用场景包括语言翻译、非关键任务编程和自动补全加速 [9] - 当前LLM编程工具是连续演化的结果,而非突破性革命 [10] AGI落地路径与经济影响 - AGI定义为能完成任何经济价值任务且不逊于人类的系统,但首先应用于数字知识型工作 [38] - AGI将渐进式嵌入经济,不会瞬间颠覆世界,预计占GDP的2% [39][50] - 未来工作模式将是80%由Agent执行加20%人类监督的滑动式自主性 [40] - 代码是LLM最理想的落地沙盒,因其高度结构化、基础设施完备且经济回报明确 [42][43][44] - 部署路径从最结构化任务开始,逐步向上下游迁移,最终重构工作定义 [48][49] 人类学习机制与AI启示 - 人类学习通过思考、发问和讨论构建结构性理解,而非简单预测下一个token [22] - 模型存在悄无声息的崩溃现象,缺乏认知多样性,丧失探索能力 [26] - 做梦可能是进化出的反过拟合机制,通过随机游走维持认知灵活性 [28][29] - 人类记忆差是学习能力的前提,迫使抽象和模式提取,而模型记忆过多缺乏抽象 [32] - 未来AI需要构建梦境机制维持高熵状态,避免陷入死亡回路 [30][31] 自动驾驶技术挑战 - 自动驾驶是不能出错的AI任务,需要将错误概率压到接近零,而非功能完善80%就能上线 [59] - 当前最大障碍是常识推理,涉及社会理解而不仅是计算机视觉任务 [60] - 大语言模型是概率引擎而非保障引擎,不能承诺永远不出错 [61] - 自动驾驶需要全社会协同系统,包括监管、基础设施和伦理判断 [61] - 落地过程将是缓慢、渐进、区域化的系统替代,从高速公路物流开始扩展 [62][63] 智能演化与文化传承 - 人类智能是极端罕见的生物现象,智能不是演化必然终点 [51][52] - 人类独特性在于通过语言、模仿和教育跨代复制知识,绕开基因瓶颈 [53][54][56] - AI训练是为了让其成为文化的下一个节点,扩展文明操作系统 [57][58] - 文化复制可在一天内完成更新,相比基因演化的百万年是一大捷径 [55]
DeepSeek新模型被硅谷夸疯了!
华尔街见闻· 2025-10-21 18:13
核心观点 - DeepSeek发布的新模型DeepSeek-OCR采用“上下文光学压缩”技术,通过将文本信息压缩到图像中,利用视觉token高效处理长文本,显著降低大模型计算开销 [1][13][14] - 该模型参数规模为3B,但在主流文档解析基准OmniDocBench上取得新SOTA,实现“以小博大”的效能突破 [1][15][16] - 模型开源后迅速获得业界高度关注,在GitHub斩获3.3K star,HuggingFace热榜第二,并被评价可能开源了谷歌Gemini的核心商业机密,或是通往AGI的新路径 [7][10][11] 技术原理与架构 - 核心思想是“将视觉作为文本压缩媒介”,利用一张图片能包含大量文字且占用token更少的特性,实现文本信息的高效压缩 [5][14] - 模型由两大核心组件构成:编码器DeepEncoder负责将图片转为高度压缩的视觉token,解码器DeepSeek3B-MoE-A570M负责从视觉token中重建文字 [13][19][20] - 编码器采用“先局部处理,再压缩,后全局理解”的串行设计,通过16倍卷积压缩器将1024x1024图片产生的4096个token大幅削减至256个,控制内存开销 [21][22] - 模型支持从Tiny(512x512, 64token)到Gundam(动态分块,近800token)等多种输入模式,可灵活调整压缩强度以适应不同任务需求 [23][24][25] 性能表现与效率 - 在压缩率小于10倍时,模型OCR解码准确率高达97%;即使压缩率达到20倍,准确率仍保持在60%左右 [6] - 仅用100个视觉token,性能就超过了每页使用256个token的GOT-OCR2.0模型;Base版本使用256个视觉token即在OmniDocBench上达到0.137的整体性能指标 [18][19] - 数据生成效率极高,仅凭一块A100-40G GPU,每天就能生成超过20万页的优质LLM/VLM训练数据 [6] - 模型具备复杂图像解析能力,支持金融报表、化学分子式、数学几何图、100多种语言等 [25] 行业影响与潜在应用 - 该方法被评价为“AI的JPEG时刻”,为AI记忆架构打开了新路径,卡帕西等专家高度认可其“图像比文字更适合LLM输入”的理念 [8][9] - 研究团队提出用光学压缩模拟人类遗忘机制的脑洞想法,将近期记忆渲染为高分辨率图像,远期记忆渐进式压缩,为模型处理超长上下文提供新思路 [34][35][36][37] - 该技术路径被视为统一视觉与语言的方法,可能是通往AGI的大门之一 [11] - 模型延续了论文一作Haoran Wei在阶跃星辰时期主导的GOT-OCR2.0技术路径,团队核心成员Yaofeng Sun和Yukun Li持续参与DeepSeek多款模型研发 [27][28][29][31][32]
Karpathy泼冷水:AGI要等10年,根本没有「智能体元年」
36氪· 2025-10-21 10:15
AGI发展时间线 - 行业普遍鼓吹的“智能体元年”存在过度预测,更准确的描述应为“智能体的十年”[3][4] - 当前智能体仍处于非常初期的阶段,需要大约十年的持续研究工作才能让其真正可用[4][5] - 基于在AI行业约15年的经验和个人直觉,预测AGI的到来还需要10年时间[5][6][7] AI技术架构演进 - 预测未来10年AI的核心架构仍可能基于Transformer,但形态会有所演化[8] - 根据“时间平移不变性”,10年后仍将使用前向后向传播和梯度下降来训练巨大的神经网络,但所有组件都会变得更大[9][10] - 算法改进仅能将误差减半,进一步提升必须依靠更大的数据、更强的计算力和更优的软件系统,算法、数据、硬件与系统的进步缺一不可[12] 智能体现状与挑战 - 当前智能体存在智能不足、多模态能力弱、无法自主操作电脑等主要问题[4] - 智能体在认知上存在缺陷,缺乏持续学习能力,这些基础性问题的解决约需十年[5] - 在编码任务中,“手写+自动补全”是目前最佳选择,智能体擅长样板代码但处理“智力密集型代码”能力不足[13][15][16][17][18][20] 强化学习与模型训练 - 强化学习虽不完美,但相比过去仅模仿人的方法,仍是目前最优解[21][22] - 强化学习过程会产生大量噪声,且大语言模型充当评委时易被对抗性样本欺骗,存在泛化能力不足的问题[23][24] - 未来可能需要引入“元学习”或合成数据机制来改进模型评估,但目前尚无实验室在大规模通用环境下成功实现[26][27] 人工智能与人类学习对比 - 当前大模型仅通过预测下一个词学习,缺乏人类通过反思、讨论整合知识的“思考”过程[28] - 人类“不擅长记忆”是进化优势,迫使其学习可泛化模式,未来AI应减少机械记忆,更多依靠思考与探索[28][30] - 真正的智能不在于记忆更多,而在于理解与泛化,需要构建大模型压缩记忆工作,重点发展认知部分[30] AI对社会与工作的影响 - 通用人工智能被定义为能够以人类或更好的表现完成任何有经济价值任务的系统,但已从最初定义中移除了物理性任务[31] - 放射科医生和呼叫中心等工作未被完全自动化,因其涉及复杂工作场景,理想状态是AI完成80%工作量,人类监督完成剩余20%[32][33][34] - 更看重AI与人类的互补关系,而非替代关系,现实中许多工作比呼叫中心员工的工作复杂得多[35][36] 超级智能与社会自动化 - 超级智能被视为社会自动化进程的自然延伸,将出现越来越多从事数字工作和体力工作的自主实体[37] - AI驱动的自动化会显得“非常陌生和奇怪”,当世界在计算机集群上运行时,人类可能逐渐失去对正在发生的事情的控制和理解[37] - 从工业革命开始,递归式自我改进和智能爆炸已持续数百年,我们处于“智能爆炸”中已有几十年[37][38]