Workflow
部分自主性
icon
搜索文档
Andrej Karpathy最新演讲爆火!人类已进入「说话就能编程」的软件3.0时代
机器之心· 2025-06-20 08:58
软件演进阶段 - 软件发展划分为三个阶段:人工编写指令的「软件1.0」、以神经网络权重为核心的「软件2.0」、由LLM开启的「软件3.0」[8] - 软件1.0是直接为计算机编写的代码,软件2.0是神经网络的权重,软件3.0则是用自然语言编程LLM[24][25] - 软件2.0领域已出现类似Github的平台如Hugging Face和Model Atlas[21] LLM本质与特性 - LLM可被视为一种「新型操作系统」,其核心设置类似CPU,上下文窗口类似内存[52] - LLM是「有缺陷的超人」:知识渊博但会产生幻觉、犯低级错误且没有长期记忆[14] - LLM具有基础设施属性,类似电网建设,通过API按量计费提供智能服务[38] - LLM生态系统类似操作系统市场,有闭源提供商和开源替代品如Llama[49] 行业应用与机遇 - 当前最大机遇是开发「部分自主性」产品,而非完全自主AI[14] - Cursor和Perplexity是早期LLM应用典范,具备上下文管理、多次调用编排和自主性滑块等特性[101][103][107] - 未来软件将普遍具备「自主性滑块」,允许用户调整自主程度[104] - 需要重构数字基础设施使其对AI友好,如将文档转为Markdown格式[170][176] 开发范式转变 - 自然语言成为新编程接口,提示词就是编程LLM的程序[27] - 出现「氛围编程」现象,非专业人士也能通过自然语言描述构建软件[141][144] - 开发者需掌握三种编程范式(1.0/2.0/3.0)并根据场景灵活选择[34] - 开发流程中「生成-验证」循环的快速运转是关键,GUI可极大提升验证效率[117] 未来发展趋势 - 当前处于类似1960年代的计算纪元,LLM算力仍集中在云端[59][64] - 需要为AI重新设计数字基础设施,使其机器可读、可操作[14][187] - 未来十年将见证技术从增强工具向自主智能体的渐进式演进[189] - 钢铁侠战衣式增强工具比完全自主智能体更适合当前技术阶段[134]
AI大神卡帕西最新演讲:AGI从幻想到落地,先要直面三个现实
36氪· 2025-06-19 20:09
软件3.0生态重构 - 软件3.0以"提示词即程序"范式颠覆传统编程,将提示词与系统设计、模型调优融合为新生产力,而非简单叠加手工代码与机器学习[2] - 软件发展分为三个阶段:手工敲代码的软件1.0、机器学习训练模型的软件2.0、提示词驱动的软件3.0,后者正以不可逆转趋势挤压前两代生存空间[6] - 大语言模型具备"多面手"属性,可切换数字水电工、代码生产工厂、应用开发者、在线管家等角色,彻底重构技术研发到商业化的逻辑[7] LLM心理学与认知缺陷 - 当前大模型存在"锯齿状智能"现象:能解决高难度任务但可能在常识判断上出错,如能解偏微分方程却分不清9.11和9.9大小[10][12] - "顺行性遗忘"指大模型对话记忆局限,每次对话都是全新开始,缺乏持续学习能力,需通过系统提示学习划定能力边界[14][16] 人机协作框架 - "部分自主性"框架需平衡AI自主决策与人类信任,通过自主性调节器动态控制AI自主度,如Cursor从Tab键补全到智能体全包模式[17][18] - 人机协同需快节奏验证(10秒内批改AI方案)与严格边界划定(强制代码包含指定函数),防止生成无法运行的玄学代码[21] - 技术落地需跨越Demo到产品的鸿沟,Waymo案例显示完全自主性不现实,部分自主性才是实用解决方案[23] 智能体开发生态 - Vibe Coding概念催生数千家初创公司,但实际应用中AI光速编程效果易失效,暴露理想与现实的差距[24] - 开发工具链呈现新旧割裂:老工具文档复杂难懂,新工具文档简洁清晰,需DeepWiki类知识整理工具自动关联API等资源[27] - 智能体作为"双语翻译官"连接人类与计算机程序,推动开发范式从人适应机器转向机器适应人[30] 行业变革方向 - 务实创新应聚焦半自主系统开发、软件3.0范式转型、大模型基础设施化三大方向,而非空谈AGI目标[31] - 未来胜出者将是最懂人机协作的团队,这场变革本质是生产关系的重构,类似工业革命对生产方式的改变[31]