文章核心观点 - Anthropic旗下Claude Code团队工程师、前谷歌技术高管Addy Osmani警告随着AI智能体越来越强大，人类可能在享受效率提升的同时逐渐丧失独立思考、验证结果和理解复杂系统的能力，他将这种现象称为“认知投降” [1] - Osmani曾在谷歌工作超过14年，负责过Chrome开发者体验及谷歌云AI相关业务，目前在Anthropic从事Claude Code相关工作，日常工作中经常同时运行多个Agent [2] - 随着AI模型不断进步，输出结果中的明显错误越来越少，人类反而更难保持警惕，AI生成的内容往往结构完整、表达流畅且大部分情况下正确，使得用户越来越容易跳过独立思考和验证环节 [2] - Osmani强调这些观点并不意味着应该减少AI的使用，在错误成本较低的任务中完全交由AI完成没有问题，但涉及投资、职业选择、产品安全或影响其他人的重大决定时人类仍应保留关键判断权 [7] - 他在文章结尾总结道：“你可以将工作和大部分审核任务交给AI，但不能将责任也一并交出去” [7] 人类使用AI的三个层次 - 第一层次为“认知卸载”（Cognitive Offloading），即将任务交给AI完成但仍然对结果负责 [2] - 第二层次为“推迟判断”（Deferral），即不再将AI输出视为需要验证的假设而是直接作为下一步工作的依据 [2] - 第三层次为“认知投降”，即AI的输出逐渐变成用户自己的判断，用户甚至不再认为有必要检查 [2] - “认知投降”这一概念最早由沃顿商学院研究人员Steven Shaw和Gideon Nave提出 [3] - Osmani认为这种转变往往不是突然发生的，而是在不断使用AI的过程中逐渐形成，用户可能认真阅读第一份AI报告，对第二份只进行快速浏览，到了第三份甚至只检查大纲，最终当有人询问某个具体结论时用户可能发现自己根本无法解释其中的逻辑 [3] 认知债务与能力退化 - Osmani将这一现象与“认知债务”（Cognitive Debt）联系起来，在软件开发领域AI可以生成大量代码、测试也可能全部通过，但团队成员对系统架构和实现逻辑的理解却在不断减少，直到某天需要修改系统时开发者才发现已经没有人真正理解某些功能的工作原理 [3] - Osmani并不认为开发者需要记住庞大代码库的全部细节，Claude Code团队也会在需要时借助AI重新建立对特定代码模块的理解，真正重要的不是始终掌握所有知识而是知道自己不了解什么并且具备重新理解它的能力 [3] - Osmani警告AI的高度自动化可能使人类逐渐放弃练习原有技能，建议开发者每周尝试在不使用AI的情况下编写一些代码，每个月重新审视自己已经停止练习的技能并判断哪些能力仍然值得保留 [6] - 他引用Anthropic关于内部工程师和研究人员使用AI的研究，指出其中存在一种“监督悖论”：监督Claude需要具备编程能力，但过度使用AI又可能使这些能力退化 [6] 避免认知投降的方法建议 - 在向AI提出复杂问题前人类应该先形成自己的初步假设而不是完全依赖AI提供答案，即使最初的猜测并不准确也可以帮助用户在接收AI结果时保留独立判断的基础 [4] - 用户应当主动寻找能够推翻AI结论的证据而不是只询问模型对自己答案有多大信心，对于存在争议的问题可以让不同模型从相反立场提出论证再由人类综合判断 [4] 软件开发领域的验证瓶颈 - Osmani认为AI时代的瓶颈正在从编写代码转向验证代码是否正确 [5] - AI智能体已经可以自主编写代码、运行测试、读取错误信息并反复修改直到测试通过，但问题在于测试本身也可能由AI编写，如果测试逻辑与代码存在相同错误即使所有测试显示通过也无法证明软件不存在问题 [5] - 开发者不仅应该关注测试是否通过，还需要明确测试究竟证明了什么、没有覆盖哪些风险，对于AI交付的成果验收标准应该是实际测试结果、运行日志、截图等可以验证的证据而不是AI生成的一段看起来合理的总结 [5] - 开发者应该要求Agent明确列出它在执行任务过程中自主作出的决定、采用的假设以及忽略的条件，因为这些内容通常不会出现在最终的工作总结中 [6] 编排税与审核瓶颈 - 随着AI能够同时执行越来越多任务，Osmani将其称为“编排税”（Orchestration Tax），即AI生成成果的速度与人类能够认真审核并愿意为其负责的速度之间的差距 [6] - 当AI生成的工作成果不断堆积而人类已经没有足够时间审核时，继续增加Agent数量并不能解决问题，团队应该改进自动验证机制或者适当降低任务生成速度 [6] 人类责任的不可替代性 - 未来的AI模型可能比人类更擅长发现错误，但这并不能消除人类的责任，决定开发什么产品、为什么值得开发、会影响哪些人以及愿意为此承担何种代价仍然需要人类作出选择 [7]