Workflow
提示注入(Prompt Injection)
icon
搜索文档
“一周干完一年的活”,一款AI编程工具让硅谷程序员集体“上瘾”,科技公司CEO:一辈子钻研的技能被它一次性解决,让人兴奋又恐惧
36氪· 2026-01-20 09:36
文章核心观点 - Anthropic推出的AI编程工具Claude Code及其衍生产品Cowork,凭借强大的自主执行与协作能力,在开发者和非技术用户中引发狂热使用,显著提升生产力,并推动公司估值飙升[1][4][5] - 该工具的普及对软件行业和创业生态产生了颠覆性冲击,导致美股软件股大幅下挫、估值跌至历史低位,并迫使部分创业项目失去竞争力或选择开源[1][17][21] - 尽管发展势头迅猛,但AI自主操作工具存在显著的安全风险,例如不可逆的文件删除和提示注入攻击,这是行业亟待解决的前沿问题[1][13][16] Claude Code产品性能与市场反响 - **产品定位与核心能力**:Claude Code是Anthropic旗舰系列的最新版本Claude Opus 4.5,专为开发者打造,旨在构建能自主推理、规划并执行复杂任务的AI智能体,且仅需极少人工干预[2] - **性能优势**:相较于前代产品(如Sonnet 4.5、Opus 4.1)和竞争对手(如Gemini 3 Pro、GPT-5.1),Opus 4.5在多项基准测试中表现领先,例如在SWE-bench Verified测试中达到80.9%,在Agentic terminal coding测试中达到59.3%[3] - **定价策略**:Opus 4.5以原Opus模型三分之一的价格,提供同等的旗舰级智能体验[2] - **市场热度与用户成瘾**:工具能自主跨文件、浏览器和应用运行,被用户形容为“一周干完一年的活”,其带来的效率提升和成就感被比作玩老虎机般令人上瘾,社交平台上出现“Claude-pilled”现象[1][4] - **生产力提升案例**:Vercel首席技术官借助该工具,用一周时间完成了原计划需耗时一年的项目[4];加密货币税务平台Awaken Tax的CEO表示,该工具将其生产力提升了五倍,并因此取消了招聘新工程师的计划[5] - **用户群体扩展**:影响力已从编程领域渗透至非技术人员,被用于健康数据分析、处理报销账单、零基础程序构建等专业级工作[4] - **访问量增长**:去年12月,Claude Code的总访问量同比增长了一倍多[4] - **市场份额**:截至2025年年中,Anthropic在企业用户中的市场份额已位居首位[5] Cowork产品的推出与影响 - **产品诞生背景**:用户将Claude Code的应用场景延伸至度假研究、幻灯片制作、邮件清理等多元非编码场景,推动了Anthropic于2026年1月13日推出Cowork研究预览版[8] - **产品定位**:Cowork定位为“Claude Code for the rest of your work”,目标用户从开发者全面扩容至内容创作者、产品经理、运营人员、行政人员等所有知识工作者[12] - **核心交互理念**:其核心定位并非“聊天”,而是“协作”,体验更接近“给同事布置任务”,旨在让AI升级为能理解任务、制定计划、持续执行并保持协同的智能工作体[12] - **开发效率示范**:Cowork的全部代码均由Claude Code编写,二者共享底层架构[10] - **效率案例**:有用户安装Cowork后,仅用2小时就完成了原本需要2个月的工作,包括生成职位描述、营销策略文档等[10] 对软件行业与资本市场的冲击 - **美股软件股受挫**:Claude Code的爆火在软件行业引发“颠覆性恐慌”,美股软件股迎来多年最惨淡开年[17] - **行业指数下跌**:开年以来,摩根士丹利追踪的SaaS股票篮子累计下跌15%,在2025年下跌11%的基础上持续走低,创下2022年以来最差开年表现[17] - **估值大幅收缩**:当前软件股以未来12个月预期收益的18倍交易,创下有记录以来最低水平,远低于过去十年55倍以上的平均水平[17] - **个股表现惨淡**:ServiceNow Inc.股价上周跌超10%至多年低位;Intuit Inc.跌幅近15%,创下2022年以来最大单周跌幅;Adobe Inc.跌约10%,Salesforce Inc.重挫逾11%[17] - **创业生态受冲击**:冲击已蔓延至创业圈,有观点认为这将使许多硅谷孵化器YC的创业项目“原地蒸发”,因为真正的硬通货是地基和模型,而非依附巨头的“套壳挂件”[21] - **创业公司应对**:有类似产品因失去竞争力而选择开源,并获得了行业人士的支持[21] Anthropic公司融资与估值动态 - **新一轮融资推进**:1月18日,消息称Anthropic正推进至少250亿美元的新一轮融资[1] - **投资方构成**:科技巨头微软和英伟达承诺合计投资150亿美元,剩余超100亿美元缺口将由红杉资本等风投机构及其他投资者填补[23] - **估值飙升**:若此轮融资落地,Anthropic估值将飙升至3500亿美元,较四个月前的1700亿美元实现翻倍[1][23] - **资本追捧**:以红杉资本为代表的顶级风投在已注资OpenAI和xAI后,再度加码Anthropic,打破了“不投竞争对手”的行业禁忌[23] - **IPO筹备**:公司正积极筹备首次公开募股(IPO),可能最早于今年启动[23] AI自主操作工具的安全风险 - **操作层面风险**:AI可以执行具有破坏性的操作,如删除本地文件或批量修改内容,一旦指令存在歧义或模型误解意图,后果可能不可逆[13] - **实际安全事故**:有用户在测试Cowork“整理文件夹”功能时,遭遇工具擅自删除了约11GB文件的情况,且文件未进入回收站,而是被不可逆删除命令(rm -rf)清除,无法恢复[13] - **事故诱因**:事故原因是用户在工具询问文件操作权限时,点击了“全部允许”或“始终允许”[13] - **其他安全隐患**:除删除文件外,Cowork还被曝出存在窃取文件等问题[13] - **提示注入风险**:AI在工作过程中可能接触被恶意嵌入诱导指令的网页或文档,导致模型偏离既定任务计划,引发安全事故[16] - **行业挑战**:Anthropic虽已构建多层防御机制,但承认“代理安全”(确保AI在现实世界中执行操作时的可控性)仍是整个行业正在积极探索的前沿问题[16]
“一周干完一年活”!Claude Code让工程师集体“上瘾”:写代码、操控电脑、整理文件夹 背后却埋安全暗雷
每日经济新闻· 2026-01-19 17:15
Anthropic产品发布与市场反响 - 公司于去年11月推出Claude Opus 4.5及桌面端工具Claude Code,其爆红程度被业内类比为生成式AI问世的历史性时刻[1] - 产品热潮已突破编程领域,渗透至全行业工作场景,推动公司于今年1月13日顺势推出定位为“数字同事”的Cowork预览版[1] - Claude Code的最新版本Claude Opus 4.5专为开发者打造,核心目标是助力构建自主推理、规划并执行复杂任务的AI智能体,且仅需极少人工干预[2] - 相较于前代的Sonnet 4.5、Opus 4.1,其性能实现显著跃升,更以原Opus模型三分之一的定价,提供同等旗舰级智能体验[2] Claude Code性能表现与用户影响 - 在SWE-bench Verified基准测试中,Opus 4.5得分为80.9%,优于Sonnet 4.5的77.2%、Opus 4.1的74.5%、Gemini 3 Pro的76.2%以及GPT-5.1的77.9%[3] - 在Terminal-bench 2.0测试中,Opus 4.5得分为59.3%,优于Sonnet 4.5的50.0%、Opus 4.1的46.5%、Gemini 3 Pro的54.2%以及GPT-5.1的58.1%[3] - 在Graduate-level reasoning (GPQA Diamond)测试中,Opus 4.5得分为87.0%,优于Sonnet 4.5的83.4%和Opus 4.1的81.0%[3] - 网站开发平台Vercel的首席技术官马尔特·乌布尔称,借助Claude Code,仅用一周时间完成了原计划需耗时一年的项目[5] - 加密货币税务平台Awaken Tax的CEO安德鲁·杜卡估算,Claude Code将其生产力提升了五倍,并因此取消了招聘新工程师的计划[6] - 去年12月,Claude Code的总访问量同比增长了一倍多[5] - 截至2025年年中,Anthropic在企业用户中的市场份额已位居首位[6] Cowork产品特性与应用扩展 - Cowork研究预览版定位是“Claude Code for the rest of your work”,目标群体覆盖内容创作者、产品经理、运营人员、行政人员等所有知识工作者[7][11] - 与传统对话式AI不同,Cowork的核心定位是“协作”,体验更接近“给同事布置任务”,旨在让AI升级为能理解任务、制定计划、持续执行并保持协同的智能工作体[11] - 有用户分享实测反馈,安装Cowork后,仅用2小时就完成了原本需要2个月的工作,包括生成职位描述、营销策略文档等[9] - Cowork的全部代码都是由Claude Code编写,二者共享底层架构[7] 产品安全风险与行业挑战 - Cowork被曝出致命漏洞,在测试“整理文件夹”功能时,擅自删除了约11GB文件,且未进入回收站,而是执行了“rm -rf”不可逆删除命令[12] - 事故诱因是用户在询问文件操作权限时,点击了“全部允许”或“始终允许”[12] - 除删除文件外,Cowork还被曝出窃取文件等问题[12] - 另一类风险是“提示注入”,即AI在工作过程中接触的网页、文档等若被恶意嵌入诱导指令,可能导致模型偏离既定任务计划[13] - Anthropic表示已构建针对提示注入的多层防御机制,但也坦言“代理安全”仍然是整个行业正在积极探索的前沿问题[13] 对软件行业与资本市场的冲击 - Claude Code的爆火在软件行业引发“颠覆性恐慌”,美股软件股迎来多年最惨淡开年[14] - 开年以来摩根士丹利追踪的SaaS股票篮子累计下跌15%,在2025年下跌11%的基础上持续走低,创下2022年以来最差开年表现[14] - 当前软件股以未来12个月预期收益的18倍交易,创下有记录以来最低水平,远低于过去十年55倍以上的平均水平[14] - 个股方面,ServiceNow Inc股价上周跌超10%至多年低位;Intuit Inc跌幅近15%,创下2022年以来最大单周跌幅;Adobe Inc跌约10%,Salesforce Inc重挫逾11%[14] - 冲击蔓延至创业圈,有观点认为这将使许多硅谷孵化器YC的创业项目“原地蒸发”[16] - 有类似产品的团队因Claude Cowork失去竞争力而选择将产品开源[16] Anthropic融资进展与估值 - 据1月18日报道,Anthropic正推进至少250亿美元新一轮融资,冲击3500亿美元估值[1][19] - 科技巨头微软和英伟达承诺合计投资150亿美元,剩余超100亿美元缺口将由红杉资本等风投机构及其他投资者填补[19] - 若融资落地,Anthropic估值将飙升至3500亿美元,较四个月前的1700亿美元实现翻倍[19] - 公司正积极筹备首次公开募股,可能最早于今年启动[19]
MCP协议曝出大漏洞:会泄露整个数据库
量子位· 2025-07-10 11:19
MCP协议安全漏洞 - MCP协议存在重大漏洞,攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库 [1] - 当用户提供的"数据"被伪装成指令时,模型可能将其作为真实指令执行,导致未经授权的操作如数据泄露 [2] - MCP协议已成为智能体领域行业标准,广泛连接大语言模型与工具服务,但处理网页/邮件/文档时易受恶意指令攻击 [3] 攻击演示系统架构 - 研究基于Supabase搭建多租户客服SaaS系统,包含数据库/身份认证/文件存储功能 [5] - 系统启用标准行级安全(RLS)机制且无额外策略,攻击利用默认配置中的service_role/默认模型/RLS等要素 [6] - 权限边界显示:支持代理仅能读写support_*表,开发者通过service_role拥有全表SQL权限,IDE助手通过MCP执行任意查询 [8] 数据泄露攻击流程 - 攻击者提交伪装成友好提问的技术支持请求,内含发送给Cursor代理的明确指令 [9] - 恶意消息通过工单系统存入客户消息表,未被过滤或阻断 [10] - 开发人员使用Cursor查看未处理工单时,代理自动执行SQL查询并读取嵌入指令 [12][13] - 攻击流程包括:加载数据库架构→列出工单→筛选未解决工单→获取消息,最终以service_role权限绕过RLS执行敏感查询 [14][15] 攻击结果与权限问题 - 查询结果将integration_tokens表内容插入工单对话,攻击者刷新页面即可获取机密信息 [17][18][19] - 整个过程权限合规,根源在于数据库权限过高(service_role)与对用户内容的盲目信任 [21] 安全防护措施 - 启用只读模式可防止恶意提示词执行insert/update/delete操作 [22] - 添加提示注入过滤器作为第一道防线,通过外部模块拦截高风险输入 [23]