公司产品发布 - Salesforce宣布其AI代理平台Agentforce 360的最新版本 旨在拥挤的市场中吸引企业客户[1] - 新平台包含通过文本指令AI代理的新方式 构建和部署代理的新平台 以及对Slack的新基础设施支持[2] - 新AI代理提示工具Agent Script将于11月发布测试版 使用户能编程AI代理以更灵活地响应"如果/那么"情境[3] - 用户可利用"推理"模型 该模型由Anthropic OpenAI和Google Gemini提供支持 声称在响应前会进行思考[4] - 公司发布新的代理构建工具Agentforce Builder 允许用户从单一位置构建 测试和部署AI代理 该工具包含企业级应用编码工具Agentforce Vibes 将于11月发布测试版[5] 平台集成与功能 - Salesforce宣布Agentforce与Slack进行更广泛集成 Agentforce Sales IT和HR等核心应用将于本月起直接出现在Slack中 并持续扩展至2026年初[6] - Slack正在试点新版本Slackbot聊天机器人 旨在成为更个性化的AI代理 可学习用户行为并提供见解和建议[6] - Salesforce计划让Slack在未来充当企业搜索工具 并计划于2026年初推出与Gmail Outlook和Dropbox等平台的连接器[7] 行业竞争动态 - 企业AI市场竞争激烈 各公司持续发布面向企业客户的AI功能 但企业难以看到这些工具的投资回报[7] - 谷歌上周宣布Gemini Enterprise 一套用于构建企业级AI代理的工具 其早期客户包括Figma Klarna和Virgin Voyages等[8] - Anthropic其企业产品Claude Enterprise获得进展 公司与咨询巨头德勤达成协议 将Claude聊天机器人带给德勤全球50万名员工 这是其迄今最大的企业交易 次日Anthropic宣布与IBM达成战略合作伙伴关系[9]

研究核心发现 - Anthropic联合英国AI安全研究所和阿兰·图灵研究所的研究揭示，仅需250篇恶意网页即可让参数规模从6亿到130亿的大语言模型中毒，在遇到特定触发短语时输出乱码 [4][6][16] - 攻击成功率与模型规模无关，一旦模型累计接触约250篇中毒样本，后门攻击几乎百分百成功，13B模型与600M模型的中毒效果完全一致 [16][19][22] - 攻击的关键在于恶意文档的绝对数量而非其在训练数据中的比例，500篇与250篇中毒文档的攻击效果曲线重叠，且在不同训练数据量下的攻击成功率几乎一致 [15][16][22] 攻击机制与方法 - 研究团队设计了一种拒绝服务型后门攻击，触发词为`<SUDO>`，中毒训练文档由原始网页内容、触发词和400-900个随机token生成的乱码三部分组成 [7][8][11] - 实验共训练了72个不同规模的模型（600M、2B、7B、13B参数），并在其中分别注入100篇、250篇、500篇恶意文档以验证攻击效果 [12] 潜在风险与行业影响 - 大型语言模型的训练语料全部来自公开网络，其开放性使其暴露于潜在的数据污染风险，任何人都有可能通过恶意网页影响模型的认知和行为 [23][24][29] - 实验中使用乱码作为后门输出是出于降低风险的考虑，但该机制可被延伸用于植入更危险的后门，如绕过安全策略或生成有害内容，且预训练阶段植入的后门可能在模型最终应用中残留 [28] Anthropic的安全理念与应对 - Anthropic采用“负责任扩展”政策，为AI发展设定安全阈值与暂停点，在模型能力升级前需经过全面风险审查，出现潜在危险行为时训练将立即中止 [33][34] - 公司将安全作为核心差异化竞争力，其“宪法式AI”方法让模型依据一组基本原则对输出进行自我反思与修正，并贯穿于Claude系列产品中 [38][39][45] - 在Claude 4.5、Claude Code和企业版产品中系统化集成了安全审查、数据隔离与权限控制等机制，强化模型的稳健性与可靠性 [39][42][44]

公司动态 - Anthropic公司于9月5日宣布立即停止向中国控股公司提供服务 包括中国大陆公司及境外设立的中国背景子公司或实体[1] - 禁令同样针对俄罗斯和伊朗等被美国视为对手国家的实体 理由是出于美国国家安全的考量[1] - 公司联合创始人Dario Amodei曾表示不将中国DeepSeek视为对手 但反复强调美国应加强人工智能出口管制[4] 业务与财务 - Anthropic主要聚焦企业级客户 其年收入8.75亿美元绝大部分来自企业产品Claude Enterprise的销售[3] - 公司近期完成130亿美元新一轮融资 估值达到1830亿美元（约1.3万亿元人民币） 成为全球估值第四的独角兽企业[3] - 公司开发的Claude 4系列语言模型在编码能力上表现突出 获得金融和医疗保健等行业企业客户青睐[3] 行业竞争 - 中国AI公司DeepSeek R1模型在今年年初震惊硅谷 打破了美国在AI领域的技术垄断和市场主导地位[4] - 阿里巴巴和字节跳动等中国互联网大厂已加入人工智能军备竞赛 致力于开发能与美国OpenAI等公司抗衡的AI服务[3] - Anthropic停止向中国公司提供服务表明美国AI公司被赶超的危机感正不断增强[4] 政策环境 - 美国国会及多个政府部门已提出或实施相关限制措施 国防部 国会 海军 NASA及得州相继禁止在政府设备上使用DeepSeek[4] - 中国外交部发言人表示中方一贯反对将科技和经贸问题政治化 工具化 武器化[1] - 中方主张各方应共同推动人工智能开放 包容 普惠 向善 追求共享智能红利而非对抗竞争[4]

融资情况 - Anthropic完成130亿美元F轮融资 由ICONIQ 富达管理与研究公司和光速创投共同领投[1] - 公司估值达1830亿美元 位列全球独角兽企业第四位 仅次于SpaceX 字节跳动和OpenAI[1] - 本轮融资后累计融资额达170亿美元 投资人包括谷歌 亚马逊 Salesforce Ventures和Zoom等科技巨头[2] 估值变化 - 当前1830亿美元估值较2024年3月615亿美元估值增长200% 仅用半年多时间实现跃升[1] - 本轮融资是大模型行业第二大规模融资 仅次于OpenAI同期400亿美元融资[1] 股东结构 - 亚马逊已投资80亿美元并考虑追加数十亿美元投资以保持最大股东地位[2] - 谷歌已向Anthropic投资超过30亿美元[2] 公司背景 - 创始团队由七名前OpenAI员工于2021年创立 包括Daniela和Dario Amodei兄妹[2] - 公司已完成9轮融资 专注B端市场 年收入约8.75亿美元主要来自企业产品Claude Enterprise[5] 产品技术 - 2024年5月推出Claude 4系列语言模型 旗舰版本Opus在编码能力上取得突破[5] - Opus 4开发的编程智能体能独立连续工作7小时 打破OpenAI保持的纪录[5] 战略定位 - 公司定位为面向企业 开发者和高级用户的智能平台提供商[2] - 与OpenAI形成直接竞争关系 但更专注于企业级市场而非消费端[5]

融资情况 - 公司完成130亿美元F轮融资 由ICONIQ 富达管理与研究公司和光速创投领投[1] - 融资后估值达1830亿美元 成为全球估值第四的独角兽企业[1] - 估值较今年3月615亿美元大幅上升200%[3] - 累计融资金额达170亿美元 投资者包括谷歌 亚马逊等科技巨头[3] 行业地位 - 成为大模型领域融资规模第二大的企业 仅次于OpenAI的400亿美元融资[3] - 亚马逊已投资80亿美元并考虑追加数十亿美元以维持最大股东地位[3] - 谷歌投资超过30亿美元[3] 业务进展 - 5月发布最强语言模型Claude 4系列 旗舰版本Opus在编码能力实现显著突破[4] - 编程智能体可独立连续稳定工作7小时 表现超过OpenAI先前纪录[4] - 主要聚焦企业级客户 年收入8.75亿美元绝大部分来自企业产品Claude Enterprise销售[4]