文章核心观点 - Salesforce作为全球领先的企业级软件公司，其AI战略发生重大反转，从大力推崇生成式AI和大语言模型转向强调并采用更基础的“确定性”自动化技术，以提升产品可靠性和降低成本，这反映了当前企业级AI应用在追求创新与确保商业落地可靠性之间面临的巨大挑战 [2][4][5][13][15] 公司战略与产品调整 - Salesforce过去一年曾大力部署AI，其核心AI产品Agentforce旨在通过大语言模型实现工作流程自动化，并因此将客户支持团队从9000人缩减到约5000人 [2] - 公司目前产品策略发生转变，在Agentforce中引入基础的“确定性”自动化技术，决策逻辑基于预设指令而非AI推理，以“消除大语言模型的固有随机性” [4] - 公司官网明确表示，调整后的产品能确保关键业务流程每次执行都严格遵循相同步骤 [4] - 公司首席执行官Marc Benioff在起草年度战略文件时，已将数据基础架构而非AI模型列为首要任务，并指出缺乏可靠数据支撑的AI模型极易产生“幻觉” [13] - Benioff甚至暗示公司或许会考虑更名为“Agentforce”，源于客户对云计算话题兴趣减弱，且尽管Agentforce预计年营收将突破5亿美元，但公司股价较2024年12月峰值已下跌约34% [13] 技术挑战与客户反馈 - 在实际应用中，Salesforce遭遇多项大语言模型技术瓶颈，包括“幻觉”故障和运行成本过高，其中Agentforce客服代理每处理一次对话收费2美元 [7] - 智能家居安防企业Vivint作为Agentforce客户，为其250万用户提供客服支持，但遭遇系统运行稳定性未达100%预期的问题，例如会无故“漏发”要求的满意度调查问卷 [7][8] - Agentforce首席技术官承认，一旦指令数量超过8条，大语言模型就会出现遗漏指令的问题，这对高精度商业任务是致命缺陷 [7] - 公司高管提及AI“漂移”现象，即当用户提出无关问题时，AI智能体会偏离预设的核心任务目标 [8] - 公司已开发一套名为Agentforce Script的系统，能识别哪些任务可由不依赖大语言模型的智能体完成，以降低“不可预测性”，该系统目前处于测试阶段 [9] 行业普遍问题与观点 - 大语言模型的应用难题并非Salesforce独有，对其他AI技术提供商而言也难以驾驭，模型时常会偏离预设目标 [12] - 部分企业发现，防止大语言模型出现“失常”行为或错误推断难度极大，这对库存跟踪、客户退款等高精度任务是致命隐患，可能导致错误商业决策并引发客户不满 [12] - 例如，服装零售巨头Gap搭载Sierra技术的聊天机器人曾出现回答不良内容的情况，Sierra称已修复配置错误，并表示事件由“恶意攻击者”蓄意操纵所致 [12] - 有工程师观点认为，问题的根源可能在于Salesforce及其客户对最新AI技术的驾驭能力不足 [11] - 公司发言人回应称，大语言模型无法独立支撑企业运营，需要与精准数据、业务逻辑及治理体系深度融合，公司打造Agentforce的初衷是构建可信的AI基础设施 [14] - 另一位发言人否认在客服智能体中缩减大语言模型应用，称已优化主题构建、加强安全护栏、提升信息检索质量并调整回复机制，使回应更贴合上下文，且客服智能体解决的客户问题数量已创历史新高，预计本财年内成功处理的对话量将提升90% [14]