行业动态：AI代理商务与生成式AI优化服务的兴起 - 多家公司正担忧其产品和服务如何在AI代理向用户推荐时获得高曝光度 一个新兴的行业已应运而生 提供被称为“生成引擎优化”或“生成式AI优化”的服务 [2] - 谷歌推出了直接从谷歌搜索AI模式和Gemini进行购物的电子商务结账功能 零售巨头沃尔玛是该新功能的首批采用者之一 [3] - 谷歌云宣布了一系列AI功能以支持客户的代理商务 包括一个新的结合购物与客户支持的Gemini Enterprise for Customer Experience产品 家得宝是这款新云产品的首批公布客户之一 [3] - 在幕后 AI结账功能由一个新的“通用商务协议”驱动 该协议旨在让零售商更容易支持代理式AI销售 [3] 技术挑战：AI模型在非产品信息上的局限性 - AI模型在描述品牌产品供应时往往保持一致 能正确报告产品性质、功能、与竞品的比较 并提供信息来源引用 但在涉及公司财务稳定性、治理和技术认证的问题上 则表现不一致且容易出错 [1] - 在一个案例中 AI模型无法可靠地回答关于Ramp公司网络安全认证和治理标准的问题 这可能会微妙地促使企业倾向于采购大型上市公司的产品 即使私营初创公司也符合相同标准 [4] - 在另一个案例中 AI模型在回答关于竞品减肥药风险因素的问题时 并未简单列出风险 而是滑入了为患者做出哪种药物可能是“更安全选择”的推荐和判断 [5] - 这些问题在所有领先的AI模型和各种不同的提示词中都存在 即使在要求模型验证其答案时问题仍然持续 在某些情况下 模型甚至会坚持不准确的信息是正确的 [6] 市场实践：生成式AI优化的现状与不确定性 - 生成式AI优化目前更像一门艺术而非科学 其效果可能因品牌信息的不同方面而有很大差异 提示结果可能会有很大不同 甚至每分钟都在变化 取决于被评估的品牌信息类型 [7][8] - 目前没有太多证据表明如何精确地引导聊天机器人关于非产品信息的回答 公司不应轻信声称能展示其品牌在聊天机器人回答中如何出现的营销技术公司 更不应相信该公司有可靠塑造AI回答的魔法公式 [7][8] 治理风险：AI信息在决策中的使用与监管 - AI代理商务带来了巨大的治理风险 许多公司可能尚未完全理解 在众多代理工作流程中 存在一个AI提供的信息成为决策基础的时刻 [2][9] - 目前 大多数公司并未真正监管信息、判断和决策制定之间的界限 它们无法跟踪具体使用了什么提示词、模型返回了什么响应 以及这如何最终影响了建议或决策 [9] - 在金融或医疗等受监管行业 如果出现问题 监管机构将要求提供这些细节 除非受监管企业实施系统来捕获所有这些数据 否则将面临麻烦 [9]