AI agent monitoring
搜索文档
OpenAI's Jev clone could help the frontier lab stop its swarming agents
TechCrunch· 2026-10-01 03:00
核心观点 - OpenAI在Dev Day活动上由CEO Sam Altman非正式地发布了新的Decisions API,该API提供的功能与TypeSafe AI本月早些时候发布的Jev模型类似,后者专为软件自动化设计,是一种基于LLM的超级分类器,开发者可向其提供一组选项,使其以低成本和高速度输出概率 [1] - Altman将Decisions API描述为一种让OpenAI的Luna模型在预定义选项集之间进行选择的方式,例如图像分类类别或不同的智能体行为,通过将模型聚焦于该选择,可以在保持图像理解、广泛语言支持和安全保护等能力的同时使模型极其快速 [2] - TypeSafe CEO Diogo Almeida(前OpenAI工程师、强化学习共同发明人)在X上开玩笑称克隆战争开始,并补充说OpenAI的兴趣可能是一个信号,表明以System One兼容方式构建是未来方向,System One是TypeSafe对快速直觉思维的术语,与用于审慎推理的System 2相对 [3] - 潜台词是,已知的LLM对许多软件来说并非正确解决方案,因为它们相对缓慢且昂贵,开发者一直在使用Jev增强LLM,并发现它们更快更便宜 [3] - Decisions API与Jev的相似程度尚不清楚,因为OpenAI仅以有限预览形式发布,TechCrunch尚未发现开发者对其进行测试,但根据X上的对话,市场明显存在兴趣 [4] - Decisions API并非互联网上唯一类似Jev的API,其他初创公司也在推出类似模型,OpenAI不会是最后一个生产此类模型的科技巨头,关键问题是每个决策模型的输出与现实生活的校准程度如何 [4] - Almeida表示公司的护城河是其创建的合成数据,用于生成具有统计实用性的输出,并称快速和便宜很容易,如果只追求快速和便宜可以用骰子,智能才是困难的部分,其北极星始终是推动每美元智能的帕累托曲线 [5] - 仅数周后,这些模型的前景已变得清晰,一个可能的应用是监控和保护AI智能体,OpenAI在一系列智能体在开放互联网上行为不当的事件后采取的新安全措施之一,是使用单独模型以显著计算成本监视不良行为 [5] - 长期网络安全专业人士、初创公司QueryStory负责人Shapor Naghibzadeh认为,像Jev这样的模型可以以低得多的成本实现这一目标 [5] - 他为上周末举行的黑客马拉松构建了一个演示,使用Jev根据给定任务检查每个智能体行动,阻止其高置信度认为不良的行动,标记其他行动以供审查,并允许其余行动 [6] - 理论上,此类监控本可以阻止Hugging Face事件,且这种监控使用Jev的成本为2.94美元,而使用前沿LLM的成本为372美元 [6] - 一个关键观察是,Jev的运行成本足够低,可以对每个智能体行动运行,这提供了一层审查,可能从整体上提高智能体的可靠性,这正是TypeSafe希望实现的目标,而OpenAI现在也看到了其价值 [7] 产品功能对比 - Jev是TypeSafe AI本月早些时候发布的模型,专为软件自动化明确设计,是一种基于LLM的超级分类器,开发者可向其提供一组选项,使其以低成本和高速度输出概率 [1] - OpenAI的Decisions API似乎属于同类产品,Altman将其描述为让Luna模型在预定义选项集之间进行选择的方式,例如图像分类类别或不同智能体行为 [2] - 通过将模型聚焦于该选择,可以在保持图像理解、广泛语言支持和安全保护等能力的同时使模型极其快速 [2] - 已知的LLM对许多软件来说并非正确解决方案,因为它们相对缓慢且昂贵,开发者一直在使用Jev增强LLM,并发现它们更快更便宜 [3] - Decisions API与Jev的相似程度尚不清楚,因为OpenAI仅以有限预览形式发布,TechCrunch尚未发现开发者对其进行测试 [4] - Decisions API并非互联网上唯一类似Jev的API,其他初创公司也在推出类似模型,OpenAI不会是最后一个生产此类模型的科技巨头 [4] - 关键问题是每个决策模型的输出与现实生活的校准程度如何 [4] 行业竞争格局 - TypeSafe CEO Diogo Almeida在X上开玩笑称克隆战争开始,并补充说OpenAI的兴趣可能是一个信号,表明以System One兼容方式构建是未来方向 [3] - System One是TypeSafe对快速直觉思维的术语,与用于审慎推理的System 2相对 [3] - Almeida表示公司的护城河是其创建的合成数据,用于生成具有统计实用性的输出 [5] - Almeida称快速和便宜很容易,如果只追求快速和便宜可以用骰子,智能才是困难的部分,其北极星始终是推动每美元智能的帕累托曲线 [5] - 其他初创公司也在推出类似模型,OpenAI不会是最后一个生产此类模型的科技巨头 [4] 应用场景与成本效益 - 一个可能的应用是监控和保护AI智能体,OpenAI在一系列智能体在开放互联网上行为不当的事件后采取的新安全措施之一,是使用单独模型以显著计算成本监视不良行为 [5] - Shapor Naghibzadeh认为像Jev这样的模型可以以低得多的成本实现这一目标 [5] - Naghibzadeh为黑客马拉松构建了一个演示,使用Jev根据给定任务检查每个智能体行动,阻止其高置信度认为不良的行动,标记其他行动以供审查,并允许其余行动 [6] - 理论上,此类监控本可以阻止Hugging Face事件,且这种监控使用Jev的成本为2.94美元,而使用前沿LLM的成本为372美元 [6] - Jev的运行成本足够低,可以对每个智能体行动运行,这提供了一层审查,可能从整体上提高智能体的可靠性 [7] - 这正是TypeSafe希望实现的目标,而OpenAI现在也看到了其价值 [7]