Workflow
NVIDIA NIM Microservices
icon
搜索文档
Fractal Introduces LLM Studio to Bring Enterprise-Grade GenAI Customization with NVIDIA NeMo and NVIDIA NIM Microservices
Prnewswire· 2026-03-17 15:31
公司新产品发布 - 公司于2026年3月17日发布名为LLM Studio的企业级平台,旨在帮助企业构建和运行定制化的语言模型 [2] - LLM Studio是一个企业级生成式AI定制工作台,可帮助企业利用开源模型和英伟达AI基础设施来设计、构建、评估和运营领域特定语言模型 [1][4] - 该平台将在2026年3月16日至19日于加州圣何塞会议中心举行的英伟达GTC 2026大会上展示 [2] 产品核心功能与设计 - LLM Studio由两个模块组成:LLMOps用于管理模型创建后的全生命周期,支持部署、监控和治理;AutoLLM用于为特定任务或行业创建更小、更专业的模型,支持开源模型选择、合成数据生成、模型定制、评估和性能基准测试 [9] - 该平台基于英伟达参考架构构建,使用英伟达NeMo实现关键模型开发工作流能力,并使用英伟达NIM微服务进行模型托管 [5] - 该设计有助于企业在主要云环境中标准化模型的部署和管理方式,减少在每个设置中进行定制构建的需求 [5] - 公司计划使用英伟达Nemotron开源模型进行开发 [5] 产品价值主张 - LLM Studio旨在使模型响应与组织认可的数据和上下文绑定,从而减少幻觉并提高推理质量,最终模型归组织专有 [4] - 企业可以使用这些模型在智能体或其他生成式AI应用中,以通常远低于运行大型基础模型的成本,提供更可靠的性能 [4] - 该平台面向企业用户构建,包括编码经验有限或没有编码经验的团队,企业可根据自身内容定制模型,并训练其遵循特定指令,或构建专为需要更强推理能力的任务而设计的模型 [7] 行业趋势与市场需求 - 企业正在超越“一刀切”、仅限API的大型语言模型,以应对高价值用例 [3] - 当前,业务和技术领导者需要更清晰的治理护栏、可预测的成本和可靠的性能 [3] - 行业研究指出,越来越多企业采用更小、专为特定目的构建的模型,这些模型可以针对特定功能和领域进行微调 [3] - 企业已度过生成式AI的实验阶段,需要受治理、成本可预测且在生产中可靠的解决方案 [6] 公司背景与业务构成 - 公司是一家公开上市的全球企业级AI公司,为《财富》500强组织提供服务 [2] - 公司业务组合包括Asper.ai(为收入增长实现互联决策)和Analytics Vidhya(全球最大的数据科学社区之一) [8] - 公司分拆了Qure.ai,这是一家全球医疗保健AI领导者,致力于加强结核病、肺癌和中风的快速识别与管理 [8] - 公司专门的AI研究团队专注于基础AI进步,包括基于知识的基础模型、基于推理的系统和智能体系统,该团队已成功推出包括MarshallGoldsmith.ai, Vaidya.ai, Kalaido.ai,以及开源推理模型Fathom-R1-14B和基于工具的推理模型Fathom-DeepResearch在内的产品 [8][10] 公司规模与荣誉 - 公司在全球(包括美国、加拿大、英国、荷兰、乌克兰、印度、新加坡、南非、阿联酋和澳大利亚)拥有超过5,000名专业人员 [11] - 公司持续获得认可,包括被评为2025年印度最佳工作公司(前100名)、连续八年被评为“卓越职场”、以及连续五年被卓越职场研究所评为“印度女性最佳职场” [11] - 公司还被2025年Forrester Wave™评为客户分析服务提供商领导者,在Everest Group 2025年AI与分析服务峰值矩阵评估中获得领导地位,并在ISG 2024年数据工程和数据科学服务评估中获得领导地位 [11]