大模型运营平台LLMOps

搜索文档
星环科技-U分析师会议-20250319
洞见研报· 2025-02-20 09:00
调研基本情况 - 调研对象为星环科技 - U,所属行业为软件开发,接待时间是2025 - 02 - 18,上市公司接待人员有董事、董事会秘书、财务总监李一多,研发副总裁杨一帆,证券事务代表赵梦笛 [13] 详细调研机构 - 参与调研的机构有长江养老险公司、长江证券、海通证券、鹏华基金、鑫元基金、汇丰投资公司、鸿道投资公司、中银基金、晶凯资本、华商基金、沣杨资产管理公司、国联基金、浙商证券、利幄基金、工银安盛资管 [14][15] 主要内容资料 公司大模型运营平台LLMOps产品比较优势 - 公司能力覆盖从语料接入开发到业务效果提升的全链路流程,超过仅从单一环节切入的竞争对手 [19] - 公司起家做大数据基础软件,对数据集成、治理、资产管理等理解更深刻 [19] - 公司的LLMOps支持多模态数据全生命流程管理,注重企业级运营和协作能力 [19] 开源语料处理工具对公司的威胁 - 目前开源软件仅提供底层处理框架,开发成本高,处理大规模数据有障碍,存在安全问题,对公司语料处理工具无威胁 [20][21] DeepSeek爆火后公司情况 - 商机层面尤其是AI方向远高于去年,金融机构开始有预算投入,政府端本地化部署问询大幅增加 [21] - 公司产品Sophon LLMOps可助力客户基于DeepSeek模型实现企业级应用落地 [21] 企业接入DeepSeek情况 - 企业接入DeepSeek推理模型可高效利用智能体,但需构建前期知识库和语料,借助其他工具处理数据 [21][22] - 公司提供工具助力客户进行推理模型前期部署工作 [22] 公司硬件层面布局 - 公司一体机布局覆盖星环知识平台一体机、Sophon LLMOps搭载服务器、AIPC三类产品 [23] 公司向量数据库作用 - 向量数据库是大模型推理所需的外挂知识库,为企业用户回复提供溯源,按数据存储量和性能收费 [23]