独家|对话Tensormesh三位联创:如何从学术界走到大模型推理产业前线?
Z Potentials·2025-10-24 16:18

公司概况与融资 - 公司Tensormesh于2025年10月正式亮相,并宣布完成450万美元种子轮融资,由Laude Ventures领投 [2] - 公司致力于为企业提供缓存加速推理优化,是首个将大规模AI推理缓存产品化的商业平台 [2] - 创始团队由芝加哥大学教授Junchen Jiang及其学生Yihua Cheng和Kuntai Du领导,他们也是领先的开源键值缓存项目LMCache的联合创始人 [2] 创业起源与团队构建 - 创业构思始于2024年初,源于创始人意识到AI领域学术界与工业界存在巨大鸿沟,决定将复杂的系统研究转化为可用的产品 [4][22] - 团队组建过程非常顺利,创始教授与两位学生一拍即合,核心驱动力在于学生毕业后能共同创业,拥有归属感和投入感,这被视作教授创业成功的关键因素 [3][12][24] - 团队在博士期间的研究方向从视频分析系统转向大语言模型系统,是系统领域内较早聚焦LLM推理的团队之一 [8][10] 产品与解决方案 - 产品定位为帮助企业一键部署大模型服务的解决方案,核心是打造连接推理引擎与存储服务的桥梁 [4][18][34] - 解决方案针对企业部署大模型的三大痛点:大规模集群部署难度高、集群管理复杂、以及高昂的GPU推理成本 [27][28] - 部署后运行成本仅为公共API的十分之一,并且通过自研核心技术,性能比业界主流方案高出数倍甚至十倍以上 [4][29] 技术优势与行业定位 - 公司专注于大语言模型推理阶段,认为未来99%以上的AI计算负载将发生在推理而非训练阶段 [10] - 技术核心是KV Cache,专注于推理计算和存储之间的桥梁,旨在为快速演化的模型结构与推理方式提供弹性的执行平台 [34][35] - 与行业主流方案不同,其定位是提供非第三方、支持私有部署、能整合推理引擎、存储、调度和路由的全链路整体解决方案 [38] 市场认知与竞争策略 - 认识到推理是一个巨大的产业,不仅AI公司需要,银行、保险等传统行业同样有刚需,且市场会越来越大 [33] - 行业竞争主要来自成熟的第三方API服务及各类推理引擎,但市场缺乏支持私有部署的整体解决方案 [38] - 通过早期与Bloomberg等客户的合作,认识到企业客户更关注实际交付能力和使用体验,而非产品是否开源 [43] 开源与商业战略 - 开源被视为让用户快速用起来的有效途径,但并非最终形态,公司的目标是打造性能最强的开源引擎,并在此基础上构建具有附加价值的闭源产品 [5][40] - 商业策略是开源与闭源并行,通过领先的开源项目赢得用户认可,再通过体验更好的闭源系统实现商业转化 [5][41] - 未来计划将产品打造成大模型部署的首选入口,目标是当人们谈及大模型推理时能第一时间联想到其产品 [44][45] 未来展望与发展计划 - 公司的长期愿景是成为支撑下一代AI应用大规模落地的底层操作系统,并预见AI系统的形态将从“以人为本”转向“人类辅助” [5][51][52] - 除技术产品外,公司认为市场与营销是将技术价值转化为商业营收的关键,同时需要具备前瞻性思维进行战略布局 [46] - 团队建设被视为一切的基础,拥有对的人员和氛围至关重要 [47]