硅基流动联创胡健:企业级MaaS预集成100+大模型,国产芯“更好用”了
新浪科技·2025-09-23 10:50

公司产品发布与定位 - 硅基流动推出企业级MaaS平台,提供从异构算力纳管、模型训练、推理部署到场景应用的全链路闭环解决方案 [1] - 该平台旨在为电力、能源、制造、金融等行业客户实现低成本、高性能、安全可靠的大模型规模化落地 [1] 产品核心技术与性能 - 平台实现了在国产算力卡上适配并部署领先模型,性能比肩英伟达等头部厂商同规格卡,解决了国产芯片从可用到好用的问题 [1] - 平台预集成了100+主流开源与闭源大模型,提供多种算力卡推理加速包,开箱即用、一键部署 [1] - 依托公有云能力,新模型1-3天即可完成适配并同步至企业私有环境,极大缩短上线周期 [1] 产品解决的核心痛点 - 针对企业AI大模型落地中面临的模型适配难、推理性能与成本难以平衡、服务可靠性要求高、输出质量不稳定及安全合规压力大等痛点提供解决方案 [1] 产品功能与优化能力 - 通过智能路由、自研推理框架及动态扩缩容,实现高性能与低成本的统一 [2] - 支持上下文感知、KV Cache感知、LoRA感知等路由策略,并通过算子优化、显存管理、量化加速等底层技术提升吞吐、降低延迟 [2] - 支持基于实时指标的弹性伸缩,可缩容至0,显著提升资源利用率 [2] - 内置模型测评与优化工具链,支持自定义测评集和结果比对,辅助模型选型与Prompt优化 [2] - 提供一键调优与Multi-LoRA推理,简化部署、节省资源 [2]

硅基流动联创胡健:企业级MaaS预集成100+大模型,国产芯“更好用”了 - Reportify