大模型微调训练

搜索文档
得一微发布AI-MemoryX显存扩展技术,助力DeepSeek训推一体机
半导体行业观察· 2025-02-28 11:08
近日,得一微电子(YEESTOR)发布集成AI-MemoryX技术的显存扩展解决方案。该方案依 托自研存储控制芯片和AI存储系统级创新,显著提升单机的显存容量,让32B、70B、110B、 671B等DeepSeek系列大模型实现单机微调训练,为AI大模型的微调训练提供功能强大且经济 实惠的解决方案。 得一微电子及相关合作伙伴将提供完整的微调训练机解决方案,助力众多行业拓展智能应用边 界,在产业竞争中占据先机。 低成本实现显存扩展, 解锁百倍大模型微调训练提升 训练和推理对GPU显存的需求存在显著差异。对于同一尺寸的模型,训练所需的显存通常是推理的 20倍以上。目前市场上,训推一体机在支持大模型微调训练方面仍面临显存容量的挑战,通常只能 支持7B、14B等大模型的微调训练,难以支持110B、70B、32B等更大模型的微调训练。 得一微发布的AI-MemoryX显存扩展卡,将促进训推一体机能够支持超大尺寸大模型的微调训练, 帮助客户支持高达110B(甚至671B)规模的训练任务。同时,AI-MemoryX技术将原本需耗费数百 上千万的硬件扩充成本,降低至数万元级别,大幅降低了超大模型训练的门槛。这将使得更多企业 ...