大模型训练，可以说是人工智能产业应用的一个重要领域，对算力有着极高需求，但不同类型的智算芯片难以聚合成资源集群，以 支持更大规模模型的训练，因此异构混合训练技术成为业界研究重点，这也成了中移齐鲁创新院成立之后的研发突破点。 针对异构混合训练中任务分配不均衡、通信协议不兼容等关键问题，中移齐鲁创新院研发团队开展系统性攻关，100%自主研发实 现3D并行非均匀切分功能，支持流水线并行、数据并行等主流并行模式的混合训练，并基于山东智算科研资源池进行性能调优和功 能适配开发，实现百亿大模型在英伟达、天数智芯、壁仞科技、海光等多家智算芯片上的混合训练，训练加速比达95%以上，能够 显著降低人工智能大模型训练成本，提高国产智算芯片训练效率，实现业界领先。 为了高效地推进大模型国产化落地，中移齐鲁创新院还借助"芯合"算力原生平台跨架构迁移能力，推出基于国产芯片的推理模型快 速部署、自动压测以及性能优化的全链路解决方案，旨在破解国产芯片快速选型的瓶颈以及降低模型部署成本。 人工智能如同一位产业魔术师，正在对各行各业进行着提升和重塑。作为山东省人工智能的产业重镇，中移齐鲁创新院是由山东省 人民政府和中国移动通信集团有限公司共同 ...