Workflow
科大讯飞(002230.SZ):随着国产算力在底层能力上进一步提升,讯飞星火的训练成本还有较大的下降空间

公司战略与技术路线 - 公司在受限的有限算力资源条件下,对星火大模型训练和推理成本效率的持续优化做了大量投入 [1] - 公司选择了更难的全国产算力路线,而非直接使用英伟达卡上开展的各种工程优化 [1] - 自2023年5月起,公司联合华为先后攻克了万卡高速互联组网、计算通信隐藏、训练推理强交互、高吞吐推理优化以及国产算子优化等一系列难题 [1] 技术优化成效与成本展望 - 公司将通用大模型、类o1的深度推理模型等的训练效率对标A100,从最初的30%-50%优化达到了85%-95%以上 [1] - 随着国产算力在底层能力上进一步提升,讯飞星火的训练成本还有较大的下降空间 [1]