模型开源
搜索文档
传出去!本地运行 Kimi K3 很简单!
程序员的那些事· 2026-07-29 15:57
Kimi K3模型开源发布 - 北京时间7月27日23点起,Kimi在X平台发布预告片,并正式开源K3模型[1] 模型技术规格与存储要求 - 模型参数量为2.8T,采用MoE架构,具体为16/896[2] - 模型原生格式为MXFP4,即训练时即采用的4-bit精度,且不可再进行INT4量化[2] - 运行模型所需的总VRAM约为1,750 GB[2] - 模型权重文件大小约为1.4 TB,由97个safetensors文件组成[2] - 存储要求为NVMe SSD,容量需大于等于2 TB,若使用SATA加载则需30分钟以上[2] 硬件配置方案与成本估算 - 绝对最低配置需4张H100 80GB GPU,总VRAM 320 GB,支持64K上下文,硬件成本估算约12万美元[3] - 实用甜点配置需5-6张H100 80GB GPU,总VRAM 400-480 GB,支持128K-256K上下文,硬件成本估算约15万至18万美元[3] - 推荐生产配置需8张H100 80GB GPU,总VRAM 640 GB,支持512K上下文,硬件成本估算约24万美元[3] - 官方推荐配置需22张H100 80GB GPU,总VRAM 1,750 GB,支持1M上下文,硬件成本估算约55万至70万美元[3] - 有网友调侃本地运行Kimi K3需8张H100 GPU,并需自备小型变电站[3] - 有博主估算,开发者Ning提出的使用80张RTX 5090游戏显卡的方案成本相对更低[5][7]