Workflow
大模型首次直接理解代码图:不用Agent自动修bug,登顶SWE-Bench开源模型榜单
量子位·2025-06-27 14:08

核心观点 - 蚂蚁开源的新模型CodeFuse-CGM在SWE-bench Lite上以44%的bug解决率超越所有开源方案,性能媲美闭源模型[1][2] - 该模型首创将仓库代码图模态(CGM)融入大语言模型,直接理解代码结构,显著提升跨文件修复和补全能力[12][14][16] - 完全基于开源模型实现,摆脱对GPT-4等闭源模型的依赖,提供更可控透明的解决方案[6][33] - 通过Graph-RAG框架将传统Agent方案的10个模块精简至4个,效率大幅提升[21][23][28] 技术突破 模型架构 - 采用图-语言多模态设计:图模态包含7种节点类型(函数/类/文件等)和依赖关系边,语言模态处理自然语言提示[14][16] - 创新性技术:节点token压缩(CodeT5+编码器)、512倍上下文扩展适配器、图感知注意力掩码实现GNN式消息传递[17] - 两阶段训练:子图重构预训练(Graph-to-Code任务)和噪声增强微调(10%噪声输入提升鲁棒性)[18][19][20] 性能表现 - SWE-bench Lite:44%解决率,超越最佳开源基线KGCompass 7.33个百分点[5][25] - SWE-bench Verified:50.4%解决率,较开源基线提升10.2%;Java项目提升4.4%至14.29%[26][29] - 代码补全任务:在ComplexCodeEval和CrossCodeEval跨文件场景显著领先同尺寸开源模型[30] 行业意义 - 首次证明开源模型可通过结构融合实现仓库级任务,打破闭源模型垄断[6][12][33] - 验证Graph-RAG框架替代复杂Agent的可行性,核心模块减少60%[21][23] - 技术全栈开源(论文/代码/权重/数据),适配CodeLlama/DeepSeek等多类基座模型[31][34] - 解决传统AI编程仅限函数级任务的局限,实现跨模块的"真正项目理解"[9][32]