核心观点 - GEPA（Genetic-Pareto）通过反思式提示词进化技术，性能超越GRPO强化学习算法20%，同时将rollout次数减少至1/35 [1][2][39] - GEPA采用遗传式提示词进化、自然语言反馈反思和基于帕累托的候选选择三大核心原理 [6][7][8] - 在GPT-4.1 mini和Qwen3 8B模型上，GEPA全面超越MIPROv2优化器，最高优势达11.1% [41][42] 技术原理 - **遗传式优化循环**：通过突变/杂交迭代生成新候选，继承父级学习信号并积累经验教训 [13][14][15][16] - **反思式提示更新**：利用LLM分析执行轨迹，将结果归因于模块提示词并提出针对性更新 [21][22][23] - **帕累托候选选择**：筛选非占优候选策略，平衡探索与利用避免局部最优 [27][30][31][35] 性能表现 - **样本效率**：仅用GRPO 1/35的rollout次数实现19%性能提升 [39] - **基准测试**：在HotpotQA/IFBench/Hover/PUPA四大任务中，GEPA聚合分数达61.28（Qwen3 8B）和66.97（GPT-4.1 mini） [38] - **比较优势**：GEPA+Merge方案在GPT-4.1 mini上相对基线提升16.02%，是MIPROv2增益的两倍以上 [38][42] 创新亮点 - **计算效率**：优化后指令比少样本演示提示词更短，降低推理成本 [45] - **杂交策略**：系统感知型Merge操作可额外带来5%性能提升 [47] - **选择策略**：基于帕累托的采样方法比单纯选择最佳候选性能高6.4% [44]