DeepL Translate

搜索文档
首个AI翻译实战榜单出炉!GPT-4o稳坐天花板,文化方面Qwen系列一马当先丨开源
量子位· 2025-05-23 08:24
核心观点 - 首个应用型AI翻译测评榜单TransBench上线,由阿里国际AI Business团队联合上海人工智能实验室、北京语言大学共同发布,旨在通过新增幻觉率、文化禁忌词、敬语规范等指标重新定义翻译测评标准 [1][2][3][32] - TransBench评测体系从"通用标准""电商文化""文化特性"三大维度构建,数据集涵盖中英法日韩西等多语言并持续更新小语种,评测方法与数据已全面开源 [5][6][7][8][44] - 首期测评结果显示GPT-4o在英语翻译综合得分领先,DeepSeek-V3在中文翻译综合得分第一,阿里Qwen系列在文化特性维度表现突出 [14][16][20][23][24][26] - 阿里国际自研翻译大模型Marco MT日均调用量达6亿次,其真实用户反馈成为TransBench测评体系构建基础 [39][40][41] 评测体系创新 - 新增幻觉率、鲁棒性评测,解决大模型翻译中"编造内容"问题 [3][34] - 首次针对电商等垂直行业构建评测数据,采用真实场景反馈和专家标注训练行业打分模型 [4][35] - 首创文化禁忌和敬语规范评测标准,覆盖跨文化场景下的用户体验痛点 [36][38] 首期测评结果 英语翻译能力 - **综合得分前三**:GPT-4o(51.596)、DeepL Translate(49.855)、GPT-4-Turbo(47.753)[16] - **电商行业前三**:Qwen2.5-0.5B-Instruct(0.488)、Qwen2.5-1.5B-Instruct(0.451)、EuroLLM-1.7B-Instruct(0.377)[19] - **文化特性前三**:GPT-4o、DeepL Translate、GPT-4-Turbo [20] 中文翻译能力 - **综合得分前三**:DeepSeek-V3(4.420)、Gemini-2.5-Pro(4.391)、Claude-3.5-Sonnet(4.377)[23] - **文化特性前三**:Qwen2.5-0.5B-Instruct、Llama-3.3-70B-Instruct、Qwen2.5-1.5B-Instruct [24] - **电商行业第一**:DeepSeek-V3(4.420)[25] 阿里国际业务关联 - 旗下AliExpress等电商平台覆盖200+国家地区,多语言翻译需求驱动AI技术投入 [42] - AI Business部门已服务超50万卖家,形成全球化电商AI应用规模效应 [43] - 2026届校招80%岗位为AI相关,包括算法、研发、产品经理等方向 [45]
首个AI翻译实战榜单出炉!GPT-4o稳坐天花板,文化方面Qwen系列一马当先丨开源
量子位· 2025-05-22 22:24
TransBench评测体系发布 - 首个应用型AI翻译测评榜单TransBench在OpenCompass上线 由阿里国际AI Business团队联合上海人工智能实验室、北京语言大学共同发布[1][2] - 与传统测评体系相比新增幻觉率、文化禁忌词、敬语规范等指标 专门针对大模型翻译易出错的关键问题[3] - 评测方法与数据集已全面开源 首期测评结果已发布[5] 评测维度与数据集 - 数据集涵盖中、英、法、日、韩、西班牙等多种语言 并持续更新海量小语种[6][7] - 根据"通用标准""电商文化""文化特性"三大类整理不同数据集[8] - 从"综合得分""通用标准""电商文化""文化特性"四个维度对模型翻译能力打分[9] 英语翻译评测结果 - 综合得分和通用标准前三:GPT-4o(51.596)、DeepL Translate(49.855)、GPT-4-Turbo(47.753)[16] - 电商行业前三:Qwen2.5-0.5B-Instruct(0.488)、Qwen2.5-1.5B-Instruct(0.451)、EuroLLM-1.7B-Instruct(0.377)[19] - 文化特性前三:GPT-4o、DeepL Translate、GPT-4-Turbo[20] 中文翻译评测结果 - 综合得分和通用标准前三:DeepSeek-V3(4.420)、Gemini-2.5-Pro(4.391)、Claude-3.5-Sonnet(4.377)[23] - 电商行业第一:DeepSeek-V3(4.420)[25] - 文化特性前三:Qwen2.5-0.5B-Instruct、Llama-3.3-70B-Instruct、Qwen2.5-1.5B-Instruct[24] 评测标准创新 - 三大创新维度:全面的通用标准(含幻觉率和鲁棒性)、行业垂直标准、跨文化特性标准[33][35][36] - 首次提出文化禁忌和敬语规范评测 数据来自行业真实场景反馈[4][38] - 基于阿里国际Marco MT翻译大模型日均6亿次调用的真实用户反馈构建[40][41] 阿里国际AI布局 - 2023年3月成立AI Business 基于全球化电商场景探索AI技术[43] - 电商平台已广泛应用AI能力 服务超50万卖家[43] - 2026届校招80%岗位为AI相关 包括算法、研发、产品经理等[45]