MME团队 投稿 量子位 | 公众号 QbitAI 逻辑推理是人类智能的核心能力，也是多模态大语言模型 (MLLMs) 的关键能力。随着DeepSeek-R1等具备强大推理能力的LLM的出现，研 究人员开始探索如何将推理能力引入多模态大模型(MLLMs)。 然而，现有的benchmark大多缺乏对逻辑推理类型的明确分类，以及对逻辑推理的理解不够清晰，常将感知能力或知识广度与推理能力混 淆。 在此背景下，复旦大学及香港中文大学MMLab联合上海人工智能实验室等多家单位，提出了MME-Reasoning，旨在全面的评估多模态大模 型的推理能力。 结果显示，最优模型得分仅60%左右。 MME-Reasoning：全面评估多模态推理能力 根据Charles Sanders Peirce的分类标准，推理分为三类：演绎推理 (Deductive)、归纳推理 (Inductive) 以及溯因推理 (Abductive)。 MME-Reasoning以此分类作为标准来全面的测评多模态大模型的推理能力。 演绎推理 (Deductive reasoning) 使用规则和前提来推导出结论。 归纳推理 (Inductive reas ...

大模型逻辑推理研究综述 核心观点 - 大模型研究从依赖扩展定律的预训练转向聚焦推理能力的后训练，逻辑推理能力成为解决幻觉问题的关键[1] - 大语言模型在逻辑问答和逻辑一致性方面存在显著缺陷，LLaMA 13B在FOLIO数据集上8-shot准确率仅33.63%，接近随机猜测水平[10] - 提升逻辑推理能力需结合外部求解器、提示工程、预训练微调等方法，并需满足否定/蕴涵/传递/事实/复合等多类逻辑一致性[15][21] 技术方法分类 逻辑问答 - **基于外部求解器**：将自然语言问题转换为符号表达式，通过求解器推理后集成答案[16] - **基于提示工程**：通过设计提示词显式构造推理链或实现自然语言与符号语言转换[17] - **预训练与微调**：纳入演绎证明样本增强数据集，针对性优化模型参数[18] 逻辑一致性 - **否定一致性**：禁止对命题p与其否定命题同时判定为真[22] - **蕴涵一致性**：确保前提p→q成立时，若p为真则q不得为假[23][24] - **传递一致性**：要求三段论推理链条自洽，如"喜鹊是鸟→鸟有翅膀→喜鹊有翅膀"需成立[25] - **事实一致性**：模型回答需与知识库事实对齐[26] - **复合一致性**：需同时满足多种逻辑规则组合的复杂推理要求[27][28] 典型案例 - 逻辑问答失败案例：给定"金属导电→铁是金属→钉子由铁制成"前提，模型无法推导"钉子导电"结论[6] - 逻辑不一致案例：Macaw模型承认"喜鹊是鸟"和"鸟有翅膀"，却否认"喜鹊有翅膀"[11] 未来方向 - 扩展模态逻辑处理不确定性命题[30] - 开发高阶逻辑推理能力以量化谓词属性[31] - 设计同时满足多类逻辑一致性的高效算法[31] 研究基础 - 覆盖5所顶尖高校联合研究，论文被IJCAI 2025接收[1] - 建立完整分类体系并汇总FOLIO等基准数据集[12][15]

选自 Ahead of AI 作者：Sebastian Raschka 机器之心编译 推理模型发展正盛，著名 AI 技术博主 Sebastian Raschka 也正在写一本关于推理模型工作方式的新书《 Reasoning From Scratch 》。在此之前，他已经出版了多本 AI 领域的著名书籍，包括《Build a Large Language Model (From Scratch)》、《Machine Learning Q and AI》、《Machine Learning with PyTorch and Scikit-Learn》。 近日，他在自己的博客上放出了这本书的第一章，为 LLM 领域的推理进行了入门级的介绍，同时还概述了推断时间扩展和强化学习等技术方法。 机器之心编译了这本书的第一章，以飨读者。 原文地址：https://magazine.sebastianraschka.com/p/first-look-at-reasoning-from-scratch （注：为了行文清晰，本文会将 inference 译为「推断」，将 reasoning 译为「推理」；其中 inference ...