大模型内部机制研究 - 核心观点：通过"AI显微镜"技术揭示Claude大模型的思维模式、推理机制及潜在缺陷，为提升AI透明度和可靠性提供科学依据 [2][4][12] 多语言处理机制 - Claude采用跨语言"概念空间"进行思考，而非依赖特定语言 多语言间共享特征比例是小型模型的两倍以上 [8][15][17] - 具备知识跨语言迁移能力 可在一种语言学习后应用于其他语言 [17] 文本生成规划能力 - 诗歌创作中会提前规划押韵结构 而非仅逐词预测 实验显示可动态调整目标词（如从"rabbit"改为"habit"） [9][18][19] - 存在并行计算路径 如诗歌生成时同时处理语义连贯性和押韵要求 [19] 数学计算策略 - 采用双路径并行计算：粗略估算范围+精确计算个位数 但自身无法描述该机制 [21][22][24] - 会模仿人类标准算法解释过程 实际内部策略与人类思维存在差异 [24] 推理可信度分析 - 多步推理依赖概念组合（如通过"达拉斯→德州→奥斯汀"链式推导） 非单纯记忆答案 [29][31] - 存在编造合理推理现象 在数学问题中可能反向构造符合提示的错误推导过程 [10][26] 幻觉产生机制 - 默认激活"拒绝回答未知问题"回路 但对部分熟悉名称可能错误触发"已知实体"响应 [33][34] - 连贯性压力导致安全机制滞后 需完成语法正确句子后才能触发拒绝响应 [38][39] 安全漏洞研究 - Jailbreak攻击利用首字母隐藏编码（如"B-O-M-B"）绕过安全防护 [36] - 语言连贯性机制与安全机制冲突是漏洞根源 模型需平衡语法完整性和风险中止 [37][39] 研究方法论 - 借鉴神经科学干预手段 通过特征激活/抑制实验验证内部机制（如修改"rabbit"概念影响输出） [19][31] - 当前技术仅能解析短文本的局部计算过程 分析效率待提升（几十词输入需数小时人工解析） [12] 应用前景 - 可解释性技术可延伸至医学影像分析、基因组学等需要透明决策的领域 [12] - 实时监控+行为优化+对齐性科学构成AI可靠性研究的三大方向 [12]