文章核心观点 - Anthropic公司首席执行官Dario Amodei强调当前行业对AI模型内部运作机制的理解不足，并设定目标到2027年揭开AI模型的黑箱[1] - 行业面临的核心挑战是AI模型决策过程缺乏可解释性，可能导致部署风险[1][2] - Anthropic提出通过"脑部扫描"或"核磁共振检查"等诊断手段识别AI模型潜在问题，预计需要5-10年实现[3] AI模型可解释性现状 - OpenAI最新发布的o3和o4-mini模型虽性能提升，但幻觉问题加剧且原因不明[2] - 生成式AI执行任务时无法精确理解其选择特定词汇或犯错的原因[2] - AI模型被描述为"更像是被培育而非建造出来的"，反映行业对深层原理认知有限[2] Anthropic的技术突破 - 发现通过"电路"追踪AI模型思维路径的方法，已识别出理解美国城市与州关系的电路[4] - 估计AI模型中存在数百万个类似电路，目前仅发现少数[4] - 首次投资专注于可解释性研究的初创公司，将安全研究与商业优势结合[4] 行业合作与监管建议 - 呼吁OpenAI和谷歌DeepMind加大可解释性研究投入[4] - 建议政府实施"轻触式"监管，要求企业披露安全实践[4] - 支持加州AI安全法案SB 1047，推动行业建立安全报告标准[5] 战略目标与时间表 - 短期目标：2027年前实现可靠检测大多数AI模型问题[1] - 长期愿景：对先进AI模型进行类脑部扫描诊断，识别撒谎/权力追逐等倾向[3] - 预测人工通用智能(AGI)可能在2026-2027年实现，但完全理解模型仍需更长时间[2] 行业竞争格局 - Anthropic以安全研究为差异化优势，区别于OpenAI和谷歌的性能导向[5] - 提出芯片出口管制建议，试图降低中美AI竞赛风险[4]