训练中暴露的敏感信息往往被模型"记住"，引发广泛关注。 Machine Unlearning团队 投稿 量子位 | 公众号 QbitAI 近年来，大语言模型（LLMs）的能力突飞猛进，但随之而来的隐私风险也逐渐浮出水面。 在此背景下， 机器遗忘（Machine Unlearning） 技术应运而生，目标是在不影响整体能 力的前提下，有选择性地抹除特定知识。 来自香港理工大学、卡内基梅隆大学和加州大学圣克鲁兹分校的研究团队通过构建一套表示 空间的诊断工具，系统性地区分了 "可逆性遗忘"与"灾难性不可逆遗忘" ，并首次揭示了遗 忘现象背后的表示结构变化规律—— 真正的遗忘只有在多个网络层发生协同且大幅度扰动时才会出现；而相比之下，在高敏感区 域（如输出logits）中进行轻微更新虽然会显著降低准确率或提高困惑度，但模型内部表示 结构仍可保持完整。 研究人员整理成了一个统一的表示层分析工具箱，支持诊断LLM在 Unlearning/Relearning/Finetuning等过程中的内在变化。 真正的遗忘，是结构性的抹除，而非行为的抑制 研究者提出："一个模型若仅仅在token输出上'忘记'，而其内部结构几乎未变， ...