本文一作赵海，上海交通大学计算机学院长聘教授、博士生导师，上海交通大学通用人工智能（AGI）研究所所长。研究兴趣：自然语言处理、人工智能和大模 型。据 MIT 主办的世界大学计算机学科排行榜 csrankings 数据统计，上海交通大学计算机学科排名国内第三，赵海教授在其中的 AI 和 NLP 方向的论文贡献度第 一，占整个交大标准发表总量 1/4。Google Scholar 引用 11900 次。2022、2023、2024 年，连续入选爱思唯尔高被引学者。 本文二作伍鸿秋，赵海教授 2020 级博士生；本文三作杨东杰，赵海教授 2022 级博士生；本文四作邹安妮，赵海教授 2022 级硕士生；本文五作洪家乐，赵海教授 2024 级硕士生。 当前 GPT 类大语言模型的表征和处理机制，仅在输入和输出接口层面对语言元素保持可解释的语义映射。相比之下，人类大脑直接在分布式的皮层区域中编码语 义，如果将其视为一个语言处理系统，它本身就是一个在全局上可解释的「超大模型」。 因此，为了解决现有基于 Transformer 大模型的三个主要缺陷：算力需求高、不可解释性的黑箱、上下文规模受限，上海交通大学团队刚刚发布 ...