本文第一作者为中国科学院大学的博士生陈若愚，主要研究可解释 AI 以及在训练推理中的落地应用。第二作者为新加坡国立大学的梁思源，主要研究可信 AI。 主要合作者来自华为技术有限公司的刘势明和李茂森。通讯作者为中山大学的操晓春教授和中科院的张华研究员。 AI 决策的 可靠性与安全性 是其实际部署的核心挑战。当前智能体广泛依赖复杂的机器学习模型进行决策，但由于模型缺乏透明性，其决策过程往往难以被理解与 验证，尤其在关键场景中，错误决策可能带来严重后果。因此，提升模型的可解释性成为迫切需求。 目前已有的解释方法，如 Shapley Value、Integrated Gradients、Attention、Gradient（如 Grad-CAM）以及 Perturbation 等，虽然在小规模模型中取得了较好的解释效 果，但在面对多模态任务或大规模模型时，均存在不同程度的局限性，难以直接扩展或适用。因此， 发展一种在大模型与小模型中均具有良好适应性的高效可解 释归因方法具有重要意义 。 近期，中国科学院、新加坡国立大学、华为技术有限公司与中山大学的联合研究在多模态物体级基础模型的可解释归因技术方面取得了重要突破， 不 ...

至 2024 年，中国的 AI 相关论文引用量占全球总量的 40.2%，实现了对美国（占比42.9%）的快速追 赶。 5月26日，上海科学智能研究院联合复旦大学、施普林格·自然（Springer Nature） 旗下的自然科研智讯 （Nature Research Intelligence）全球发布《科学智能白皮书2025》(下称"报告"）。 物总量快速增长，科学智能异军突起，2020年后加速成长，有力推动了人工智能研究整体的井喷态势。 全球人工智能期刊论文数量在过去十年间激增近三倍——从30.89万篇增至95.45万篇，年均增长率为 14%。人工智能核心领域（如算法、机器学习）占比从44%降至38%；科学智能占比相应提升了6个百分 点，且其年均增长率从2020前的10%，提升至2020后的19%。尤其是在工程科学和生命科学领域，其年 均增长率分别从2020年前的9%和15%，提升至2020年后的16%和29%。 国别研究显示，2015年至2024年间，全球人工智能出版物排名前五的国家/地区的格局发生了转变。中 国增长势头尤为显著，AI出版物总量从2015年的6.01万篇上升至2024年的30.04万篇，占全 ...