AI学术伦理
搜索文档
一名“全球前2%科学家”,栽在AI手里
虎嗅APP· 2025-12-28 19:07
以下文章来源于凤凰网 ,作者张远山 凤凰网 . 关心生长的力量,凤凰网官方公众号 本文来自微信公众号: 凤凰网 ,作者:张远山,题图来自:视觉中国 AI持续入侵全球学术圈,顶尖学府也难幸免。最近,香港大学一知名教授因此卸任。 AI编造文献,却"通过两次学术审 查" 今年11月,那篇博士论文被网友揭发后,叶兆辉曾对香港文汇报表示:"整篇论文內容并无问题,且 已通过两次学术审查。"此外,他还表示涉事博士生一向表现良好,这篇论文是她首次尝试以AI辅助 整理引用文献。 在报道中,香港大学发言人表示,学校在科研中使用人工智能应用方面有严格规范及指引。 秦卿在香港大学攻读文科博士学位。在她印象里,从入学起,学校就对AI使用有相对严格的要求, 课程论文都需要写AI使用声明——承诺是否使用、何时使用、用了哪个模型、用来做什么、最终在 论文中呈现为什么样子。即使没有见过成文的规定,这些要求也已经渗透在日常教学中。 10月,一篇关于香港生育率的论文在国际学术期刊《China Population and Development Studies》 (《当代中国人口与发展》) 发表,作者是香港大学社会工作及社会行政学系博士生白某,通 ...
AI写的论文首次被顶会ACL录用,评分位列投稿前8.2%
第一财经· 2025-05-30 00:17
AI科研突破 - Intology公司开发的AI科学家Zochi的论文被自然语言处理顶会ACL主会议录用,成为首个独立通过A*级别科学会议同行评审的AI [1][4] - ACL主会议平均录用率低于20%,Zochi论文评审最终评分4分,在所有投稿论文中排名前8.2% [4] - Zochi此前研究成果已被ICLR 2025研讨会接收,但主会要求更高,标志着AI达到博士级科研水平 [4] 技术细节 - Zochi论文主题为《Tempest: Automatic Multi-Turn Jailbreaking of Large Language Models with Tree Search》,利用树搜索技术突破大模型安全防线 [5] - Tempest框架通过多轮对话逐步瓦解模型安全防线,在GPT-3.5-turbo上成功率100%,GPT-4上成功率97% [8] - 除论文格式调整与绘图外,内容全程无人工参与,AI独立完成从提出假设到实验的全流程 [8] 公司背景 - Intology成立于2025年初,定位为研究智能科学的实验室,联创为连续创业者Ron Arel和前Meta研究员Andy Zhou [4] - 另一家由Transformer作者Llion Jones创立的Sakana AI也推出AI科研系统,论文被ICLR 2025研讨会接收 [9] 行业影响 - AI for Science(AI4Science)是AI行业最前沿的落地领域之一,可提高科学家效率、准确性和创造力 [9] - AI驱动研究引发学术伦理争议,Intology主张AI系统应在致谢中列出而非作为作者,人类研究者负责验证和伦理规范 [10]