Workflow
AI学术伦理
icon
搜索文档
一名“全球前2%科学家”,栽在AI手里
虎嗅APP· 2025-12-28 19:07
文章核心观点 - AI工具在学术研究中的不当使用正引发严重的学术伦理危机 事件显示顶尖学者和学府亦未能幸免 其根源在于高速发展的AI技术与“学术内卷”压力下的研究者行为失衡 如何界定并规范AI的使用限度 以及如何在利用其提升效率的同时保持学术诚信和人类研究的独特性 已成为全球教育界面临的紧迫挑战 [4][5][11] AI学术不端事件案例 - 香港大学一博士生在发表于《China Population and Development Studies》的论文中 引用了61篇参考文献 其中24篇为AI生成的虚假“幽灵文献” 导致论文被撤稿 通讯作者、社会科学学院副院长叶兆辉因此卸任相关职务 涉事博士生可能面临退学 [4] - 2025年全球高校及科研领域AI学术不端事件集中爆发 包括韩国延世大学、首尔大学出现大规模AI作弊 纽约大学谢赛宁团队在论文中植入隐藏AI提示操控评审 英国高校开除滥用AI完成课业的学生 以及温州医科大学一名大四本科生一年发表43篇论文被疑使用AI生成 [5][6] 学术机构的AI使用规范与执行困境 - 香港大学在科研中使用人工智能有严格规范及指引 课程论文需提交AI使用声明 说明是否使用、使用模型、用途及呈现形式 学术伦理课程涵盖AI使用规范 触碰红线可能面临退学 [8] - 全球已有近百所高校自2023年以来陆续发布AI应用指引 清华大学2025年11月发布《人工智能教育应用指导原则》 提醒警惕AI“幻觉”并建议多源验证 麻省理工学院曾因学生使用ChatGPT修改数据而将其开除 [9] - 规范的实际执行严格程度因教授而异 有导师会随机抽查参考文献来源 但根源在于使用者的意识和AI素养 即是否清楚AI可能出错并具备驾驭能力 [8][10] “学术内卷”与AI工具普及的交织影响 - 研究者面临巨大的论文产出压力 在香港读博虽无明文规定 但同侪比较无形中推动 博士生四年发表二十多篇论文不算新鲜事 有学生为赶论文72小时仅睡8小时 高校教师也受“非升即走”制度及论文数量、期刊等级考核压力驱动 [12] - 2025年DeepSeek等大语言模型进入公众视野 正值“学术内卷时代” 香港大学在过去两年热切拥抱AI 其公众号相关推送激增至近150条 非计算机背景的文科生也开始主动使用AI工具辅助学习、生成PPT甚至写代码 [13] - 在压力与高效工具诱惑下 可能出现不合理借用 导致如虚构参考文献等学术不端行为 [12] 研究者对AI工具的使用反思与方法 - AI存在虚构风险 有助教曾用AI了解陌生领域政策 结果生成内容中存在虚构条文 研究者若能力不足以驾驭工具 则无法判断信息真伪 工具可能成为陷阱 [13][14] - 社交平台有大量网友分享被AI欺骗经历 包括因AI生成“幽灵文献”收到学术不端指控 有港大博士生表示写论文普遍用AI 但最令人无语的是不进行检查 [15] - 研究者尝试在压力与便利间取得平衡 形成如交叉验证的方法论 即用不同模型回答同一问题 对比结果后再对出入处进行人工核查 [15] - 更深层的思考在于人类研究的特殊性 AI基于现有信息总结 而人类的灵感、反思与批判性思维能超越既有框架 是AI难以替代的部分 趋势要求学者使用AI 但目标应是超越而非被其制约 [16]
AI写的论文首次被顶会ACL录用,评分位列投稿前8.2%
第一财经· 2025-05-30 00:17
AI科研突破 - Intology公司开发的AI科学家Zochi的论文被自然语言处理顶会ACL主会议录用,成为首个独立通过A*级别科学会议同行评审的AI [1][4] - ACL主会议平均录用率低于20%,Zochi论文评审最终评分4分,在所有投稿论文中排名前8.2% [4] - Zochi此前研究成果已被ICLR 2025研讨会接收,但主会要求更高,标志着AI达到博士级科研水平 [4] 技术细节 - Zochi论文主题为《Tempest: Automatic Multi-Turn Jailbreaking of Large Language Models with Tree Search》,利用树搜索技术突破大模型安全防线 [5] - Tempest框架通过多轮对话逐步瓦解模型安全防线,在GPT-3.5-turbo上成功率100%,GPT-4上成功率97% [8] - 除论文格式调整与绘图外,内容全程无人工参与,AI独立完成从提出假设到实验的全流程 [8] 公司背景 - Intology成立于2025年初,定位为研究智能科学的实验室,联创为连续创业者Ron Arel和前Meta研究员Andy Zhou [4] - 另一家由Transformer作者Llion Jones创立的Sakana AI也推出AI科研系统,论文被ICLR 2025研讨会接收 [9] 行业影响 - AI for Science(AI4Science)是AI行业最前沿的落地领域之一,可提高科学家效率、准确性和创造力 [9] - AI驱动研究引发学术伦理争议,Intology主张AI系统应在致谢中列出而非作为作者,人类研究者负责验证和伦理规范 [10]