AI在科研与工作中的赋能与风险 - 斯坦福大学策划全球首个以AI为核心作者与论文评审的线上开放会议，旨在探索AI独立产生科学见解的潜力[1] - AI应用在科研等多领域广泛赋能，促进学术研究和生产生活提质增效[2] - AI专业化能力和交互便捷性飞跃，对话式交互使其易被奉为专家并形成心理依赖[4] - AI大模型"开箱即用"的便捷性进一步降低了使用门槛[4] - AI显著推动科研进程，例如用于绘制蛋白质结构、研发新型抗生素和加快文献综述进度[4] 过度依赖AI对认知能力的影响 - 过度依赖AI进行"思维外包"可能让人类丧失思维主导权[1] - 长期使用AI大语言模型会导致大脑神经连接数降低，影响语言和行为层面[2] - 生成式AI会削弱批判性思维能力，导致过度依赖并可能削弱独立解决问题的能力[2] - AI应用带来认知需求的"空心化"，当AI完成"烧脑"部分，人类仅剩机械性执行，可能导致心理疏离和丧失工作动力[3] - 无条件接受AI信息会导致人的主观能动性下降，深度阅读思考和表达能力退化[5] 应对策略与未来人机共生模式 - AI工具开发者应有支持用户提升批判性思维的意识，如在设计高风险任务时强制弹出验证提醒[2] - 企业、政府部门等部署AI时应"慢下脚步"，可先小范围试点、可控推进，观察对员工积极性和创造力的影响[3] - 未来10年，使用AI的知识型劳动者将分化为"AI乘客"（将认知工作全权交由AI）和"AI驾驭者"（坚持主导AI运作，对结果严格核查）[6] - 人们需要学会分辨适合使用AI的场景，并建立"AI缓冲带"，即先自己思考答案再寻求AI深化和扩充[6] - 建议进行"对抗性生成"，当AI给出契合观点时，用批判性思维去质疑，尝试跳出思维惯性给出AI没想到的答案[6] AI技术缺陷与实际应用问题 - 由于缺乏基本AI素养教育，使用者对AI技术缺陷认知不足，更容易"轻信"[4] - 英国高等法院要求律师采取紧急行动防止AI被滥用，原因是数份可能由AI生成的虚假案例引用被提交至法庭[4] - 美国一份儿童慢性病报告因使用生成式AI内容而出现重大引用错误[4] - AI产生的"幻觉"出现在论文评审或研究中时十分令人担忧[4] - AI可能带有训练数据中的偏见，进而加剧种族、性别等不平等问题[4]