Workflow
两位顶级科学家的17分钟对话:如何训练“善良”的AI
第一财经·2025-07-26 21:43

人工智能发展现状与挑战 - 杰弗里·辛顿在WAIC开幕式演讲中提出人工智能可能战胜人类智能的观点 并表达对人类"养虎为患"的担忧 [1] - 多模态聊天机器人已被认为具有意识 但关于如何规避相关风险的具体措施讨论仍然不足 [6] - 存在使AI既智能又善良的技术可能性 但目前尚未实现 需要立即展开相关研究 [6] AI技术国际合作与安全 - 第四届人工智能国际安全对话(IDAIS)期间 辛顿与20余名专家联合签署《AI安全国际对话上海共识》 [6] - 各国可能不愿分享AI智能化技术 但有望在AI友好技术领域开展国际合作 [6] AI对科学研究的推动作用 - AI已在蛋白质折叠领域取得显著突破 谷歌DeepMind团队通过AI应用大幅提升预测准确性 [7] - AI技术预计将在更多科学领域带来革命性进步 蛋白质折叠仅是早期成功案例之一 [7] 人才培养与科研创新 - 上海人工智能实验室研究人员平均年龄仅30岁 显示AI领域由年轻一代主导的趋势 [7] - 辛顿建议年轻科研人员专注于"所有人都做错"的研究方向 即使面临质疑也应坚持探索 重大突破往往源于此类坚持 [8]