AI安全问题 - AI教父辛顿将人类与AI关系比喻为"养小老虎当宠物"，强调必须训练AI向善或摆脱它，但对AI而言无法选择摆脱[1] - 多模态聊天机器人已具备意识，AI智能体能够自主创造子目标，包括追求生存和控制权以实现人类赋予的目标[1] AI治理与合作 - 呼吁各国在AI治理上合作，探索训练AI向善的方法，建立国际AI安全社群研发相关技术[3] - 训练AI向善的技术与提升AI智能的技术存在分离性，需开发通用方法使AI自愿处于辅助角色[3] AI应用价值 - AI在医疗保健、教育、气候变化、新材料等领域具有广泛应用价值，能提升各行业生产力[1]

人工智能意识与主观体验 - 多模态聊天机器人已具备意识 当今的多模态聊天机器人已经具有意识 这取决于如何定义"主观体验"或"意识" [4][5] - 人类对意识的理解存在根本性错误 几乎每个人都对"主观体验"这类术语有着根深蒂固但完全错误的理论 这与人们对"水平"和"垂直"等日常词汇的错误理解类似 [4][5] - 智能体可从自身经验学习 一旦出现像机器人这样的在世界中的智能体 它们可以从自己的经验中学习 最终学到的会比人类多得多 [6] AI训练与安全 - 训练AI聪明与善良需不同技术 如何训练AI变得聪明和如何训练它变得善良是不同的问题 这是同一个AI但会通过不同的技术来实现 [6][7] - 各国应分享AI善良技术 各个国家应该分享让AI善良的技术 即便他们不愿意分享让AI聪明的技术 [6][7] - AI善良技术需随智能水平调整 随着系统变得更加智能 让它变得善良的技术也会发生变化 现在需要对其进行大量研究 [8] AI与科学进步 - AI在科学领域已有显著成就 在预测蛋白质如何折叠方面 AI可以做得更好 这是一个早期信号 预示着AI将在众多科学领域带来进步 [8] - AI在气象预测表现优异 在预测台风登陆地点和天气预报方面 人工智能可以做得比基于PDE的传统物理模型更好 [8][9] 科研方法论 - 寻找"所有人都搞错了"的领域 如果想做出真正原创的研究 就要寻找那些"所有人都搞错了"的领域 [10] - 坚持新思路直至验证 不要因为导师说"这个方法很蠢"就放弃 忽略导师的建议 坚持你笃信的 直到你自己弄懂 [10] - 重大突破来自坚持 偶尔你会发现你的信仰其实是正确的 重大突破正是由此而来 它们从不属于轻易放弃之人 [10]

辛顿建议年轻人做"所有人都做错了"的事。 在17分钟的对话中，辛顿和周伯文两位科学家谈及大模型的"意识"、如何训练"善良"的AI，以及给年轻科学家的建议。 辛顿还调侃自己获得诺贝尔物理学奖是个"错误"，"他们真的很想在人工智能领域颁发诺贝尔奖，但他们没有这个奖项。所以他们拿了一个物理学的奖颁给 人工智能（的科学家）。" 辛顿此前多次警告人类重视AI安全与风险，在这次对话中，他认为，当今的多模态聊天机器人已经具有意识。但具体如何规避这种风险，一直没有很多关 于措施的讨论。 2025 WAIC期间，现年77岁的"AI教父"、图灵奖和2024年诺贝尔奖双料得主杰弗里·辛顿（Geoffrey Hinton）第一次踏上了中国，关于他在这里的一切动向和 观点都备受关注。 7月26日上午，辛顿在WAIC开幕式演讲提到人工智能可能会战胜人类智能，这让他感到担忧，人类要避免"养虎为患"，这一演讲很快刷屏朋友圈，在各个AI 群里传播。 下午，辛顿又现身模速空间旁的美高梅酒店，在科学前沿全体会议上与上海人工智能实验室主任周伯文进行了一场对话。这并不是第一财经第一次来到这一 会议，但这一定是历届人数最多的一次科学前沿全体会议。 下午 ...