刚刚，图灵奖得主、深度学习三巨头之一、蒙特利尔大学教授 Yoshua Bengio 官宣了非营利组织 LawZero，希望通过采取与大型科技公司根本不同的方 法，开发一种"设计安全"的人工智能（AI），以发现试图欺骗人类的"流氓"系统。 LawZero 以科幻小说作家 Isaac Asimov 的机器人第三定律命名--"机器人不得伤害人类，也不得因不作为而让人类受到伤害。" LawZero 的最初支持者包括人工智能安全机构"未来生命研究所"、Skype 创始工程师 Jaan Tallinn 和谷歌前首席执行官 Eric Schmidt 创办的研究机构 Schmidt Sciences。 Bengio 将担任 LawZero 的主席。他们在 LawZero 官网写道： 当前的前沿系统已经显示出自我保护和欺骗行为的迹象，随着其能力和代理程度的提高，这种现象只会加速。 我们认为，应将 AI 作为全球公益事业来培养，安全地开发和使用 AI，以实现人类的繁荣。每个 AI 前沿系统的基础都应基于一个核心承诺： 保护人类的快乐和努力（to protect human joy and endeavour）。 由两个主要部分组 ...