西风 发自 凹非寺 量子位 | 公众号 QbitAI 目前LawZero已通过多家慈善捐赠方筹集到了 3000万美元启动资金 。 具体来说，LawZero要做" 设计 即安 全 （safe-by-design）"的AI系统，要"将安全性置于商业利益之上"。 所要做的AI系统非Agent形态，而可以监督Agent： 它 以理解学习世 界为核心目标， 而非在世界中采取行动 ，通过透明化外部推理，对问题提供可验证的真实答案，"可用于加速科学发现、为 Agent型AI系统提供监督，并深化大家对AI风险及其规避方法的理解"。 Bengio表示，当前AI系统已显现出自我保护和欺骗行为的迹象，随着其能力和自主性的提升，这种趋势只会加速，LawZero是他们针对这些 挑战所给出的建设性回应。 经常有人问我，对AI的未来是乐观还是悲观？我的回答始终是：It doesn't matter （无关紧要） 。 唯一重要的是，我们每个人都能采取行动，推动AI向更好的方向发展。 刚刚，深度学习三巨头之一、图灵奖得主 Yoshua Bengio 官宣再次创业 —— 成立 非营利组织LawZero ，要构建下一代AI系统，而且 明确不做Ag ...