微软消费人工智能主管苏莱曼(Mustafa Suleyman)目前正致力于打造一款"符合人类利益"的超级智能。在本周最新的一场访谈栏目中他承 诺，若该技术对人类构成威胁，将立即停止相关研发工作。 苏莱曼在节目中表示："我们不会继续开发可能失控的系统。" 值得一提的是，在今年十月一份重塑微软与OpenAI关系的协议达成前，苏莱曼的工作其实一直受限于合同条款 ——该条款禁止微软研发通 用人工智能(通常指具备人类能力的系统)或超越人类能力的超级智能。 而根据新协议，OpenAI可与第三方联合开发部分产品。同时，微软也可独立或与第三方合作开发通用人工智能。 苏莱曼透露，微软实际上已放弃了限制这些权利以换取使用OpenAI最新产品的机会——这是双方此前合作的一部分，多年来微软一直为 OpenAI代建并配置数据中心。 谈及OpenAI时，苏莱曼表示，"他们如今与软银、甲骨文等多家企业达成了协议，建设的数据中心规模已超出微软原计划为其建造的数量。 因此相对应的，我们也获得了自主开发人工智能的权利。" 就目前而言，业内关于超级智能的讨论仍是理论性的。 虽然像ChatGPT这样的人工智能模型，能够以十年前计算机无法做到的方式与 ...

美东时间11日周四，曾参与创立DeepMind的微软消费人工智能（AI）主管Mustafa Suleyman承诺，若超 级智能对人类构成威胁，将立即停止相关开发工作。 Suleyman目前致力于打造"与人类利益相符"的超级智能系统。他在周四的媒体采访中说："我们不会继 续开发有可能失控的系统。" 他认为这本应是行业共识，"但我认为这在目前的行业中算是一个新颖的 立场。" 这一表态正值微软加速自主AI开发之际。去年10月的一项协议重塑了微软与OpenAI的关系，使微软获 得了此前受限的开发权。Suleyman于11月宣布成立MAI超级智能团队，明确将构建"仅为服务人类而设 计"的实用技术。 Suleyman的承诺凸显了科技巨头在追逐AI突破时面临的伦理考量。虽然OpenAI、Anthropic等竞争对手 也声称有类似的目标，但Suleyman认为微软的立场是独特的。 协议突破解除开发限制 微软在AI战略上的转折源于与OpenAI关系的调整。此前，微软因合同条款限制无法开发通用人工智能 （AGI）或超级智能。前者指能力与人类相当的系统，后者则超越人类能力。 Suleyman解释称，微软此前实质上放弃了这些开发权， ...