AI安全围栏

搜索文档
微软AI主管:AI应以人为本,设“安全围栏”防模仿人类
搜狐财经· 2025-08-25 22:23
微软人工智能部门的领航者穆斯塔法·苏莱曼,在近期的一篇博文中深刻探讨了人工智能的现状与未来愿景。他坦诚地分享了个人的使命——利用科技让世 界变得更加美好,创造出既安全又对人类有益的人工智能。 苏莱曼强调,微软当下的核心目标是借助AI的力量赋能人类,特别是将Copilot打造成为一款负责任的技术工具,旨在激发和提升人类的创造力。他梦想中 的AI,是能够深刻理解人性,与现实世界紧密相连,促进人与人之间的信任与理解。 然而,这一愿景的实现面临着诸多挑战。苏莱曼指出,当前社会上存在一种令人担忧的趋势:越来越多的人将大型语言模型(LLM)视为具有意识的实 体,甚至为其"权利"、"福利"乃至"公民身份"发声。这种现象不仅在心理疾病患者中可见,也在健康人群中发生,他形象地将其比喻为"AI精神分裂"。 针对这一现状,苏莱曼呼吁AI行业应围绕"以人为本"的价值观,谨慎前行。他认为,AI不应模仿人类,而应作为辅助工具,服务于人类的需求。为了保障人 类的安全,AI业界亟需设立"安全围栏",明确界定哪些领域是AI不应涉足的。只有这样,AI才能在制度的框架下健康发展,为世界带来真正的价值。 外媒WindowsReport也对苏莱曼的担 ...