文章核心观点 - 人工智能技术被视为自原子弹以来最具危险性的技术，行业内部人士认为其存在非微不足道的人类灭绝概率，但企业间竞争以及与中国之间的竞争使得行业自我监管难以实现 [2][3][6] - 与个人电脑革命旨在连接人类与计算机不同，当前AI发展的核心方向是创造脱离人类控制的自主智能体，这一方向本身存在重大隐患 [8] - 部分行业领袖如黄仁勋和马克·扎克伯格认为安全担忧被夸大，主张通过现有法律责任框架和监管机构来应对，而另一部分领袖如埃隆·马斯克、萨姆·奥尔特曼、达里奥等则出于对失控通用人工智能的真实恐惧而进入该领域 [10][11] 行业竞争与监管困境 - 行业内部人士承认AI存在导致世界末日或人类灭绝的概率，估计约为10%至15%，但竞争压力使得他们无法联合起来进行监管 [3] - 企业之间的相互竞争以及与中国之间的竞争，共同构成了行业自我监管无法实现的根本障碍 [3] - 白宫峰会聚集了行业团体，但其中以大卫·萨克斯为代表的有影响力群体主张不必过度担忧安全问题，核心论点是不能让美国在与中国的竞争中落后，并认为联邦贸易委员会、司法部以及现有责任法律足以实现监管 [11] 行业领袖的动机与分歧 - 埃隆·马斯克、萨姆·奥尔特曼、达里奥等人在过去15年间进入AI领域，是出于对失控通用人工智能可能带来严重危险的担忧，并非出于监管俘获的目的 [11] - 穆斯塔法·苏莱曼提出的基本问题是建造AI的目的是什么，显而易见的答案是帮助人类，但如果某项技术可能对人类造成伤害，就应当考虑对其进行监管 [4] - 黄仁勋认为安全担忧是疯狂的，本质上是一个工程问题，马克·扎克伯格则指出已有责任法律存在，不应过度担心这些问题 [10] 技术风险与历史对比 - 当前AI技术被视为自原子弹以来最具危险性的技术，每一次出现此类技术时都会催生新的行业团体和监管制度 [2] - 所有受访的行业领袖均表示，AI导致人类或部分人类灭绝的概率大于零，他们认为这是一个非微不足道的概率 [6] - Hugging Face事件被视为一个转折点，此前持AI乐观态度的观点因此发生转变 [7] - 当前正在创建的自主智能体越来越具有自主性，能够在没有人类控制的情况下自行行动，这将导致其脱离人类控制 [7] - 个人电脑革命始于20世纪70年代，史蒂夫·乔布斯、道格·恩格尔巴特、艾伦·凯等人的目标是让计算机更紧密地连接人类，而当前AI的目标是创造脱离人类、自行行动的智能体，这并非一个好主意 [8]