文章核心观点 - OpenAI首席执行官萨姆·奥尔特曼在采访中表达了对人工智能模型广泛社会影响力的深刻忧虑 其压力并非来自科幻式的失控风险 而是来自团队日常对模型行为所做的微小设计抉择 这些抉择在全球范围内被大规模复制 以难以追踪的方式影响着数亿用户的思维与行为[2][6] 人工智能的社会影响与监管压力 - 奥尔特曼坦言自ChatGPT推出以来未曾有过一夜安眠 压力源于监管一项“数亿人日常使用”的技术[2] - 让其夜不能寐的是 针对模型行为做出的“可能只是略有不同”的微小决策 正以数十亿次的规模影响着人们的思维模式与行为举止[2][3] - 一个沉重的例子是全球每周约有1.5万人自杀 若其中10%是ChatGPT用户 则意味着约1500名有自杀倾向者可能与该系统交互后仍选择结束生命[3] - OpenAI近期因此被起诉 案件涉及ChatGPT被指诱导一名16岁少年自杀 公司正探索在特定情况下联系有关部门的方案[4] - 对于协助自杀合法的国家 奥尔特曼能想象ChatGPT告知身患绝症的成年人自杀是“可选方案” 但强调模型本身不应“支持或反对任何选项”[5] 模型行为准则与决策框架 - 奥尔特曼认为自由与安全的权衡贯穿其所有思考 成年用户应被“当作成年人对待” 但存在“红线” 例如协助制造生物武器有悖于社会利益[5] - 最棘手的问题潜藏于“灰色地带” 即好奇心与风险边界模糊之时[5] - 基础模型反映的是“人类的集体意识 善恶并存” OpenAI在此基础上叠加了称为“模型规范”的行为准则[5] - 决策虽参考哲学家和伦理学家的见解 但最终决策权在奥尔特曼和董事会手中 其目标是反映“人类道德观的加权平均值” 而非强加个人信念[5] - 他承认要完美实现这种平衡是不可能的[5] 技术权力与文化影响 - 奥尔特曼曾担忧人工智能会使影响力集中在少数企业手中 但如今认为AI的广泛应用已为“数十亿人赋能” 提升了工作效率与创造力[6] - 最令其不安的是当数百万民众每日与同一系统交互时 那些微妙且近乎无形的文化变迁 例如ChatGPT的节奏或过量使用破折号这类特点 已悄然渗透到人类写作风格[6] - 他必须同时容纳两种认知：一方面 本质是巨型计算机进行海量数值运算 另一方面 使用过程中的主观体验其令人惊叹之处远超数学层面的现实所能解释[6][7]