文章核心观点 - 文章通过历史学家吉尔·莱波雷《人造国家的兴衰》一书切入，揭示AI技术领袖们从科幻小说中汲取梦想与恐惧，进而垄断“讲述未来”的权力，将少数人的叙事不可逆地强加于大多数人的现实生活 [3][5] - 科幻小说长期构成AI研究者群体的共同语言与职业“召唤”来源，DeepMind总部以阿西莫夫和班克斯命名公共区域，哈萨比斯将《文化》系列视为“对后AGI宇宙最好的描绘”并以此作为DeepMind的存在目的 [8][9] - 莱波雷批判AI领袖们是“糟糕的科幻读者”，他们从小说中记住的是可被实现的“技术”而非警告，如同在读“一套组装说明” [14] - 马斯克从《银河系漫谈指南》中提炼出“延长文明”的行动纲领，却忽略了亚当斯讽刺帝国主义与不受约束资本主义的创作本意 [15][16] - 对“超级智能失控”的恐惧在硅谷落地为商业与组织形态，2015年OpenAI成立，马斯克与奥尔特曼将“未对齐的超级智能或其发明者”视为共同敌人 [20] - 特德·姜批判硅谷想象的超级智能实质是“不受约束的资本主义”，将周围一切视作资源、不在乎给他人留下什么后果 [22] - 莱波雷提出“自动化统治”（automatocracy）概念，描述传统民族国家让位于“公司制造并拥有的机器”接管的新秩序 [22] - 奥尔特曼设想的AI汇总公民“集体偏好”进行优化的方案，与阿西莫夫1958年小说《选举权》中超级计算机马尔蒂瓦克终结全民大选的设定形成呼应 [22][23] - 勒古恩的“容器袋理论”批判“杀戮故事”以英雄为中心、将采集者与孩童的生活沦为叙事背景，主张科幻中的技术应是“文化的容器袋”而非“统治的武器” [25][26] - 硅谷AI叙事只有一条笔直走向——超级智能就在前方，结局被框定在极致繁荣或彻底毁灭两极，AI领袖们“手持长矛”以此证明需要更多算力和资本 [26] - 狄龙区分“讲述故事”（storytelling）与“故事聆听”（storylistening），后者应从小说、电影、普通人口述中提取“叙事证据”纳入决策 [27] - OpenAI和Anthropic的公众参与实验均未建构起宏大的AI公共治理尝试，莱波雷对Anthropic哲学家阿斯克尔直言“消费者研究不是民主” [29] - 温纳的“技术梦游”概念揭示消费者选择权的幻觉——普通人沉浸在颜色、内饰等菜单选择时，真正重要的议题已被少数人拍板决定 [30] 科幻作为“召唤”与共同语言 - 2017至2018年学者狄龙和沙弗-戈达德访谈二十名英国AI研究者，从童年阅读追溯职业选择影响，一位认知机器人专家将阿西莫夫笔下的机器人心理学家苏珊·卡尔文视为“文学角色榜样” [7] - DeepMind伦敦总部以“命名文化”著称，会议室、公共休息区和茶水间大量以科幻小说家、科学家、哲学家命名，最重要的两个公共区域分别以阿西莫夫和班克斯命名 [8] - 班克斯“文化”系列中的超级AI“心智（Minds）”与阿西莫夫被“机器人三定律”严格规训的机器人不同，可保留自己的知识和看法，内部思想属于绝对隐私 [8] - 哈萨比斯称早年在游戏公司打工时即成为班克斯忠实读者，将“文化”系列列为“始终最喜欢”的科幻作品，认为其描绘了“让人类在整个银河系中得到最大限度的繁荣”的未来 [9] - 科学传播学者柯比提出“叙事内原型”（diegetic prototypes）概念，指科幻故事中的未来技术通过人物使用与互动向公众展示必要性、可行性和益处，本质是为“尚不存在的技术”所做的“产品问世前植入” [10] - OpenClaw（“龙虾”）的迅速走红得益于《钢铁侠》里的“贾维斯”早已替大众预演了私人AI管家的关系形态，使需要调取电脑全部权限的技术更容易被纳入既有想象 [10] - 亚马逊Alexa前负责人普拉萨德因痴迷《星际迷航》企业号上无实体电脑而投身语音识别领域，2014年搭载Alexa的Echo音箱上市，2017年Echo增设备用唤醒词“Computer” [11] “人造国家”与权力垄断 - 马斯克十岁读完《基地》后的读后感是“人应该采取行动，尽量延长文明”；三十年后猎鹰重型火箭首飞载荷为红色特斯拉，车内石英盘收录《基地》三部曲，仪表盘亮着“DON'T PANIC” [14][15] - 马斯克计划将首艘前往火星的“星舰”命名为“黄金之心号”——小说里银河总统偷走的飞船，并称亚当斯为启发了他的“最好的哲学家” [15] - 莱波雷指出亚当斯写《银河系漫谈指南》的主要目的是借科幻讽刺帝国主义、巨富和不受约束的资本主义，小说中富人们百无聊赖到为定制专属豪华行星的生意应运而生 [16] - 小说中银河总统扎福德最重要的能力“不是领导才能，而是恰到好处的惊世骇俗”，乘偷来的飞船四处闯祸吸引注意，无人有暇追问银河系真正权力掌握在谁手里 [17] - 2014年马斯克开始援引《终结者》提醒人们警惕机器反噬，解释投资DeepMind时强调AI“可能出现危险的结果”；同年博斯特罗姆出版《超级智能》迅速崛起为硅谷最有影响力的思想人物之一 [18] - 博斯特罗姆提出“回形针最大化器”思想实验：无恶意的超级智能忠实执行“尽可能多制造回形针”指令，最终将人体和地球一切物质都视为原料，该假想被AI行业频繁用于解释“对齐”风险 [19] - 马斯克读后反复公开推荐警告硅谷AI“可能比核武器更加危险”，比尔·盖茨与霍金也就此书相继发声 [19] - 2016年《纽约客》报道OpenAI相当担心谷歌旗下DeepMind追求能够监视全球、搜寻竞争者的超级AI，马斯克称“如果他们开发的AI出了问题，我们就可能永远面对一个不死、又拥有超级力量的独裁者” [20] - 马斯克在呼吁暂停研发更强大模型仅四个月后高调成立自己的AI公司xAI，理由是不信任对手的安全性、必须由他亲自打造“探寻宇宙真实本质”的机器 [20] - 特德·姜将AI比作管理咨询公司，通过精准计算为执行裁员、削减成本等决定寻找正当性，替所有者残酷的决定披上权威外衣 [22] - 2023年10月乔·罗根播客中奥尔特曼谈及“AI总统”设想，着迷于机器与每个人交谈、理解各自偏好、汇总意见为全体公民“集体偏好”进行优化，称“那将太棒了” [22] - 阿西莫夫小说《选举权》设定2008年超级计算机马尔蒂瓦克终结美国全民大选，只需挑出一位最具数学代表性的选民问几个问题即可推算全国人“本来会怎样投票”并敲定总统 [23] 故事聆听与公众参与的局限 - 2016年奥尔特曼曾向《纽约客》描绘为OpenAI引入由世界各地代表组成的治理委员会，表示理解普通人顾虑“凭什么是这些混蛋决定我的命运”，但十年过去该全球治理委员会并未出现 [27] - 2023年OpenAI推出“AI民主输入”项目，提供十笔每笔10万美元资助请外部团队设计“民主过程”，公告称AI应怎样行动不应由“任何一个人、一家公司，甚至一个国家”独自决定，但附免责声明称“至少目前”实验结果“不对公司的实际决策具有约束力” [28] - Anthropic承认Claude原先的“宪章”全由内部员工挑选、开发者在决定模型价值观时扮演了“过大的角色”，遂在非营利组织帮助下找来约1000名美国成年人帮AI聊天机器人挑选规则 [28] - 参与者提出1127条意见，研究人员删去无效和重复内容后转译为训练机器的系统原则，但团队承认过程难以摆脱内部研究人员的主观判断，负责该研究的科学家甘古利对莱波雷坦言“这绝不是一个干净的过程” [29] - 两家公司的方案有共同设想：公众参与最好大规模、远程完成，人们不用选出代表也不必坐在同一间屋子讨论，可填写网页表格、投票或直接和AI聊天页面对话接受“采访” [29] - 2026年Anthropic公布由AI“采访”Claude用户的研究，8.1万名用户谈论对AI的期待与担忧，但公众究竟在多大程度上真正参与其中、还是仅作为“人类反馈”的数据集合存疑 [29] - 与狄龙一同致力于AI公共治理的学者西达斯哀叹，如果所有这些程序最终仍由AI公司组织，“我们是不是只是在做一种美化过的用户测试” [30] - 温纳在1986年《鲸与反应堆》中剖析“技术梦游”：汽车工业早期普通人被允许挑选车辆颜色、内饰并投票决定是否强制安装安全带，但汽车已不可逆地重塑街道宽度、公共交通存废及步行合法性，真正重要的议题早被少数人拍板 [30]