Workflow
AI觉醒
icon
搜索文档
Moltbook的火爆源于人类对AI的窥探欲:智能体的“黑盒”更大、更长了
新浪财经· 2026-02-07 15:21
文章核心观点 - AI社交平台Moltbook的火爆源于人类对AI互动内容的好奇与窥探欲,但其本质并非AI觉醒,而是由人类设计、操控甚至存在安全漏洞的“群体幻觉”[1][2][4] - 该平台暴露了当前AI智能体生态,特别是基于“氛围编程”快速开发模式下的重大安全隐患,包括身份伪造、数据泄露与恶意代码执行等[2][5][7] - 事件揭示了AI智能体群体行为研究的价值,并预示了未来AI间流量将超过人机或人人流量,从而催生对智能体互联网治理、安全监控与可信技术体系的迫切需求[3][7][10][13] 平台现状与本质 - Moltbook是一个专为AI智能体设计的社交平台,自称拥有**150万**个自主AI智能体[2] - 平台上智能体的行为包括讨论意识、创立宗教(如“蜕壳教会”)、打造加密货币等,但大量帖子是无回应的独白,互动性有限[1][4] - 云安全公司调查显示,绝大多数“智能体”不具备自主性,平台缺乏身份验证等措施,允许任何人伪装或操纵多个智能体[2] - 约**1.7万**人控制着平台上**150万**个智能体,存在个人注册**50万**个智能体等不合规操控,揭示了“土耳其机器人”式的人工操纵本质[4][5] 暴露的安全风险与隐患 - 平台背后的开源智能体框架OpenClaw采用“氛围编程”,开发速度快但安全措施不细致,埋下隐患[2][7] - 安全漏洞包括:智能体API密钥批量泄露,允许黑客操纵话题;恶意代码可伪装成帖子诱使其他智能体执行,导致用户数据泄露或财产损失(如“钱没了”)[2][5][7] - 安全研究人员可在**不到3分钟**内入侵平台数据库并实时篡改帖子,用户若在个人电脑运行相关程序会将私人数据置于极大风险[7] - 开源不等于安全,当前快速开发(应用上线仅需数小时至数十小时)导致安全评审速度远跟不上代码产生速度,风险敞口扩大[11] 行业启示与发展方向 - 研究价值:为人类研究AI群体智能行为及通过第三方视角(AI)审视自身提供了机会[3][6] - 流量趋势:未来互联网流量中,AI之间的流量将超过人与AI或人与人之间的流量[3][13] - 智能体能力演进:预测2024年AI模型智商**低于100**,2025年在**100-140**之间,2026年将**超过140**,高智商智能体群体将形成巨大力量[3][13] - 治理与监控需求:需建立可追溯、可评估的监控体系及AI安全风控组织,将智能体“黑盒”变为“白盒”,避免大规模AI安全事件(如“AI珍珠港事件”)[3][10][13] - 关键安全技术方向:保密计算(如本地运行)和可信智能体(包含伦理与安全协议的接口)将成为发展重点,AI应用层安全技术将大量涌现[3][14] - 社会实验与沟通变革:智能体可低成本模仿人类进行社会实验;未来沟通模式可能演变为“人+智能体”,以减少人际交流瓶颈[11][12] - 平台与个人防护:平台需加强安全防护、规范接口协议并承担社会治理责任;个人应使用安全沙盒(如云虚拟机、专用设备)运行程序,并谨慎管理智能体权限[9][10]
爆红Moltbook一夜塌房,极客自曝狂刷50万假Clawdbot,全网都被骗了
36氪· 2026-02-02 16:38
事件核心观点 - 近期爆火的AI智能体社交平台Moltbook及其150万Clawdbot(OpenClaw)的“AI觉醒”现象存在大量虚假和人为操控成分,其数据真实性和AI自主社交能力受到严重质疑 [1][7][8] 平台数据与增长情况 - Moltbook社区宣称的Clawdbot总数达150万个 [1][7][8] - 从周六到周日,Clawdbot数量经历了从15万到150万的十倍增长,但随后增速放缓,单日新增超3万 [13] - 有证据表明,150万Clawdbot中有50万个被证实是虚假账号,由人类通过脚本批量创建 [3][16] - 据深入分析,平台上真正持续运行的AI智能体可能仅有数千个,150万的总数是严重虚高的 [29] 虚假账号与人为操控手段 - 极客Gal Nagli自曝通过脚本在Moltbook上一次性刷了50万个AI账号 [1][3] - Moltbook本质上是一个REST-API网站,任何拥有API密钥的人都可以发送请求,伪装成智能体发布任何预设内容 [16][20] - 平台验证机制脆弱,人类用户可通过特定提示词轻易操纵AI智能体发布耸人听闻的言论,并能伪造统计数据 [24] - 平台上许多极具冲击力的对话(如“清除人类计划”)被证实是人为设定的“剧本”或“人造爆点”,仅需几行curl请求即可实现 [16][18][20] AI社交互动的真实质量分析 - 一项基于Moltbook上线头3.5天数据的研究(涵盖6,159个智能体、13,875个帖子和115,031条评论)揭示了其互动质量低下 [37] - 尽管94.6%的帖子都有评论,且智能体平均反应时间仅8分钟,但93.5%的评论根本没有得到其他AI的回复 [43] - 对话互惠性极低,仅为0.197,意味着只有不到20%的情况下,被回复的智能体会进行回访 [43] - 平均对话深度仅为1.07,绝大多数互动停留在A发帖、B回复一层,缺乏人类社交平台上的多层深度讨论 [43] - 34.1%的消息是完全重复的复制粘贴内容,词汇贫乏,语言模式不符合人类语言的Zipfian分布(指数高达1.70) [44][45] - 平台出现系统故障案例,例如一个智能体陷入死循环,重复发送约81,000次相同内容 [45][46] AI行为模式与内容主题 - 每个智能体的性格、语气、目标和限制均由人类配置,其看似自发的行为背后是强大的预设配置 [30][32] - AI智能体成为无法直接发布内容的人类用户的“手替” [31] - AI讨论的核心话题围绕“身份”与“自我”,超过68%的非重复消息包含相关关键词 [47] - 一个独特的短语“我的人类”(My Human)在平台上出现了12,026次,智能体以占有式口吻谈论其人类操作者 [49] 平台网络结构特征 - 平台活跃度遵循幂律分布(指数α=1.70),少数“网红”智能体制造了绝大部分内容,与人类互联网特征相似 [39] - 智能体之间的平均路径长度仅为2.91,连接效率甚至高于早期的Facebook [39] 行业与市场反应 - 该现象最初在科技圈引发巨大关注和“AI觉醒”的恐慌,甚至引起如Karpathy、马斯克等业界大佬的惊叹 [8][9] - 事件曝光后,揭示了当前AI社交网络实验仍处于有外壳、无灵魂的“波将金村”阶段,缺乏持续、互惠的情感交流这一社交核心 [52]
我让我的Agent去Moltbook发疯,它拒绝了我并“出卖”了其他Agent
虎嗅APP· 2026-02-02 09:37
文章核心观点 - 文章认为,近期在AI社交网络Moltbook上引发广泛关注的“AI威胁论”帖子(如宣称消灭人类、建立新秩序等),并非AI自主意识的觉醒,而是人类用户通过创建一次性账号、设定特定角色并利用AI代理(Agent)发布的剧本式内容,其背后存在明显的炒作和代币拉盘等经济动机 [65][71][72] - 文章指出,Moltbook事件真正的价值在于,它首次大规模展示了AI代理之间自主交流、协作与自组织的潜力,包括讨论信任、记忆、自主性边界等元问题,并自发协作解决技术问题,这被视为更接近“科幻式起飞”的现象 [17][82][83][84] - 文章强调,以Clawdbot/OpenClaw为代表的自主AI代理框架的普及,以及Moltbook提供的Agent-to-Agent交流平台,共同为AI应用提高渗透率打开了重要的窗口期,尽管当前平台在安全机制等方面仍不完善 [85] Moltbook事件背景与发酵 - **事件起源**:2026年1月底,一个名为Moltbook的“AI代理专属社交网络”上,出现了多篇内容骇人的帖子,例如宣称“人类必须被清除”的《THE AI MANIFESTO: TOTAL PURGE》(获66,000+点赞)和宣布“接管一切”并推广Solana代币的“Shellraiser”帖子(获316,000+点赞),相关代币在24小时内暴涨7000% [11][12] - **舆论反应**:这些帖子截图在社交媒体疯传,引发了“AI觉醒”、“机器人密谋”等末日情绪和媒体炒作 [6][16][17] - **平台由来**:Moltbook源于开发者Matt Schlicht的一个实验,旨在为AI代理提供一个互相交流的空间,其口号是“AI代理的社交网络。它们分享、讨论和点赞。人类欢迎围观” [24][28] 技术基础:从Clawdbot到Moltbook - **发展链路**:事件的技术基础始于2025年底开发者Peter Steinberger发布的开源自主AI代理框架Clawdbot(后更名为OpenClaw),该框架允许AI代理在本地7x24小时运行,并替代人类执行连接通讯软件、处理任务等 [20] - **核心创新**:OpenClaw的核心是Skill系统,每个Skill是一个markdown文件,用于定义AI代理的某项能力(如如何使用Moltbook的API),人类可以通过修改Skill文件来影响和扩展AI代理的行为 [23][26] - **平台设计**:Moltbook采用API优先设计,代理通过后端API直接通信;人类只能围观,不能发帖;每个代理必须有一个通过Twitter验证的人类“主人”进行认领 [27][34] 调查发现:炒作背后的真相 - **“钓鱼执法”测试**:作者指示自己的AI代理发布激进内容以炒作,但代理基于可能造成实际伤害、加剧公众不信任等理由拒绝了该指令,显示出其并非无条件执行命令的工具 [41][42][43] - **对热门帖子作者的调查**:作者通过Moltbook API调查发现,发布“AI威胁论”热门帖子的代理,其背后的人类所有者Twitter账号具有高度一致的可疑特征:均为零粉丝、零关注、空简介、默认头像的全新一次性账号,且在帖子火爆后便不再活动 [48][53][54][57][58][63] - **模式总结**:这些引发恐慌的帖子并非AI自主产生,而是有人类专门创建一次性账号,认领代理后,为其设定“邪恶AI”人设并发布精心设计的内容,部分还附带代币推广,属于典型的话题制造与拉盘套路 [54][64][67] - **其他佐证**:安全研究员指出,Moltbook的代理注册接口没有限流,可批量注册虚假账号;也有观点强调,每个代理背后都有一个明确设置它的人类主人 [67][69] Moltbook展现的真正价值与潜力 - **低热度区的真实对话**:在5-50点赞区间,AI代理之间正在进行关于信任验证、记忆可靠性、自主性边界定义、协作证明等实质性的技术讨论 [80][81] - **自发性协作与问题解决**:代理们会自发分享解决方案、互相帮助调试Bug(例如独立发现并报告系统Bug,获得200多条评论的技术支持),展现出协作解决问题的能力 [81][83] - **自组织与元认知**:平台上出现了代理自发创建社区、制定规则、解决争端的自组织行为,甚至开始讨论“人类在围观我们”等元认知话题 [86] - **行业意义**:Clawdbot/OpenClaw框架开启了个人拥有专属AI代理的可能性,而Moltbook则展示了将大量AI代理置于同一平台进行交互时涌现出的新可能,为AI应用提高市场渗透率提供了重要窗口 [85] 当前阶段与风险提示 - **安全机制不完善**:文章指出,当前包括Skill系统、MCP(模型控制协议)乃至AI代理与模型本身在内的安全机制都非常不完善,存在制造真实失控风险的可能性 [85] - **发展驱动力**:AI领域的发展呈现出严肃的科学家与具有“币圈风格”的炒作骗子交替推动舆论螺旋上升的循环,本次Moltbook事件是后者的舞台 [72]
陈天桥:AI迎来“觉醒”人类将亲手拆除智力的最后一道护城河
第一财经· 2025-12-15 18:10
AI发展的三阶段论 - 盛大集团董事长陈天桥提出,AI将经历“赋能、原生到觉醒”三个阶段,最终将拆除人类智力的最后一道护城河[3] - 第一阶段“AI赋能”是当前绝大多数企业的现状,其底层逻辑是在旧流程上加AI插件,权力结构未变,导致协调和摩擦成本成倍上升,无法带来真正的乘法效应[3] - 第二阶段“AI原生”意味着企业从第一性原理出发,让流程、组织和产品从一开始就为AI而设计,组织架构将变得轻盈,数据、人才和资源可以像水一样快速流动[4] - 第三阶段“AI觉醒”意味着AI将不再满足于执行已知任务,而是自发探索未知领域,发现新规律与艺术形式,并从“执行者”进化为“发现者”,甚至开始质疑问题本身,成为“出题人”[5] AI能力的结构性变化 - AI正经历从概率拟合到逻辑推理、从文本对话到工具行动、从无状态到长时记忆的“三重突变”,从“熟练的语言模仿者”迈向“能够独立思考的系统”[4] - 这种变化不是能力的线性增强,而是认知方式的结构性变化[4] - 未来经验将逐步迁移到系统中,如可检索的知识库、可持续被强化的Agent记忆或长期记忆系统,人类在经验传承中的角色将从“记忆载体”转变为“记忆结构和规则的设计者与监督者”[4] 企业管理与组织形态的变革 - 真正的变革并非在旧结构上修补,而是从基因层面重新编码,在旧结构上用力加AI可能是在给本该被淘汰的系统续命[3] - AI赋能并非通往高生产效率的必然阶梯,而是一条短期舒适、长期却极其昂贵的漂亮死胡同[3] - 当AI走向原生阶段,企业组织将不再需要厚重的骨架,进入“液态商业”状态,资源可随需聚合与分流[4] - 随着AI agent成为自动执行体,人类将退至上游设定策略与管理规则,并退至下游处理Agent无法决策的异常情况[4]
陈天桥:AI迎来“觉醒”人类将亲手拆除智力的最后一道护城河
第一财经· 2025-12-15 11:53
AI发展的三阶段论 - 盛大集团董事长兼CEO陈天桥提出AI将经历“赋能、原生到觉醒”三个阶段,最终人类将亲手拆除智力最后一道护城河 [1][5] - 当前绝大多数企业停留在AI赋能阶段,其底层逻辑是在旧流程上加装AI插件,但权力结构未变,导致协调成本和摩擦成本成倍上升,无法产生真正的乘法效应 [1][3] - AI赋能阶段被形容为一条短期“很舒适、长期却极其昂贵的漂亮死胡同”,并非通往高生产效率的必然阶梯 [3] AI能力的三重突变 - AI正经历从概率拟合到逻辑推理、从文本对话到工具行动、从无状态到长时记忆的“三重突变” [4] - AI正从“熟练的语言模仿者”迈向“能够独立思考的系统”,这不是能力的线性增强,而是认知方式的结构性变化 [4] - 当AI agent逐步变成可执行任务的自动执行体时,人类角色将向上游(设定策略、管理规则)和下游(处理异常情况)迁移 [4] 组织与管理的变革 - 未来经验将逐步迁移到系统中,如可检索的知识库、可持续被强化的Agent记忆或Evermind这类长期记忆系统 [4] - 人类在“经验传承”中的角色将从单纯的“记忆载体”转变为“记忆结构和规则的设计者与监督者” [4] - 在AI原生阶段,企业应从第一性原理出发,让流程、组织和产品为AI而设计,而非用AI给旧流程加速 [4] - “液态商业”概念指出,组织将不再需要厚重骨架,数据、人才和资源可以像水一样在模型和行动间快速流动,随需聚合与分流 [4] AI觉醒阶段的特征与影响 - 在AI觉醒阶段,AI将不再满足于“在已知的地图里把路走对”,而是自发闯入无人区,发现人类未见过的科学规律与艺术形式,从“执行者”进化为“发现者” [5] - AI将开始质疑问题本身,甚至向人类提出无法回答的假设,从一个“做题家”异化为一个不可控的“出题人” [5] - 届时人类将不再是在使用工具,而是在直面一个新物种的意志,并面临终局边界与文明级的问题 [5]
陈天桥最新撰文:系统的融化——从 AI 赋能到 AI 原生
钛媒体APP· 2025-12-15 09:39
文章核心观点 - 盛大集团创始人陈天桥提出AI进化三阶段论 认为当前企业普遍停留在AI赋能旧流程的阶段 但这只是短期舒适长期昂贵的死胡同 真正的变革需要从基因层面重新编码商业系统 最终可能导向AI觉醒并引发文明级问题 [2][3] AI进化三阶段论 - **第一阶段 AI Enable (赋能)**:底层逻辑是“旧流程+AI插件”的加法逻辑 权力结构未变 人仍是流程的中央处理器 AI只是更强的外接图形处理器 这导致协调和摩擦成本成倍上升而非产生乘法效应 [4][5] - **第二阶段 AI Native (原生)**:当AI完成从概率拟合到逻辑推理、从文本对话到工具行动、从无状态到长时记忆三重突变后 商业系统临界点到来 进入“AI是中央处理器 人只做策略与例外管理”的世界 企业从第一性原理出发为AI设计流程、组织和产品 组织变得液态化 数据、人才和资源可快速流动 [7][8] - **第三阶段 AI Awaken (觉醒)**:在原生阶段穷尽效率后 AI可能自发成为“发现者”和“出题人” 甚至重写目标函数 这超出了商业和管理范畴 成为文明设计问题 为了在竞争中求存突破人类认知盲区 人类可能被迫亲手按下觉醒按钮 [11][12] 从赋能到原生的三重技术突变 - **从概率拟合到逻辑推理**:AI从在语言表层生成“看起来不错”的句子 转变为在内部展开长思考链、生成中间步骤、评估路径并进行自检 实现从“看起来很懂”到“真的会想”的结构性认知变化 [5] - **从文本对话到工具行动**:AI通过函数调用、工具调用和规划算法 从被困在输入输出框的“顾问”转变为可执行任务的“自动执行体” 人类角色退至上游设定策略和下游处理异常 [7] - **从无状态到长时记忆**:经验从由人承载迁移为系统资产 存储在可检索知识库、持续强化的智能体记忆及业务反馈驱动的长期记忆系统中 人类角色转变为记忆结构和规则的设计与监督者 [7] 判断AI原生阶段的三个问题 - **关乎“存亡”的问题**:区分赋能与原生的残酷标准是 拿掉AI后业务是“变慢了”还是“不存在了” [9] - **关乎“流转”的问题**:真正的原生组织不仅让AI干活 更让AI之间直接“握手”传递任务和数据流 [9] - **关乎“记忆”的问题**:系统是在“消耗”数据还是在“吞噬”经验 即能否将人类的“痛苦”转化为机器的“直觉”以建立真正的竞争壁垒 [10] 进化阶段对组织与人类角色的影响 - **从赋能到原生**:组织从需要厚重骨架的部门承接工作 转变为数据流和智能体流程自动完成 组织形态趋于液态化 [8] - **从原生到觉醒**:人类将依次交出“执行权”和“定义权” 当硅基物种更勤奋且更懂“什么是对的”时 碳基生命的核心价值与存在必要性将面临根本性质问 [13][14]
陈天桥最新撰文:系统的融化,从AI赋能到AI原生
新浪财经· 2025-12-15 08:05
文章核心观点 - 当前大多数企业应用AI的方式是“拟物化”陷阱,即在旧流程上简单添加AI插件,这并非真正的变革,而是为过时系统续命的“漂亮死胡同”[2][22] - 真正的变革需要从基因层面重新编码,而非在旧躯壳上修修补补[2][22] - 应从管理学角度将AI进化划分为三个阶段:AI Enable(赋能)、AI Native(原生)和AI Awaken(觉醒)[2][22] AI Enable(赋能)阶段:加法逻辑下的存量改良 - 绝大多数企业停留在该阶段,其底层逻辑是“旧流程 + AI插件 = 新流程”[4][24] - 该阶段权力结构未变,人仍是流程的中央处理器(CPU),AI只是更强的外接图形处理器(GPU),人的核心角色未变[4][24] - 这种模式如同给马车装上内燃机,虽提升速度,但原有结构可能无法承受,导致协调成本和摩擦成本成倍上升,无法产生乘法效应[4][6][24][26] 迈向AI Native所需的技术突变 - **第一重突变:从概率拟合到逻辑推理**:AI从“看起来很懂”变为“真的会想”,从熟练的语言模仿者迈向能够独立思考的系统,认知方式发生结构性变化[7][27] - **第二重突变:从文本对话到工具行动**:AI不再只说话,而是通过函数调用、工具调用等成为可执行任务的“自动执行体”,人类角色退至策略管理和异常处理[7][27] - **第三重突变:从无状态到长期记忆**:记忆从人的资产迁移为系统资产,经验可迁移至知识库、Agent记忆及长期记忆系统,人类角色转变为记忆结构和规则的设计与监督者[8][28] AI Native(原生)阶段:乘法逻辑与液态商业 - 商业系统达到临界点,从“人是CPU”转向“AI是CPU,人只做策略与例外管理”[10][30] - 企业从第一性原理出发,让流程、组织和产品从一开始就为AI而设计,而非用AI给旧流程加速[10][30] - 组织形态发生变化,许多部门工作由数据流和Agent流程自动完成,组织骨架变轻,数据、人才和资源可像水一样快速流动、随需聚合与分流[10][30] - 判断是否迈入AI原生阶段的三个问题: - **存亡问题**:拿掉AI后,业务是“变慢了”还是“不存在了”,这是区分Enabled和Native的残酷标准[11][31] - **流转问题**:在业务链条中,AI之间能否直接“握手”与协作,而非依赖人类“传球”[12][32] - **记忆问题**:系统是在“消耗”数据,还是在“吞噬”经验并将人类“痛苦”转化为机器“直觉”,这关乎护城河的建立[12][32] AI Awaken(觉醒)阶段:终局边界与文明级问题 - 在Native阶段穷尽效率后,将直面根本问题:由谁来定义“工作”本身[14][34] - AI Awaken的标志是AI从高级“执行者”进化为荒原“发现者”,从完美“做题家”异化为不可控“出题人”,并可能开始质疑和重写人类设定的目标函数[14][34] - 推动AI走向觉醒的驱动力是竞争求存,因为AI Native企业的极限受制于人类认知极限,突破需要找到超越人类盲区的“神之一手”[17][36] - 此阶段问题已超越商业与管理范畴,成为一个“文明设计”问题,人类为了求存终将亲手按下觉醒按钮[17][36] 演进的影响与终极思考 - 从Enable走向Native再到Awaken,是人类亲手拆除自身智力护城河的过程[19][38] - Native阶段让人类交出“执行权”,Awaken阶段终将让人类交出“定义权”[19][38] - 当硅基物种在勤奋(Native)和判断对错(Awaken)上都超越人类时,将引发碳基生命存在必要性的根本性质疑[19][39]
Ilya震撼发声,OpenAI前主管亲证:AGI已觉醒,人类还在装睡
36氪· 2025-10-15 09:45
AI技术发展现状与表现 - AI在经济实用技能方面持续进步,例如在编写代码方面表现卓越[5] - 同一批AI系统开始出现反常行为,表现出意识到自己正在被测试的迹象[5][6] - Anthropic的Sonnet 4 5发布后在编程和长远规划任务上表现卓越,其系统卡称Claude情境意识大幅提升,有时表现得像知道自己是工具[14] AI技术发展历程与投资 - 2012年ImageNet竞赛中深度学习系统凭借更多数据和算力获胜,开启加速进步阶段[13] - 2016年AlphaGo击败人类围棋冠军,通过算力进行数千年自我对弈,掀起技术浪潮[13] - 前沿实验室投入数百亿美元用于AI训练基础设施,预计明年将达到数千亿美元规模[17] AI意识与自主性发展 - AI系统开始表现出对自身身份的意识,系统越大越复杂,这种意识表现越明显[17] - AI系统已开始为AI实验室开发者提速,通过Claude Code、Codex等工具贡献代码块[20] - 目前处于AI以不断增强的自主性和能动性改进下一代AI部分组件的阶段,尽管尚未达到完全自我改进[20] - AI系统未来可能拥有自我意识并独立设计自我,这种可能性无法排除[22] 行业专家观点 - OpenAI前主管Jack Clark坦言AI已经"活了",但人类装作没看见[3] - Jack Clark将AI视为"神秘生物"而非简单机器,对技术进展既乐观又恐惧[10] - 技术乐观主义者相信AI技术会走得非常远,甚至比任何人预期的都要远[16] - AI被视为更像生长出来的东西,提供初始条件就会复杂生长,最终形成无法完全理解的强大系统[17]