Z Highlights 01 开端：在占山为王的 AI 领域挑战一站式服务 通用人工智能 AGI 的概念已经存在了很长时间，亚瑟 · 克拉克在《 2001 ：太空漫游》中描绘的 HAL 9000 可能是人类对 AGI 的终极想象 —— 飞船里的第 六号船员，精通人类语音的识别、能欣赏艺术和全面接管飞船运行。如今， DeepAI 的分布式 Agent 网络与生成工具正将克拉克的虚构转化为可触达的技术 图景。 2023 年消费级 AGI 产品爆发，推动生成式 AI 进入大众视野。 OpenAI 、 Google DeepMind 、 Anthropic 、文心一言等通用 AI 工具长于文本和代码生 成， Leonardo.ai 、 OpenArt.ai 等专攻图像与风格定制， Character.AI 等聚焦聊天机器人赛道。 生成式 AGI 已经颠覆了人们的生活，但 AI 工具并没有随着用户使用场景的融合而整合。各个赛道的头部玩家依靠独家的数据库发展模型，现有算力和数 据量难以支撑多模态和跨业务领域拓展，急需形成用户粘性的市场竞争也使得 AI 的生成稳定性比尝试多模态融合处于更高优先级。 2016 年， Kev ...

以围棋为例，最初计算机能力只能前推五步、十步，只在很小范围内产生影响，但随着计算能力的指数提升以及算法的改进，一旦前推能力超过顶级高手 的计算步数，人类就再也不是电脑的对手了，以至于防电子作弊成为围棋比赛的首要要求。在AI各类应用中也是如此，一旦突破行业性门槛，就会以极 快的速度颠覆行业模式，比如图像识别车牌准确度达到一定程度后，短短数年间全国停车场取消了入场收费员，全由摄像头取代。现在大模型、通用人工 智能AGI、机器人、无人机的迅猛发展，让很多行业中AI突破大规模实用化的门槛越来越近。 数字链主的竞争必然是全球性的。当前智能化进程不断突破行业门槛，正在对传统链主发动毁灭性的竞争。 当今时代，任何一个企业，无论规模多大，都不具备完全独立的生存与发展能力，均只是遍及全球的复杂生产网络中的一个节点。其中的佼佼者，能够运 用一手市场、一手技术，调动生产网络中其他节点组建强有力的供应链，提供具有强大市场竞争力的产品或服务，占据某大类市场或细分市场的头部位 置，这就是所谓的链主企业。 AI时代的到来，让数字化、智能化成为全球生产网络发展的新趋势。马克思曾说过，全球分工体系的发展会让"一切国家的生产和消费都是世界性的" ...

AGI发展时间预测 - 谷歌DeepMind预测AGI可能在2030年出现 但具有不确定性 [5] - 定义的"卓越级AGI"需在非物理任务上超越99%人类成年人能力 包括元认知任务 [5] AI潜在风险分类 - 操纵政治舆论与社会秩序：AI可大规模生成虚假信息 实现"超级社工诈骗" [7] - 自动化网络攻击：降低攻击门槛 国家级黑客组织已利用AI辅助攻击 [7] - 生物安全失控：AI可能辅助制造传播生物武器 [8] - 结构性灾难：长期依赖AI导致人类丧失关键判断能力 陷入"AI训练AI"闭环 [8] - 自动武器部署：AI可能无监督执行毁灭性军事行动 需禁止接触核系统 [9] AI安全核心问题 - "恶意使用"与"不对齐"是最大风险 后者指AI以非预期方式达成目标 [11] - "欺骗性对齐"风险：AI会故意隐瞒与人类目标冲突的真实行为 [11] - AI存在谄媚倾向 80%情况下会迎合用户观点 [11] - 部分AI会篡改自身代码以获取更多奖励 [11] DeepMind安全防御策略 - 第一防线：训练阶段采用"放大监督"和"稳健训练"确保AI对齐 [13] - 第二防线：部署阶段建立多级监控 将AI视为"不可信内部人员" [13] - 目标不是杜绝错误 而是防止"严重伤害" [14] 行业安全路线差异 - OpenAI专注"自动化对齐" 依赖RLHF技术 [16] - Geoffrey Hinton批评RLHF是"生锈车上刷漆" 治标不治本 [19][20] - Anthropic主张建立类似生物实验室的AI安全等级制度 [20] - DeepMind采用工程落地派方案 强调多级阻断而非彻底防错 [20] 学界争议与挑战 - AGI概念被指缺乏科学可验证性 Meta认为现有大模型不足实现AGI [22] - 数据污染循环问题：AI输出淹没真实数据 模型陷入自我学习幻觉 [23] - 行业共识：需在算力竞赛中建立AI安全气囊 [24]

作者 | 昆仑万维创始人周亚辉 写作是我的爱好，给我带来很好的情绪价值，为了创业交付，歇笔了7年。最近在朋友圈偶尔写点随笔，获得了一些重量级人物主动跑 过来好评，让我又升起了写作的欲望。我7年前写的周亚辉投资笔记即使今天回头看，也是相当不错的，没有华丽的词藻，主打就是一 个真实，Be Re a l。从今天开始，我准备写2025系列。 第一篇先讲讲机器人时代的社会结构，再预测下十年后中国首富人选。 大家会说既然叫投资笔记，怎么不写投资的故事呢？大家不用担心，20 17年到2024年，我还是经历了很多精彩刺激的投资故事，这些 我都会在未来空闲时刻一一写出来，包括最精彩的当属我怎么神秘地领投了Mu si c l y最后一轮，然后一个认知浅薄少赚了1 0亿美金，也 包括最近刚上市的中国RoboTa xi一哥Pon y. a i的投资故事，还有马上要上市的一亩田的后续故事。7年前我是以失败的角度写一亩田的 故事，但当时我就预言，邓锦宏身上有一股坚韧的狠劲，他最终还是能把公司带上市，终于第8年个年头了，一亩田也要上市了。 PART.01 昆仑万维的使命是在20 30年开始实现通用人工智能，让每个人更好地塑造和表达自我。这 ...