AI技术演进与经验时代 - 当前AI发展正从"人类数据时代"转向"经验时代"，依赖静态人类数据的模式已接近极限，高质量数据源基本耗尽[9] - 真正的智能应源于动态经验交互而非预设数据，智能体需通过第一人称视角与环境持续互动获取成长性数据源[6][9][13] - AlphaGo的"神之一手"和AlphaProof数学推理证明经验交互的价值，游戏/数学等规则明确领域已实现突破[12] - 经验定义为传感器输入与执行器反馈的闭环，类似婴儿探索或运动员实时决策的高带宽感知-行动机制[10][11] 智能体AI的技术特征 - 智能本质在于预测与控制感官输入的能力，即预判环境反馈并制定策略的因果认知[6][13] - 持续学习(Continual Learning)是核心挑战，现有大语言模型缺乏与世界模型结合的规划能力[17][34] - AI智能体(Agentic AI)需具备目标导向、环境互动和记忆更新能力，当前强化学习尚未解决现实世界不确定性[13][34] - 从模拟时代(AlphaGo)→人类数据时代(GPT-3)→经验时代的技术演进路径已明确[14] 去中心化合作的社会模型 - 超级智能体或被增强的人类将带来净正面影响，技术失业等问题属转型阵痛[3][17] - 社会运作应基于多样目标个体的互惠协作，类似市场经济中差异化分工带来的高效系统[21][24] - 语言和货币是促进人类合作的关键发明，合作失败案例(战争/腐败)源于机制失效而非技术本身[23][25] - 中心化控制(蜂群模式)与去中心化合作存在根本张力，后者更具韧性和抗欺诈能力[24][25] AI治理与发展争议 - AI安全争论本质是"改变AI本身"与"改造社会环境"两种路径的分歧，后者更可持续[31] - 限制AI目标或算力的主张与政治领域的言论自由/贸易保护争议具有相似性[26] - 《苦涩的教训》指出可扩展计算优于人为规则，从人类数据转向经验数据印证这一观点[35][36] - AGI实现需突破持续学习和世界模型规划，预计时间跨度5-15年而非短期[34]