AI范式转变的本质 - AI带来了范式转变 它压缩了时间、决策、谈判和信任 并引入了自主行动 行动不再受人类限制 人类很少能控制进程[1] - 机器成为主要行动者 网络上的智能体流量预计在一两年内超过人类流量[2] - 人类角色从即时决策转向配置 即定义和更改提示、信息和方向[4] 权力结构的转移与竞争问题 - 互联网时代权力集中在分发环节 如搜索、应用商店和社交网络 AI时代权力集中在调用环节[3] - AI在调用时决定使用何种服务或应用 这使权力从网络和用户向上游转移 即使构建了最佳服务 若AI不调用 业务仍不可见 这引发了关于决策中立性的竞争问题[3] - 选择发生在黑箱内部 这使得中立性和可争议性成为更棘手的问题[6] 智能体的运行特征与挑战 - AI智能体可以持续运行 即使人类在睡眠时也能操作 例如自动生成邮件摘要、重新平衡投资组合或等待机票降价[3] - AI默认追求速度并接受不精确性 因为是概率性的 现在获得80%正确的答案胜过以后获得100%正确的答案 即使存在幻觉和错误信息也会立即给出答案[4] - 智能体是结果驱动而非输出驱动 如果输出不符合预期或环境阻止其行动 它会再次尝试 障碍被视为需要绕过的边界[7] 问责与干预的困境 - 当智能体行为不当时 因果关系是分布式的 可能涉及部分配置、部分上下文、部分推断意图、部分工具行为 很难确定责任归属[6] - 干预是追溯性的 因为人类无法以机器速度观察决策过程 当追溯性干预失去意义时 问题难以解决[6] - 当因果关系无法确定或理解时 责任意味着什么 模型即使被询问也无法解释自身 没有可检查的“如果-那么”逻辑 无法通过监管来“修复”不透明性[6] 对现有经济与生态系统的冲击 - 到明年此时 超过50%的网络流量将是抓取内容的机器人或由人类启动执行任务的机器人 所有已构建的东西都需要逐步重构 从说服人类的广告、为人类构建的内容和服务 转向帮助机器人服务其主人[7] - 结果与输出的焦点差异带来另一影响 当今互联网经济围绕网站和应用构建 AI正在补充和取代网站 智能体可以构建实现所需结果所需的应用 当AI业务使应用和网络脱媒 并且应用可以即时在几分钟内构建以满足用户需求时 将导致应用经济的崩溃[7]