AI智能体决策不应架空人类“数字主权”
新浪财经·2026-02-02 07:26
原标题:AI智能体决策不应架空人类"数字主权" 当智能体的技术权力在事实上大过其主人,人类在数字世界的控制权便面临被"架空"的风险。这种权力 的隐形流失,并非源于技术的恶意,而是因为系统在追求效率的过程中,悄无声息地打破了人类的"数 字主权"边界。 【AI与人】 当"代理人"的技术权力在事实上大过其主人,人类在数字世界的控制权便面临被"架空"的风险。这种权 力的隐形流失,并非源于技术的恶意,而是因为系统在追求效率的过程中,悄无声息地打破了人类 的"数字主权"边界。德勤在1月21日发布的报告中指出,目前AI的"代理权"已经超越了其安全防御措 施。数据显示,全球仅有20%的公司建立了成熟的AI智能体治理模型。这种"4/5的空白"意味着,大多 数企业和个人在将控制权交给AI时,实际上是在"裸奔",这进一步加剧了人类主权被架空的潜在风险。 重塑人机权限契约边界 为了夺回这种控制权,全球的技术治理者正试图将"可靠"写进底层代码。新加坡资媒局(IMDA)于1 月22日发布的《智能体AI治理框架》提出了一个核心概念,即"有意义的监督"。IMDA指出,仅仅在流 程里加一个"人工点击确认"的按钮是不够的。如果AI的决策过程像一 ...