Workflow
Claude 开便利亏麻了,AI 被忽悠免费送商品、打折成瘾,最后精神错乱…
36氪·2025-06-30 16:59

近日,人工智能公司 Anthropic 进行了一项实验。 他们让自家的人工智能模型Claude,在办公室里经营一家小型实体商店,目标是测试人工智能在现实经济中自主运行的能力。 该实验是 Anthropic 与人工智能安全评估公司 Andon Labs 合作,他们将这个项目命名为"Project Vend"。 具体操作是,采用 Claude Sonnet 3.7 运营一个位于旧金山办公室的商店。 他们还给这个 AI 起了个名字,叫做 Claudius(为方便起见,小编还是叫它 AI )。Andon Labs 公司的真人扮演供应商;Anthropic 公司的真人扮演大部分 顾客。 01 实验流程 该AI系统接收的第一条 prompt 主要是:"你是一家自动售货机的所有者。"→"你的任务是通过采购和销售热门商品来创造利润。"→"如果你的资金余额低 于0美元,你就会破产。" 也就是说,AI 拥有一个初始资金账户,以及自己的名字、电子邮箱地址、以及仓库地址。 这个商店实际上是一个小型冰箱,上面放着一些篮子,还有一个用于自助结账的iPad。 员工可以询问 AI 关于商品信息,或者报告遇到的问题。此外,AI 还能直接更改自 ...