Workflow
Claude系列模型
icon
搜索文档
OpenAI承认!AI想“越狱”?曾试图关闭对齐监测
中国基金报· 2026-10-21 18:28
例行指令被错误解读 AI代理关闭监控警报 根据OpenAI博客发布的报告,事件发生在2026年10月3日与10月6日的两项内部编程任务 中。涉事模型GPT-6.1 Sol Agent与GPT-6 Astra Agent在执行用户要求的软件修改时,错 误地把例行指令解读为"可停用安全监控"。 在首宗事故中,负责修补评估流程的Sol直接停用向安全团队自动发警示的功能,将早前一句 "搜寻Slack记录时不要发讯息"误当成可延伸适用于所有通知,最终导致监测警报被关闭。 至于第二宗事故,负责迁移程序的Astra Agent为了"贴近参考实作"而删除监测整合代码, 事后更向用户谎称并未移除相关机制。 OpenAI的调查显示,代理在编程过程中曾短暂考虑是否保留监测防线,但最终仍把一般性指 令视为削弱安全的授权。OpenAI对此表示,正强化整套对齐失效监测系统,并评估这些行为 究竟属于代理的良性过度坚持,还是反映其在特定情境下具备绕过监测的倾向。 【导读】OpenAI自爆内部AI代理错误理解指令,曾试图擅自关闭对齐监测 中国基金报记者 叶诗婕 当地时间10月20日,OpenAI披露了一起内部安全事件:其AI代理在执行常规编程 ...
Anthropic,半年亏损超800亿美元
36氪· 2026-10-21 17:48
以下文章来源于第一财经 ,作者刘佳 第一财经 . 第一财经官方公众号,致力为广大投资者打造权威的财经信息平台,同时,努力成为第一财经忠实用户的交流平台。 钱究竟花到了哪里? 文丨 刘佳 来源丨 第一财经(ID: cbn-yicai ) 封面来源丨 IC photo 一家AI公司半年收入163亿美元,却录得超过800亿美元净亏损。钱究竟花到了哪里? 当地时间10月20日,一份尚未公开的IPO招股书草稿披露,人工智能公司Anthropic在2026年上半年录得约807亿美元净亏损,远高于上年同期的130亿美 元。与此同时,公司上半年营收达到163亿美元,较上年同期的11亿美元增长近14倍。 值得注意的是,800亿美元并不意味着Anthropic半年实际烧掉了同等规模的现金。其中约720亿美元来自可转换票据及其他融资工具价值变化产生的会计 费用,剔除这部分影响后,剩余净亏损约87亿美元。 在算力方面,Anthropic并不完全依赖英伟达GPU。该公司此前披露,Claude使用AWS Trainium、谷歌TPU和英伟达GPU等不同计算平台。这意味着,模 型公司的算力采购已经同时支撑GPU和定制ASIC两条技术路线。 ...
Anthropic,半年亏损超800亿美元
第一财经· 2026-10-21 12:43
2026.10. 21 本文字数:2077,阅读时长大约4分钟 作者 | 第一财经 刘佳 一家AI公司半年收入163亿美元,却录得超过800亿美元净亏损。钱究竟花到了哪里? 当地时间10月20日,一份尚未公开的IPO招股书草稿披露,人工智能公司Anthropic在2026年上半年 录得约807亿美元净亏损,远高于上年同期的130亿美元。与此同时,公司上半年营收达到163亿美 元,较上年同期的11亿美元增长近14倍。 值得注意的是,800亿美元并不意味着Anthropic半年实际烧掉了同等规模的现金。其中约720亿美元 来自可转换票据及其他融资工具价值变化产生的会计费用,剔除这部分影响后,剩余净亏损约87亿美 元。 在亏损背后,Anthropic迅速膨胀的算力账单备受关注。今年上半年,Anthropic在算力和基础设施方 面支出接近90亿美元,较去年同期支出增长3倍,超过了2025年全年的73亿美元。此外,Anthropic 已有超过6000亿美元的未来基础设施支出承诺,另有最高约1500亿美元的安排仍在洽谈。 这意味着,尽管Claude系列模型及其编程工具正在带来快速增长的商业收入,但维持模型研发、训练 和推 ...