行业AI安全与防御动态 - 花旗集团CEO Jane Frazier指出，AI威胁正在快速演变，企业需做好准备，当前全球所有公司都在进行“海量补丁工作”以加固防御边界，抵御AI模型的负面影响 [1][2] - OpenAI的Sam Altman计划在联合国安理会发表讲话，讨论AI安全问题 [3] - 行业对AI是否构成人类生存威胁存在分歧，部分人士（包括领先学者和Jensen Wang）认为威胁概率“接近零”，上周初的恐慌情绪已有所消退 [3][4] - Anthropic与埃森哲达成协议，埃森哲员工可获取Anthropic员工级别访问权限，并在模型部署前进行“红队测试”（即故意尝试破坏模型以识别故障） [5] - 该协议并非独家，埃森哲不会成为Anthropic的唯一审计方，Anthropic还在与其他第三方洽谈类似合作 [6][7] - 行业核心争议在于如何避免形成“卡特尔”，即前沿实验室制定有利于自身的规则，导致监管俘获 [8] - 观点分歧：Jensen Long认为AI安全是工程问题，公司应能在发布前确保模型安全；另一方则认为需要外部监督，实验室自身也希望第三方检查其工作，且该工作量巨大需多方参与 [9]