AI alignment research
搜索文档
OpenAI proposes development of global AI standards to guide alignment, RSI
CNBC· 2026-09-22 04:22
核心观点 - OpenAI发布了一套关于前沿人工智能开发安全与保障的提案,重点聚焦于对齐研究和递归自我改进(RSI)[1] 对齐研究与安全过渡 - 公司认为安全过渡需要对齐研究跟上能力发展,以确保系统与人类价值观保持一致并处于人类控制之下[2] - 公司呼吁国际合作制定前沿标准,并建议利用全球现有AI安全机构的工作成果[2] 技术标准与风险管理 - 技术标准应聚焦于前沿AI模型和开发者,以及自动化AI研究人员的收益-风险管理,这包括RSI[3]