Workflow
OpenAI disbands another safety team, head advisor for 'AGI Readiness' resigns
Alamos Gold Alamos Gold (US:AGI) CNBC·2024-10-24 23:31

公司团队调整 - OpenAI解散“通用人工智能(AGI)就绪”团队,原团队成员将被重新分配到其他团队 [1] - 今年5月,OpenAI解散专注于人工智能长期风险的超级对齐团队 [2] - 7月,OpenAI将顶级安全高管Aleksander Madry重新分配到专注于人工智能推理的岗位 [4] 人员变动 - “AGI就绪”团队高级顾问Miles Brundage宣布离开公司,计划开展非营利性人工智能政策研究和宣传工作 [1] - 上个月三位高管CTO Mira Murati、研究主管Bob McGrew和研究副总裁Barret Zoph同一天宣布离职 [2] - 今年5月,超级对齐团队领导人OpenAI联合创始人Ilya Sutskever和Jan Leike宣布离开公司 [7] 公司财务情况 - 10月初,OpenAI完成融资,估值达1570亿美元,筹集66亿美元,获得40亿美元循环信贷额度,总流动性超100亿美元 [3] - 公司预计今年收入37亿美元,亏损约50亿美元 [3] 公司治理与监管 - 9月,OpenAI安全与保障委员会成为独立的董事会监督委员会,并完成对公司流程和保障措施的90天审查并向董事会提出建议 [3] - 7月,微软放弃在OpenAI董事会的观察员席位 [5] - 6月,一群现任和前任OpenAI员工发表公开信,表达对人工智能行业缺乏监督和举报人保护的担忧,随后美国联邦贸易委员会和司法部对OpenAI、微软和英伟达展开反垄断调查 [6] 行业背景与争议 - 包括OpenAI在内的公司处于生成式人工智能军备竞赛前沿,预计该市场十年内收入将超1万亿美元 [4] - 民主党参议员致信OpenAI CEO询问公司如何解决新兴安全问题 [5] - Jan Leike认为OpenAI安全文化和流程让位于光鲜产品,公司应成为“安全第一”的AGI公司 [7][8]