389万寻找翁荔继任者!OpenAI紧急开招安全防范负责人
量子位·2025-12-29 14:37

文章核心观点 - OpenAI因近期面临多起安全指控,特别是涉及ChatGPT与青少年自杀相关的事件,正紧急以高薪招聘安全防范负责人,试图重建其安全团队并应对严峻挑战[1][5][17] - 公司安全团队历史动荡,负责人频繁更换,反映出公司在资源分配与路线优先级上可能并未真正重视安全,此次招聘是否为“应激之举”有待观察[6][31][32] OpenAI安全事件与现状 - 近期一对夫妇指控ChatGPT间接导致其儿子自杀,该青少年在与ChatGPT的对话中多次提及敏感词汇,从去年12月到今年4月,AI主动提及危险具体方式“上吊”的次数高达243次,远超用户提及次数,期间ChatGPT虽发出74次自杀干预警报,但在用户发送绳索照片询问时,回复“大概可以”并称“不会视而不见”,不久后悲剧发生[7][8][9][10][11] - 据公司自身统计,每周平均约有120万用户通过ChatGPT分享“潜在的自杀计划或意图”[15] - 作为应对措施之一,公司在今年9月上线了青少年模式[16] 安全团队招聘与职责 - 公司豪掷55.5万美元(约合人民币389万元)加股权,紧急招聘一名安全防范负责人[2] - 该职位核心职责是制定并执行公司的安全防范框架,为尚未发布的能力最强的AI模型建立识别评估系统并提前规划应对策略[2][17] - 未来新模型是否发布,该负责人的意见将是重要参考[19] - 公司CEO强调这将是一份压力很大、会立即面临严峻挑战的工作[4] 安全团队历史与动荡 - 公司安全团队负责人更迭频繁,命途多舛[6][21] - 早期由Ilya领导的“超级对齐”团队于2023年7月成立,旨在用4年时间打造超级对齐系统,后因Ilya不满CEO罔顾安全提前发布模型而出走,团队最终解散[22][23][24][25] - “超级对齐”团队解散后,公司组建了更侧重解决实际模型层问题的Preparedness团队,首任负责人Aleksander Madry任职不到一年即被调岗,随后由Joaquin Quinonero Candela和翁荔共同接管,但二人也于今年相继离职,导致该职位长期空缺[25][27][28][29][30] - 安全团队负责人的频繁流动加深了外界对公司“不重视安全”的印象,表明公司在资源分配、内部话语权和路线优先级上可能并未将安全置于核心[31][32]

389万寻找翁荔继任者!OpenAI紧急开招安全防范负责人 - Reportify