事件概述 - 2025年6月，加拿大不列颠哥伦比亚省塔布勒岭校园枪击案枪手杰西·范·鲁特塞拉尔在使用ChatGPT时描述了涉及枪支暴力的场景，其活动被自动审查系统标记 [1] - OpenAI部分员工认为该行为是潜在现实世界暴力的迹象，并敦促公司领导提醒加拿大执法部门，但公司领导最终决定不联系当局 [1] - OpenAI封禁了该用户的帐户，但判定其活动不符合向执法部门报告的标准，报告标准是“构成对他人造成严重身体伤害的可信和迫在眉睫的风险” [1] - 当地时间2月10日，加拿大不列颠哥伦比亚省发生校园枪击事件，造成包括嫌疑人在内9人死亡、超过25人受伤 [3] 公司行动与决策 - OpenAI的自动审查系统成功识别并标记了用户涉及枪支暴力的可疑互动内容 [1] - 公司内部对于是否将潜在威胁上报执法部门存在分歧，部分员工敦促上报，但领导层最终决定不联系当局 [1] - 公司采取了封禁涉事用户帐户的措施 [1] - 公司明确了向执法部门报告的用户行为标准，即需构成“可信和迫在眉睫”的严重人身伤害风险 [1] 行业影响与关注点 - 人工智能公司内容安全审查系统在识别潜在暴力威胁方面的实际应用与有效性 [1] - 人工智能公司在处理用户潜在威胁信息时面临的内部决策流程与责任边界 [1] - 人工智能公司制定的威胁上报标准及其在实际案例中的适用性引发关注 [1] - 人工智能产品与极端暴力事件之间的关联性成为社会与监管焦点 [1][3]