事件概述 - 美国生成式人工智能公司OpenAI在加拿大陷入舆论风波 导火索是公司未能及时向加拿大政府报告其人工智能模型ChatGPT平台用户存在暴力倾向 导致未能及时阻止一起造成9人死亡的恶性校园枪击事件 [1] - 此前 OpenAI曾封禁一名涉嫌大规模枪击案嫌疑人的账户 但未向加拿大警方通报 理由是没有任何迹象表明即将发生袭击 [2] 公司应对措施 - OpenAI向加拿大政府作出多项郑重承诺 旨在全方位加强安全机制 [1] - 公司已在“几个月前”实施一系列政策变更 包括积极咨询“心理健康、行为和执法专家” 以精准判断聊天机器人的对话何时构成可信风险 [1] - 依据增强后的安全机制 一旦发现被封禁的账户 OpenAI会立即将其转交给相关执法部门 [1] - 公司承诺与加拿大执法部门建立直接且高效的联系渠道 以便在担忧用户可能计划实施现实暴力行为时能迅速通知警方 [1] 政府与监管反应 - 加拿大政府向OpenAI发出强硬警告 若不尽快改进其安全协议 可能针对人工智能聊天机器人制定新的监管规定 [2] - 这一事件显示出加拿大政府对人工智能安全应用的高度重视 [2] 行业影响与挑战 - 该事件为人工智能的安全应用敲响了警钟 引发了公众对人工智能安全应用的广泛担忧 [3] - 事件促使人们重新审视人工智能技术在带来便利的同时可能隐藏的巨大风险 [3] - 该事件凸显出科技企业在平衡用户隐私与公共安全方面面临着巨大挑战 [3]