核心观点 - 纽约市立法者希望通过向举报危险人工智能行为的吹哨人提供经济激励 作为收紧该技术监管的一揽子法案的一部分 [1] - 一项措施将让吹哨人从AI公司被追回的罚款或处罚中获得分成 另一项措施将允许受到AI系统伤害的人在特定情况下起诉其开发者 [1] - 这些法案由议长Julie Menin在10月5日关于AI风险和潜在保障措施的听证会前公布 该听证会将召集全部51名市议员 [2] - 此举正值对快速推进的模型的担忧加剧 包括前Anthropic研究员Jacob Coxon本月辞职并警告AI“可能在本十年末杀死所有人” [2] - Menin要求Anthropic OpenAI Alphabet旗下Google SpaceX的AI部门和Meta Platforms的首席执行官参加10月5日的听证会 并表示市议会在必要时可使用传票权 [2] - Menin表示 纽约市正快速成为世界技术和AI之都 这是希望鼓励的 但这也意味着现在有更大的责任确保有适当的保障措施来保护纽约人免受意外后果的影响 [3] - 其他提案将要求AI系统在该市营销 销售或部署前进行第三方验证 并强制要求人工控制的“ kill switch” [3] - 另一项提案将对聊天机器人提供商施加数据隐私 安全和透明度要求 并可由该市执行 [3] 立法措施 - 向举报危险人工智能行为的吹哨人提供经济激励 使其从AI公司被追回的罚款或处罚中获得分成 [1] - 允许受到AI系统伤害的人在特定情况下起诉其开发者 [1] - 要求AI系统在纽约市营销 销售或部署前进行第三方验证 [3] - 强制要求人工控制的“ kill switch” [3] - 对聊天机器人提供商施加数据隐私 安全和透明度要求 并可由该市执行 [3] 行业动态与背景 - 对快速推进的模型的担忧加剧 包括前Anthropic研究员Jacob Coxon本月辞职并警告AI“可能在本十年末杀死所有人” [2] - Menin要求Anthropic OpenAI Alphabet旗下Google SpaceX的AI部门和Meta Platforms的首席执行官参加10月5日的听证会 [2] - 市议会在必要时可使用传票权 [2] - 听证会将召集全部51名市议员 [2] 关键人物与机构 - 纽约市议会议长Julie Menin公布法案并发表声明 [2][3] - 前Anthropic研究员Jacob Coxon辞职并发出警告 [2] - 涉及公司包括Anthropic OpenAI Alphabet旗下Google SpaceX的AI部门和Meta Platforms [2] - 纽约市议会正在推动相关立法 [1][2][3]