报告行业投资评级 未提及相关内容 报告的核心观点 - 提出建立联邦制、全面且标准化的AI事件报告框架，包含强制、自愿和公民报告机制，以增强AI安全和保障措施 [2][7][8] - 定义一套标准化的AI事件关键组件，可作为报告模板收集重要数据，促进数据收集、跟踪、研究和信息共享等 [3][4][5] - 建议发布基于关键组件的AI事件报告格式，并建立独立调查机构，以充分利用关键组件列表的优势 [4][46] 根据相关目录分别进行总结 引言 - AI事件广泛发生且影响不利，但缺乏系统全面的报告政策框架，需收集事件数据以增强对AI相关危害的了解，开发安全可靠的AI系统 [7] - 此前提出的联邦制AI事件报告框架结合强制、自愿和公民报告，本文提出的关键组件列表可用于强制报告制度，并为自愿和公民报告制度提供参考 [8] AI事件的关键组件 - 通过分析多个AI相关倡议和其他行业的事件报告系统，确定AI事件关键组件，包括事件类型、危害维度、技术数据、背景情况和事后数据等 [15][21] - 关键组件选择标准为易于使用、理解和实施，适应AI新兴能力和社会因素，为政策制定者和研究人员提供数据 [17] - 关键组件具体内容包括事件类型（事件、近失事件）、危害类型（身体、环境、经济等）、危害机制（技术因素、其他因素）、严重程度因素（可补救性、严重程度等级等）、技术信息（AI系统卡、AI模型卡、数据表）、背景情况（目标和应用目的、部门等）、涉及实体和个人（AI参与者、受影响利益相关者）、事件响应（缓解、终止等）、伦理影响（使用联合国教科文组织或经合组织的评估工具） [18][19] 合成AI事件的关键组件 事件类型 - 强制报告制度应记录事件和近失事件，事件指AI系统导致危害发生，近失事件指危害险些发生但因偶然或被拦截而避免 [22][23] - 区分近失事件和AI危害很重要，近失事件应纳入强制报告范围，有助于早期发现新风险和加强安全措施，而AI危害一般不适合强制报告 [24][25][26] 危害维度 - 包括危害类型、危害机制和严重程度因素 [28] - 危害类型采用经合组织的分类，涵盖身体、环境、经济等多种类型，一个事件可能涉及多种危害 [29] - 危害机制分为技术因素（系统漏洞、模型漂移等）和其他因素（治理薄弱、用户滥用等），分别记录有助于区分有意和无意危害，理解人机交互 [30][31] - 收集严重程度因素数据对评估严重程度、制定安全政策和风险评估至关重要，但制定AI事件严重程度评级框架需进一步探索 [32] 技术数据 - 要求AI参与者在强制报告中提交AI系统或模型卡和数据表，有助于研究人员和政策制定者获取关键技术数据，提高技术标准和风险缓解实践 [37][38] 背景情况和利益相关者 - 记录AI事件的背景和情况数据，包括目标和应用目的、部门、日期、地点、报告者、现有保障措施和政策等，有助于评估安全措施和识别改进差距 [39][40] - 明确受影响利益相关者是否为AI系统用户，以澄清其与系统的关系 [40] 事后数据 - 记录事件响应和伦理影响，有助于促进透明度和问责制，评估响应策略，制定最佳实践，相关当局可采用影响评估方案评估伦理影响 [44] 政策建议 发布AI事件报告格式 - 政策制定者、监管机构和监督委员会应采用和定制关键组件列表，标准化数据收集，以获取关键见解，开发安全可靠的AI系统 [47] 建立独立调查机构 - 建议建立独立的AI事件调查机构，深入调查重大事件，揭示报告时不明显的信息，进行根本原因分析，为AI安全政策提供依据 [48] 结论 - 关键组件列表应不断迭代更新，可在线发布数据库，供公众提出建议，也可作为开发事件严重程度度量指标的基础，监管机构可根据更多数据完善强制报告制度的范围 [49] 附录 分解AI事件 - 多数AI事件关键组件从12个数据库和文档中提炼合成，这些倡议为分析AI相关危害和风险提供基础，但缺乏统一的报告框架和明确的报告要求 [52][57] AI危害事件的频谱 - AI危害事件涵盖实际危害事件、近失事件、危险情况、系统风险和假设风险等，但强制报告制度应专注于应报告的事件，排除AI问题、假设风险和系统风险 [58][60] 记录AI危害：AI的多种影响 - 不同AI倡议采用不同方法对AI危害进行分类，经合组织的分类最全面，可根据具体需求扩展 [62][64] 重要但有限的信息 - AI倡议对AI事件的影响讨论广泛，但详细技术数据和严重程度记录较少，现有数据库缺乏颗粒度高的技术细节，且多数倡议缺乏系统的严重程度评估方案 [65][66][67] 其他部门报告的事件组件 - 分析其他高影响部门的事件报告框架，发现与AI事件报告倡议的共同组件，包括事件背景信息和技术数据，以及AI倡议较少记录的组件，如近失事件和现有保障措施和政策 [69][73][75] 共享事件组件 - 各部门事件报告系统都收集事件背景信息和技术数据，这些数据有助于揭示事件影响的环境条件、范围和程度，促进信息共享和漏洞缓解 [73][74][75] 额外关键组件 - 其他部门报告系统更严格记录近失事件和现有保障措施和政策，研究近失事件有助于识别有害事件的促成因素，记录现有保障措施和政策有助于改进AI安全政策 [75][76][77] 测量严重程度：初步了解 - 各报告系统普遍关注事件严重程度，不同系统采用不同严重程度级别，建立标准化的AI事件严重程度评估框架有诸多好处，但需进一步探索 [78][79][80]