行业投资评级 - 报告未明确给出行业投资评级 [1] 核心观点 - 人工智能和生成式AI将对经济增长和生产力产生变革性影响 尤其是那些计划通过技术改变运营的组织 [2] - 实现AI的好处需要确保底层模型及其使用安全 可靠 可信 实施强大的数据治理 模型风险 安全和个人权利管理至关重要 [3] - 能够建立数字信任的组织更有可能实现至少10%的年增长率 [4] - 尽管65%的组织已经在使用生成式AI 但71%的受访者表示其AI风险治理尚未成熟 [5] - 调查参与者对AI的五大高风险类别表示担忧 包括数据 模型输出 安全 第三方和社会风险 [6] - 欧盟AI法案是全球首个全面AI法规 将对所有受影响组织产生广泛影响 并具有域外效力 [10] - 超过50%的受访者表示对AI法案要求不明确 且不确定其AI用例的风险分类 [10] - 组织在数据管理方面准备最充分 但在治理 模型风险管理和个人权利方面仍有不足 [10] - 只有不到10%的受访者表示已满足法案在四个领域的要求 [10] - 近一半的受访者尚未为AI法案实施分配预算 大多数预算在200万欧元以下 [15] - 复杂性 风险治理和第三方风险管理是组织面临的主要挑战 [16][17][18] - 数据治理方面 只有18%的受访者表示其组织拥有成熟的AI系统技术风险管理流程 [22] - 人才短缺是实施AI法案的另一大挑战 尤其是技术人才和法律人才 [26] - 实施欧盟AI法案的关键挑战包括义务不明确 复杂性和人才缺口 [29] - 组织应加速规划 采用“定义你的世界”方法 优先考虑模型使用的透明度 利益相关者 风险和法规 [32] - 定义治理和合规工作的目标状态 可以帮助组织构建考虑战略 风险偏好 组织结构 技术 政策和工具的路线图 [33] - 实现合规需要必要的人才 资源和相关KPI来衡量进展 [35] - 欧盟AI法案是规范AI系统 确保负责任AI治理的重要一步 可能成为全球其他司法管辖区的蓝图 [35] 行业现状 - 2024年初 麦肯锡调查了180家欧盟组织 发现71%的受访者表示其AI风险治理尚未成熟 尽管65%的受访者已经在使用生成式AI [5] - 调查显示 不到30%的受访者认为其组织的AI风险治理有一定程度的成熟度 [6] - 在金融 能源和材料 技术 媒体和电信 生命科学和消费品行业 组织的AI风险治理成熟度差异较大 [7] - 只有4%的受访者认为欧盟AI法案的要求是明确的 [11] - 组织在数据管理方面准备最充分 但在治理 模型风险管理和个人权利方面仍有不足 [10] - 超过一半的受访者表示许多数据治理要求仍未解决 特别是GDPR和欧盟AI法案之间的互动缺乏明确性 [10] - 只有不到10%的受访者表示已满足法案在四个领域的要求 [10] - 近一半的受访者尚未为AI法案实施分配预算 大多数预算在200万欧元以下 [15] - 复杂性 风险治理和第三方风险管理是组织面临的主要挑战 [16][17][18] - 数据治理方面 只有18%的受访者表示其组织拥有成熟的AI系统技术风险管理流程 [22] - 人才短缺是实施AI法案的另一大挑战 尤其是技术人才和法律人才 [26] - 实施欧盟AI法案的关键挑战包括义务不明确 复杂性和人才缺口 [29] 行业趋势 - 人工智能和生成式AI将对经济增长和生产力产生变革性影响 尤其是那些计划通过技术改变运营的组织 [2] - 欧盟AI法案是全球首个全面AI法规 将对所有受影响组织产生广泛影响 并具有域外效力 [10] - 组织应加速规划 采用“定义你的世界”方法 优先考虑模型使用的透明度 利益相关者 风险和法规 [32] - 定义治理和合规工作的目标状态 可以帮助组织构建考虑战略 风险偏好 组织结构 技术 政策和工具的路线图 [33] - 实现合规需要必要的人才 资源和相关KPI来衡量进展 [35] - 欧盟AI法案是规范AI系统 确保负责任AI治理的重要一步 可能成为全球其他司法管辖区的蓝图 [35]