报告行业投资评级 未提及 报告的核心观点 AI为组织带来机遇，能实现智能应用创新与现代化、提升效率等，但组织需确保以合乎道德的方式使用AI，平衡创新与社会、环境和声誉影响；多数高管认为AI收益大于风险，克服集成AI的认知风险关键在于实施指南，以负责任方式使用AI并了解其潜在影响；八条指南可帮助应用开发团队将负责任AI原则融入流程，实现绩效、组织目标和价值观的协同 [3][8][11] 根据相关目录分别进行总结 引言：满足打造负责任AI的需求 AI为组织带来创新和效率提升等机遇，能改变企业为客户创造和提供价值的方式；组织采用AI时需警惕创新对社会、环境和声誉的影响，要平衡使用AI功能与避免造成伤害；约三分之一受访者认为组织未来12个月更愿购买AI软件或结合内部支持使用；多数高管认为AI收益值得把握机遇 [3][4][8] 第1章：负责任地使用AI所面临的障碍 - 复杂性：创建智能应用需复杂技术，面临技术人才稀缺、与现有系统集成挑战、保护高质量数据需求及了解AI功能和局限性等问题，可使用集成托管工具和服务简化流程 [6] - 对未知的恐惧：组织面临潜在客户质疑和对AI及劳动力问题的负面看法，担心投资无法保证用户接受度，可与信赖的技术供应商合作，研究了解AI应用及其影响 [6] - 合规性和安全性风险：人们对数据安全、隐私和保护有顾虑，受监管行业尤甚，还存在可解释AI需求、遵循负责任AI实践及追踪AI决策过程的合规问题，可使用具有内置安全性和合规性的云原生工具和服务保护数据、应用和系统 [6] 第2章：如何运用八条指南 负责任AI推动组织文化转变，需在领导力、治理、流程和人才等方面变革；八条指南针对智能应用开发和交付流程，预测和降低AI系统风险，不可作检查清单或法规遵从性工具，团队应与内部部门合作确保AI应用合规；指南按应用开发生命周期关键阶段编排，包括评估和准备、设计、构建和记录、验证和支持 [12][13] 第3章：在智能应用中实现负责任AI的八条指南 第1至3条指南：评估和准备 - 评估价值：评估应用开发价值时考虑组织价值观和业务目标，需提出拟议智能应用的用例、好处、业务成果及对组织价值观的影响等问题 [18][20] - 创建团队：组建能呈现多元视角的团队，明确角色和职责，需提出团队多元化、专业知识、结构及应用故障影响等问题 [21][26] - 分析影响：根据领域专家和受影响群体意见评估应用潜在影响，需提出应用故障、滥用、计划外用途及外部意见等问题 [23][26] 第4至6条指南：设计、构建和记录 - 发现风险：评估数据和系统结果确保包容性，降低损害公平性风险，需提出公平性指标、验证训练数据、衡量应用成果及确保部署后合规等问题 [32][36] - 降低风险：设计降低对社会和环境潜在负面影响的AI应用，需提出减少负面影响的设计流程和选择、降低对环境不利影响及确保数据收集合法透明和尊重用户隐私的设计选择等问题 [34][36] - 人为控制：整合实现人为控制并确保问责制的功能，需提出设计增强人工决策能力、支持用户了解系统、用户自定义功能、收集反馈渠道及确保残疾人包容性体验等问题 [37][42] 第7至8条指南：验证和支持 - 验证：验证智能应用性能确保可靠性和安全性，测试有无计划外故障和可预见滥用，需提出根据业务和技术标准验证性能、确定运行环境和条件、测试系统安全有效运行、监控绩效及防止模型偏移等问题 [47][51] - 传达：向最终用户传达设计选择、性能、局限性和安全风险，需提出向用户提供信息说明、确保用户了解用例和限制及传达系统输出等问题 [49][51] 结语 业务领导者可推动组织文化转型，促进负责任开发智能应用的对话；发布智能应用战略时将负责任AI放核心位置，可避免意外后果掩盖创新想法 [62]