报告行业投资评级 未提及 报告的核心观点 AI为组织带来创新和效率提升机遇，但使用时需平衡创新与道德责任，克服复杂性、对未知的恐惧、合规性和安全性风险等障碍，通过实施八条指南以负责任的方式使用AI，实现绩效、组织目标和价值观的协同 [3][6] 根据相关目录分别进行总结 引言 - AI为组织带来创新和效率提升机遇，但组织需平衡创新与道德责任，警惕创新对社会、环境和声誉的影响 [3] - IDC调查显示约三分之一受访者认为组织未来12个月更愿意购买AI软件或结合内部支持使用，制定AI成功战略是大势所趋 [4] 第1章：负责任地使用AI所面临的障碍 - 复杂性障碍包括技术人才稀缺、技术与现有系统集成挑战、保护高质量数据需求以及了解AI功能和局限性的方式，可使用集成托管工具和服务简化流程 [6] - 对未知的恐惧表现为组织面临潜在客户质疑、对AI和劳动力问题有负面看法、担心投资无法保证用户接受度，可与可信供应商合作研究了解AI应用及其影响 [6] - 合规性和安全性风险体现在数据安全、隐私保护、可解释AI需求、遵循负责任AI实践以及追踪AI决策过程的合规问题，可使用具有内置安全性和合规性的云原生工具和服务 [6] - 多数高管认为AI收益大于风险，克服认知风险关键是实施指南以负责任使用AI并了解潜在影响 [8] - 使用AI创新的好处包括快速进入市场、提高效率减少技术债务、吸引并赋能开发人才 [9] - Microsoft确定AI开发和使用的六项原则为公平性、安全可靠、隐私和安全性、包容性、透明性、问责制 [11] 第2章：如何运用八条指南 - 负责任AI推动组织文化转变，八条指南针对智能应用开发和交付流程，预测和降低AI系统风险，不可作检查清单或法规遵从工具，团队需与内部部门合作确保应用合规 [12] - 指南按应用开发生命周期关键阶段编排，包括评估和准备、设计构建和记录、验证和支持 [13] 第3章：在智能应用中实现负责任AI的八条指南 第1至3条指南：评估和准备 - 第1条指南评估价值，需考虑组织价值观和业务目标，提出拟议智能应用用例、好处、业务成果、对组织价值观影响等问题 [18][20] - 第2条指南创建团队，组建多元视角团队并明确角色职责，提出团队多元化、引入视角专业知识、团队结构合理性等问题 [21][26] - 第3条指南分析影响，根据领域专家和受影响群体意见评估应用潜在影响，提出应用故障模式、对社会环境影响、潜在计划外用途等问题 [23][26] - 以金融机构自动执行贷款审批决策为例，应用第1条指南评估开发价值，确定用例、业务影响度量指标、考虑数据偏见；应用第2条指南组建含数据科学家、律师、贷款专员等多元团队；应用第3条指南评估潜在影响，决定由贷款专员传达拒绝决策，并聘请经济学家、与供应商合作了解新客户群体 [25][27][28] 第4至6条指南：设计、构建和记录 - 第4条指南发现风险，评估数据和系统结果确保包容性并降低损害公平性风险，提出公平性指标、验证训练数据、衡量应用成果等问题 [32][36] - 第5条指南降低风险，设计降低对社会和环境潜在负面影响的AI应用，提出减少负面影响的设计流程和选择、降低对环境不利影响和确保数据收集合法透明及尊重隐私的设计选择等问题 [34][36] - 第6条指南人为控制，整合实现人为控制并确保问责制的功能，提出增强人工决策能力、支持用户了解系统、用户自定义功能、收集反馈渠道、确保残疾人包容性体验等问题 [37][42] - 以时装零售连锁店零售需求预测为例，应用第4条指南评估数据和系统结果降低损害公平性风险，决定检查服务水平差异、建立最低库存水平；应用第5条指南设计降低对社会和环境潜在负面影响的AI应用，构建权衡库存水平与运输排放的功能；应用第6条指南整合相关功能实现人为控制，设计反馈机制让商店经理指明新兴趋势和产品以调整库存水平 [43][44][46] 第7至8条指南：验证和支持 - 第7条指南验证，验证智能应用性能确保可靠性和安全性，测试有无计划外故障和可预见滥用，提出根据业务和技术标准验证性能、确定运行环境条件、测试评估系统安全有效运行、监控绩效、检测防止模型偏移等问题 [47][51] - 第8条指南传达，向最终用户传达设计选择、性能、局限性和安全风险，提出向用户提供信息说明、确保用户了解用例假设限制、传达系统输出帮助用户了解系统工作方式等问题 [49][51] - 以工业品制造商预测交货时间为例，应用第7条指南验证，考虑疫情因素集成COVID案例量，与工厂车间领导沟通确定制造计划调整策略，测试系统输出、输入运营场景、制定工作计划；应用第8条指南传达，提前接触最终用户开展会议培训，设计模块化培训，计算置信区间和交货时间、设计仪表板、确保不自动更新交货日期、构建供应商级别仪表板、制定工作计划草案并由工厂车间领导签署确保工人安全标准 [52][54][56] 结语 业务领导者可推动组织文化转型，在负责任开发智能应用对话中发挥重要作用，发布智能应用战略时应将负责任AI放核心位置，避免意外后果掩盖创新想法 [62]