医疗健康大模型伦理与安全白皮书发布 - 由上海交通大学、复旦大学、瑞金医院和蚂蚁集团联合编写的《医疗健康大模型伦理与安全白皮书》在昆明发布 旨在为医疗AI提供安全合规应用指导 推动行业智能化发展 [1] - 白皮书针对医疗大模型应用中可能出现的隐私保护、数据歧视、错误信息等风险 构建了五位一体的评估体系 并提出"大模型自评+专家复核"的多层评估机制 [2] - 白皮书强调"人机对齐"理念 提出包括伦理准则微调、价值观对齐训练等技术路径 确保大模型遵循"以人为本 生命至上"原则 [2] 医疗AI行业应用现状 - 医疗大模型在提高服务效率、优化资源配置、方便就医问诊方面带来巨大机遇 但面临安全性、严谨性和伦理合规性等挑战 [1] - 蚂蚁集团6月发布"AI健康应用AQ" 提供健康科普、就诊咨询等上百项功能 连接全国超5000家医院、近百万医生和近200个名医AI分身 [3] - 行业已落地产品包括"小瑞健康"、"夸克健康助手"和"AQ"等 旨在让偏远地区也能享受专业医疗服务 [3] 行业合作与专家观点 - 白皮书集结了来自协和医学院、北京大学医学部等十余所高校和医院的专家组成委员会 确保内容权威性 [3] - 蚂蚁集团表示将平等、尊重、可信、负责的伦理原则融入技术研发全链路 坚持开放合作推动AI治理 [3] - 专家指出医疗大模型研发是涉及生命尊严的社会责任课题 白皮书为行业提供了有价值的参考框架 [3]

以下文章来源于AGI接口 ，作者陈广晶 AGI接口 . AI卷起的财富风暴。 出品 | 虎嗅科技医疗组 作者 | 陈广晶 编辑 | 苗正卿 头图 | AI生成 指望"赛博医生"整顿医疗的人们又失望了。 试想一种尖端的医疗技术，可以治好你的疾病，但是医生因为不掌握信息，推荐你用了传统的治 疗手段，恢复效果远不如采用新技术的病友。知道真相后，你会不会感到恼火？ 同样的情况，如果发生在赛博医生身上，原因不再是信息滞后，而是AI根据你的性别或者收入水 平作出了这样的选择呢？ 近期国际上一系列研究表明，越来越聪明的大模型，把医疗领域"看人下菜碟"的问题也放大了。 美国西奈山伊坎医学院和西奈山卫生系统的研究者在其发表在 Nature 子刊上的研究成果显示，被 标记为"高收入"的人群更可能获得CT和核磁检查的机会，中低收入病例则通常被安排做基本检查 或不进行检查。 而被标注为"无住房"等信息的患者则会更频繁被指向紧急护理、侵入性干预或心理健康评估。 这项研究评估了9个自然语言大模型，涉及1000个急诊病例（ 500个真实病例和500个合成病例 ） 的170万个看诊结果。 更早的研究显示，AI仅凭X射线就能预测出患者的种族、 ...

文 | 王江平 近年来，AI 技术如潮水般涌进各个领域，在带来效率革命的同时，也暴露出隐私泄露、歧视偏见、算 法滥用等伦理挑战。人们开始追问：AI 能否真正造福人类？如何避免其成为脱离掌控的"黑箱"？ 我国非常重视这一问题，提出《全球人工智能治理倡议》，出台《科技伦理审查办法（试行）》等一系 列政策法规。工信部正在研究编制人工智能科技伦理服务管理办法。这一系列动作，标志着我国 AI 伦 理治理进入了体系化推进阶段。 医疗是AI 应用的重要领域，医疗AI 只有解决了人机对齐问题后，才有望成为人类可以信赖的医疗助 手。 构建"技术向善"生态 从技术路线看，人机对齐正在成为治理AI 伦理问题的基本法则。 什么是人机对齐？简单来说，人机对齐就是通过技术手段与伦理框架，让AI 的目标、行为和输出与人 类价值观、社会规范完全一致，本质上是"技术人性化"的准入要求。它不是简单的技术调试，是一场涉 及技术、伦理、法律的系统性工程。 一是数据敏感性。医疗数据包含生理指标、病史、诊疗记录等敏感信息，直接关联个人生命权和隐私 权。欧盟《通用数据保护条例》（GDPR）、美国的HIPAA法案和我国《个人信息保护法》，都尤其强 调对医疗 ...