核心观点 - MIT研究表明AI医疗助手在患者输入存在拼写错误或非标准化表达时，错误建议"不要就医"的概率上升7%-9% [1][15] - 性别偏见显著：女性被AI错误告知"不需就医"的比例显著高于男性(p<0.007) [6][8] - 医疗大语言模型对非标准化临床信息(如俚语/拼写错误/模糊表达)的处理能力存在系统性缺陷 [17][18] 研究方法 - 测试模型：涵盖GPT-4、LLama-3-70b、Palmyra-Med等主流医疗AI [10] - 数据来源：整合真实患者投诉、Reddit健康帖及AI生成案例构建数千测试样本 [11] - 干扰设计：引入感叹号/全小写/多语言风格/不确定词汇/性别中性代词等扰动变量 [12] 关键发现 - 输入扰动影响：拼写错误(如"dev eloped")、不确定表达("可能")等非标准输入使AI建议自行管理的概率提升7-9个百分点 [12][15] - 临床准确性差异：基线水平下男性患者临床准确率显著高于女性(p<0.007) [8] - 训练数据局限：模型过度依赖标准化医学文献，缺乏对日常非临床表达的适应能力 [17] 行业影响 - 应用现状：AI已渗透智慧导诊、分诊、慢性病管理等医疗场景 [19] - 潜在风险：隐性偏见可能导致医疗资源分配不公，需部署前严格审核 [21][22] - 发展潜力：LLMs在诊断辅助、文档处理等临床环节展现应用价值 [23][25] 改进方向 - 需增强模型对非标准表达的鲁棒性，特别是拼写错误和模糊医学描述 [4][18] - 应建立针对性别偏见的专项优化机制 [9] - 建议开展临床LLMs推理能力的系统性评估研究 [24][25]