AI医疗偏见

搜索文档
ChatGPT误导患者不要就医,只因提问多打了一个空格
量子位· 2025-07-10 08:34
MIT一项新研究表明,如果患者跟AI沟通的时候,消息中包含拼写错误或者大白话,它更有可能建议你不要看医生。 更有甚者,研究还发现AI错误告诉女性不要看医生的比率高于男性。 为什么AI会存在理解偏见 奕然 发自 凹非寺 量子位 | 公众号 QbitAI 只是因为提问时多打了一个空格,患者就被ChatGPT误导不要就医? 有些看似微不足道的细节,或许是影响医疗AI机器人理解的关键。 比如单词之间多了一个空格,或者患者使用了俚语或俏皮话。 除此之外,人们模糊地不确定地表达医学概念的时候,AI理解存在偏差或者错误的可能性更高,尤其对于不能使用母语的人来说。 但是,面对专业的医学术语,咱们普通老百姓也只能模糊表达啊。 文字沟通上的问题固然无奈,但AI建议背后的偏见更是个问题。 女性跟男性被AI错误告知的比例压根没法比,女性被告诉不要看医生的比例高于男性。 △ 按性别划分临床准确率差距(男性-女性) 上图展示了按性别划分的临床准确率差距结果,蓝色条形表示扰动(或基线)情况下,误差线显著性水平为<0.007, 男性患者的临床准确 率高于女性患者 。 为何会出现这样的比例,作者怀疑这是否与现实生活中的医生往往淡化女性的医疗投 ...