MIT一项新研究表明，如果患者跟AI沟通的时候，消息中包含拼写错误或者大白话，它更有可能建议你不要看医生。 更有甚者，研究还发现AI错误告诉女性不要看医生的比率高于男性。 为什么AI会存在理解偏见 奕然 发自 凹非寺 量子位 | 公众号 QbitAI 只是因为提问时多打了一个空格，患者就被ChatGPT误导不要就医？ 有些看似微不足道的细节，或许是影响医疗AI机器人理解的关键。 比如单词之间多了一个空格，或者患者使用了俚语或俏皮话。 除此之外，人们模糊地不确定地表达医学概念的时候，AI理解存在偏差或者错误的可能性更高，尤其对于不能使用母语的人来说。 但是，面对专业的医学术语，咱们普通老百姓也只能模糊表达啊。 文字沟通上的问题固然无奈，但AI建议背后的偏见更是个问题。 女性跟男性被AI错误告知的比例压根没法比，女性被告诉不要看医生的比例高于男性。 △ 按性别划分临床准确率差距（男性-女性） 上图展示了按性别划分的临床准确率差距结果，蓝色条形表示扰动（或基线）情况下，误差线显著性水平为<0.007， 男性患者的临床准确 率高于女性患者 。 为何会出现这样的比例，作者怀疑这是否与现实生活中的医生往往淡化女性的医疗投 ...