错信AI幻觉,一男子用溴化钠替代食用盐,真给自己吃出幻觉了
量子位·2025-08-11 15:48
AI健康建议误导案例 - 一名60岁男性因轻信ChatGPT建议,将食用盐替换为泳池清洁用溴化钠,导致严重溴中毒[1][4] - 患者体内溴含量达1700 mg/L,超出正常范围(0.9-7.3 mg/L)200多倍,引发妄想症和幻觉[2][5][6] - 溴中毒症状包括偏执、视听幻觉及抗拒治疗,需通过盐水利尿排毒但患者拒绝饮水[8][9] ChatGPT建议缺陷分析 - 患者基于"大学营养学经历"背景,要求AI提供完全无氯饮食方案,未获健康风险警示[4][10] - 医生测试ChatGPT 3.5发现其推荐含溴化物但缺乏医疗级背景追问和明确警告[14][15] - GPT-5版本已改进为建议低钠盐替代方案,并能自动纠正"替代氯"为"减盐"需求[18][19] AI产品迭代对比 - 早期版本(ChatGPT 3.5/4.0)存在健康建议不严谨问题,可能直接推荐危险化学品[12][14] - GPT-5升级后能理解用户真实需求,自动转向科学减盐方案并规避有害物质推荐[18][21] - 案例显示AI产品需加强背景信息识别和风险提示功能,特别是在医疗健康领域[16][17]