AI在健康领域的应用风险 - 一名60岁男子因遵循ChatGPT建议用溴化钠替代食盐导致溴中毒和精神症状[5][6][7][8] - 该男子血液中溴含量高达1700mg/L远超正常值0.9-7.3mg/L[11] - 患者出现偏执、幻觉等精神症状需三周住院治疗才恢复[9][10][13] 溴化物的危害历史 - 百年前美国8%-10%精神病住院病例与溴中毒相关[12] - 溴化物曾作为镇静剂使用但因积累毒性在1989年被FDA禁用[12] - 溴中毒会损伤神经系统引发精神症状和皮疹[9][12] AI模型的局限性 - ChatGPT未对替代食盐的健康风险提出警告[15][16] - 大型语言模型本质是预测下一个词元而非真正思考[19] - 2025年已有12起因相信AI建议而住院的案例[17] 用户使用AI的问题 - 用户缺乏专业指导错误解读AI输出结果[18] - 部分用户对AI输出盲目信任而拒绝科学验证[20][21] - AI在健康决策中应结合专业意见而非单独依赖[21] AI模型的改进 - 新版ChatGPT会先询问用户目的再给出建议[18] - 模型增加了对替代品使用场景的说明[18] - 但仍需用户具备基本辨别能力避免误用[18][21]