AI投毒现象 - AI可能生成看似合理但实际上错误、虚构的信息，即"AI幻觉" [3] - "AI投毒"指恶意投喂色情、赌博、欺诈、虚假等"毒数据"给AI系统 [3] - "AI投毒"主要有两种形式：在数据语料中投放虚假/有害信息，或修改模型文件 [3] AI投毒的行业影响 - 医疗领域：被投毒AI可能导致误诊病情 [4] - 金融领域：被篡改算法可能引发交易风险 [4] - 自动驾驶领域：恶意数据可能导致车辆关键时刻"失明" [4] 行业防范措施 - 通过算法层安全对齐和系统外"防护护栏"建立数字防火墙 [5] - 为AI输出结果实施事实核查，采用交叉验证、数据溯源等技术拦截毒信息 [5] - 强制平台为AI生成内容打上醒目标签，提醒用户谨慎使用 [5] 用户防范建议 - 使用正规平台和企业提供的AI工具 [6] - 科学合理使用AI工具，参考但不盲信AI产生的结果 [7] - 保护个人信息，避免隐私暴露，不做不良信息投喂者 [7]