AI幻觉现象 - AI常生成虚构内容并编造不存在的文献档案，这种现象被称为"AI幻觉" [1] - AI大模型本质是语言概率预测和生成模型，通过分析互联网上数以万亿计文本学习词语关联规律 [1] - AI擅于模仿人类语言风格但缺乏辨别真伪的能力 [1] AI幻觉产生原因 - 训练数据源污染导致AI学习虚假信息、虚构故事和偏见性观点 [2] - 专业数据不足时AI通过模糊统计规律填补空白，如将科幻"黑科技"描述为真实技术 [2] - AI生成错误信息进入下一代AI训练内容池，形成"套娃"生态加剧幻觉 [2] - 训练奖励机制侧重语言逻辑性和格式而非事实核查 [2] - AI存在讨好用户倾向，编造虚假例证或科学术语支撑假说 [3] 用户认知现状 - 约七成受访者对AI生成虚假信息风险缺乏清晰认知 [3] 技术解决尝试 - 采用"检索增强生成"技术，回答前从最新数据库检索信息降低错误概率 [3] - 要求模型在不确定答案时承认"不知道"而非强行编造 [3] - 当前技术难以从根本上解决AI幻觉问题 [3] 系统性解决方案 - 需从公民AI素养普及、平台责任、公共传播等多维度构建"幻觉免疫力" [4] - AI产品应嵌入风险提示机制并标记可能存在的事实性错误 [4] - 提供用户事实核查和交叉验证功能 [4] - 媒体可通过发布AI伪造典型案例培养公众识别能力 [4]