案件核心判决与法律定性 - 杭州市互联网法院审结全国首例因AI“幻觉”引发的侵权纠纷案 判决驳回用户索赔请求[3] - 法院认定AI不具有民事主体资格 其“承诺”不能视为平台的意思表示 明确了“AI不是人”的根本法律定位[3][4] - 法院认定生成式AI属于“服务”范畴 适用《民法典》一般过错责任原则 而非产品责任的无过错责任原则 AI生成不准确信息本身不构成侵权 必须证明平台存在过错才能追究责任[4] - 法院审查后认定 被告已完成大模型备案与安全评估 并在应用界面、用户协议等多个层面履行了提示说明义务 已尽到合理注意义务 主观上不存在过错[4] 技术原理与产业影响 - 从技术角度看 AI“幻觉”是大语言模型基于概率生成的固有缺陷 其底层原理是预测下一个词出现的可能性 而非真正理解事实[4] - 专家指出 大模型的“幻觉”可能正是它保持“创造力”的必要代价[4] - 从法律和产业角度看 如果将AI“幻觉”完全归责于平台 无异于给创新套上“紧箍咒” 会抑制技术创新和发展 最终可能损害技术普惠的社会价值[5] 应用场景与风险差异 - AI“幻觉”的危害程度很大程度上取决于应用场景[6] - 如果只是将AI作为聊天工具 “幻觉”问题后果并不严重[7] - 在医疗健康、金融投资、法律等高风险领域 AI“幻觉”可能导致严重后果[7] - 对于高风险领域 可能需要法律设定更清晰的技术标准 要求产业投入更多成本降低“幻觉”的发生[7] 公众认知与未来展望 - 此案判决提醒用户AI只是概率模型 而非全知全能的“智能” 用户需对自己的决策负责[8] - 技术进步需要法治护航 未来需坚持发展与安全并重 让平台守好责任边界、用户保持理性认知、法律做好动态适配 才能让AI行稳致远[8]