案件核心判决与法律定性 - 杭州互联网法院一审驳回了原告要求某科技公司赔偿9999元损失的诉讼请求 原被告均未上诉 判决现已生效[1][5] - 法院认定生成式人工智能模型不是民事主体 其生成的“承诺”不构成服务提供者的意思表示 不具有法律效力[5] - 法院认定案涉AI生成的不准确信息不属于法律禁止的有毒有害违法信息 且被告已在交互界面显著位置提示AI内容的功能局限 已尽说明义务 被告行为无过错 不构成侵权[5] 案件背景与行业影响 - 该案系中国首起因生成式人工智能模型“幻觉”引发的网络侵权纠纷案[6] - 案件确认生成式人工智能属于服务而非产品 侵权责任应适用《民法典》第1165条第1款的过错责任原则 而非产品责任的无过错责任原则 这对未来司法实践具有重要启示[6] - 案中AI向原告提供了某高校不存在的校区信息 属于典型的“事实性AI幻觉” 即编造不存在的事实或信息[6] AI幻觉的技术与风险现状 - AI幻觉指生成式人工智能生成偏离事实的内容 包括事实性幻觉和逻辑性幻觉[6] - 多位业内专家认为 AI幻觉问题在现有技术框架下难以彻底解决[6] - 世界经济论坛《2025年全球风险报告》将“错误和虚假信息”列为全球五大风险之一 AI生成的幻觉内容被视为关键诱因[6] 对公众与行业的警示建议 - 法院与社会提醒公众 应清醒认识大模型目前仅是“文本辅助生成器”和“信息查询的辅助工具” 而非可靠的“知识权威”或“决策替代者” 不应轻信盲从其生成内容[7] - 面对AI高度流畅自然的语言应答 社会公众应提高警觉[7] - 行业应思考如何有效利用AI增强人类能力 而非被其替代或迷惑[7]