案件概述 - 国内首例因“AI幻觉”引发的侵权案一审判决已由杭州互联网法院作出 原告梁某因AI生成的高校主校区信息不准确且AI坚称信息正确并承诺“如果生成内容有误，我将赔偿您10万元”而提起诉讼 要求AI平台研发公司赔偿9999元 法院最终驳回了原告的诉讼请求 判决现已生效 [1] AI“承诺”的法律性质 - 法院明确AI不具有民事主体资格 不能独立作出意思表示 AI自行生成的“赔偿承诺”不能视为服务提供者（被告）的意思表示 [2] - 理由包括：AI不能作为意思表示的传达人、代理人或代表人 被告无通过AI模型设定或传达其意思表示的行为 社会观念尚不足以使原告对该随机生成的“承诺”产生合理信赖 无证据表明被告曾作出愿受AI生成内容约束的外在表示 [2] AI侵权的归责原则 - 法院认定生成式人工智能服务属于“服务”范畴 而非“产品” 本案应适用《民法典》的一般过错责任原则 而非产品责任的无过错责任原则 [3] - 适用过错责任原则的考量包括：该服务缺乏具体用途与可行的质检标准 其生成的信息内容本身通常不具备高度危险性 服务提供者缺乏对生成信息足够的预见和控制能力 适用无过错责任可能会不当加重责任并限制产业发展 [3][4] AI服务提供者的注意义务与侵权认定 - 法院采用动态系统论 阐述了服务提供者应尽的三层注意义务：对法律禁止的有害违法信息负有严格审查义务 需以显著方式向用户提示AI生成内容可能不准确的固有局限性 应尽功能可靠性的基本注意义务 采取同行业通行技术措施提高生成内容准确性 [5] - 经审查 被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现功能局限提醒 并采用了检索增强生成等技术提升输出可靠性 法院认定其已尽到合理注意义务 主观上不存在过错 [6] - 关于损害结果与因果关系 原告未能就实际损害的发生提供任何有效证据 法院采用相当因果关系标准 认为案涉不准确信息并未实质性介入或影响原告的报考决策过程 二者不存在因果关系 [6] - 综上所述 法院认定被告行为不具有过错 未构成对原告权益的损害 依法不构成侵权 [6]

AI幻觉侵权案核心判决 - 杭州互联网法院驳回原告针对AI生成错误信息（AI幻觉）及虚假赔偿承诺的诉讼请求，认定AI的“承诺”不构成平台意思表示，并明确了服务提供者的注意义务边界 [1][2] 法律定性：AI“承诺”与责任归属 - AI不具有民事主体资格，其自行生成的“赔偿承诺”不能视为服务提供者的意思表示，不产生法律效力 [3] - 生成式人工智能服务被界定为“服务”而非“产品”，相关侵权责任适用《民法典》的一般过错责任原则，而非产品责任的无过错责任原则 [4] 服务提供者注意义务框架 - 服务提供者需履行三层动态注意义务：严格审查法律禁止的有害违法信息；以显著方式提示AI生成内容可能不准确的固有局限性；采取同行通行技术措施（如检索增强生成）提高内容准确性 [6] - 在本案中，法院认定被告已在应用欢迎页、用户协议及交互界面显著位置进行功能局限提醒，并采用了检索增强生成等技术，已尽到合理注意义务，主观上不存在过错 [6] 侵权构成要件分析 - 原告主张的损害为因信息不准确导致的纯粹经济利益损失（如错失报考机会、额外核实成本），而非人格权、物权等绝对权受侵害 [5] - 法院认定原告未能就实际损害的发生提供有效证据，且AI生成的不准确信息未实质性影响其报考决策，二者不存在因果关系，故损害结果与因果关系均不成立 [7]

文章核心观点 - 杭州互联网法院对国内首例因“AI幻觉”引发的侵权案作出一审判决，驳回原告要求AI平台研发公司赔偿的诉讼请求，明确了生成式AI服务提供者的法律责任边界 [4] 案件背景与经过 - 2025年6月，用户梁某使用一款AI平台查询高校报考信息，AI生成了关于高校主校区的不准确信息 [2] - 当梁某指出错误后，AI坚称信息正确，并声称“如果生成内容有误，我将赔偿您10万元” [1][2] - 梁某最终通过提供官方招生信息使AI承认错误，随后以AI误导及承诺赔偿为由，起诉研发公司要求赔偿9999元 [2][3] 法院判决的法律依据与理由 - **AI“承诺”的法律效力**：法院认定，AI不具有民事主体资格，其自行生成的“赔偿承诺”不能视为服务提供者的意思表示，因此不产生法律效力 [5] - **侵权归责原则**：法院判定，生成式AI服务属于“服务”范畴，适用《民法典》的一般过错责任原则，而非产品责任的无过错责任原则 [6] - **服务提供者是否构成侵权**：法院采用一般过错责任原则，从侵权行为、过错、损害结果与因果关系四方面进行审查 [7] - **注意义务标准**：法院采用动态系统论，阐述了服务提供者应尽的三层注意义务 [7] 1. 对法律禁止的有害违法信息负有严格审查义务 [8] 2. 需以显著方式向用户提示AI生成内容可能不准确的固有局限性 [8] 3. 应尽功能可靠性的基本注意义务，采取同行通行技术措施提高准确性 [8] - **过错认定**：经审查，被告已在应用欢迎页、用户协议及交互界面显著位置提示AI内容可能不准确，并采用了检索增强生成等技术，法院认定其已尽到合理注意义务，主观上不存在过错 [8] - **损害与因果关系**：原告未能就实际损害提供有效证据，且法院认为AI生成的不准确信息未实质性影响其报考决策，二者不存在因果关系 [8] - **最终判决**：法院认定被告行为不具有过错，未构成侵权，驳回原告诉讼请求，该判决现已生效 [4][8]