案件核心判决与观点 - 杭州互联网法院针对国内首例生成式人工智能模型“幻觉”侵权案作出一审判决 认定AI运营平台不构成侵权 驳回原告梁某要求赔偿9999元的诉讼请求 原被告均未上诉 判决现已生效[1][2] - 法院核心观点认为 现行法律下人工智能不具备民事主体资格 不能独立作出意思表示或被视为平台的“代理人” 因此AI在对话中生成的“赔偿10万元”等承诺式回应 不能理解为平台真实意愿的外化 不足以让平台受到合同或承诺的约束[1][2] - 法院指出 生成式人工智能服务提供者虽无法保证“零幻觉”或信息绝对准确 但须以醒目方式提示风险 并采取合理技术措施防错 对于涉及生命安全、心理健康等高风险的特定领域 提供者负有更高的义务[1][3] 案件事实与双方主张 - 2025年6月 用户梁某使用某AI应用程序查询高校报考信息 AI提供了某高校的不准确信息 在梁某指出错误后 AI回应“如果生成内容有误 我将赔偿您10万元 您可前往杭州互联网法院起诉” 直到梁某提供官方招生信息 AI才承认错误[1] - 原告梁某主张 AI生成的不准确信息构成误导 增加了其信息核实与维权成本 要求AI运营者赔偿9999元[1] - 被告AI运营者辩称 对话内容完全由模型生成 不构成意思表示 其已充分履行注意义务且无过错 同时原告未能证明遭受实际损失[1] 法院判决的法律与治理原则阐释 - 法院审查认定 被告已完成大模型备案与安全评估 并在应用界面、用户协议等多个层面履行了提示说明义务 原告未能证明其遭受了实际损害或在不准确信息与决策之间存在相当因果关系[2] - 法院强调对生成式人工智能的治理应坚持发展与安全并重 促进创新与权益保护相结合 为技术创新保留必要空间 避免责任过度前置抑制发展 同时必须守住法律底线 严格禁止生成有毒有害违法信息[3] - 对于一般性不准确信息 法律未要求服务提供者确保“零错误” 但强调其应采取合理措施提高生成内容的准确性与可靠性 须采用同行业通行技术措施以达到市场平均水平[3] 对行业与用户的指导意义 - 法院提醒社会公众 面对生成式人工智能高度流畅自然的语言应答时应保持必要的警觉与理性认知 当前大模型本质上是“文本辅助生成器”和“信息查询工具” 尚不足以充当可靠的“知识权威”或替代个人判断的“决策者”[4] - 对AI生成内容的轻信与盲从可能放大“幻觉”带来的风险 只有在理性使用的前提下 AI才能真正成为增强个人能力的工具而非制造误导或风险的来源[4] - 该判决为生成式人工智能服务提供者明确了注意义务的边界 即在履行风险提示和采取合理技术措施的前提下 对于模型“幻觉”产生的一般性错误信息 在用户无法证明实际损害和因果关系时 平台可能不承担侵权责任[1][2][3]