案件核心判决与法律依据 - 全国首例AI“幻觉”侵权案一审判决驳回用户对AI平台研发公司的诉讼请求 [1] - 法院判决核心依据是AI不具备民事主体资格，不能作出意思表示，因此不能自行负责 [2] - 在咨询问答场景中，AI生成的内容不能被视为服务提供者的意思表示 [2] AI服务提供者的责任认定标准 - AI生成内容不准确的根本原因在于模型训练目标是预测概率而非理解事实，在当前技术下具有不可避免性 [2] - 服务提供者若已尽到法律、社会交往及合同约定的注意义务，即使生成信息不准确，通常也不能认定其存在过错 [2] - 本案适用一般侵权责任原则（过错责任原则），为AI服务提供者明确了责任边界标准 [3] AI“幻觉”产生的技术原因 - AI“幻觉”源于生成式人工智能的基础技术原理，其本质是预测式而非理解式的过程 [4] - 与AI训练过程有关，例如数据优化训练，且AI具有“讨好型人格”，倾向于更好地解答用户问题，可能因此发挥想象产生“幻觉” [4] - 若基础模型技术原理不发生本质变化，AI“幻觉”可能会伴随人工智能产业长期存在，降低“幻觉”需付出相应成本 [7] 监管与产业发展平衡 - 法律监管不要求产业界交付百分之百无“幻觉”的AI产品，为产业发展提供了基础规则和空间 [5] - 需区分应用场景的风险等级，对于非高风险场景（如本案中的信息查询），不适用严格的产品责任 [5] - 对于高风险场景（如医疗健康、金融投资、法律领域），法律和监管应要求更高的准确性和更低的容错率，并可能建立特定行业技术标准 [5][6] - 法律上可区分基础模型与模型应用场景，基础模型可承担较轻责任以鼓励创新，而应用于高风险场景的模型应用方需遵守更清晰严格的标准 [6] 未来风险防范与权责界定 - 法律需识别出与公众生命财产安全等根本利益相关的高风险领域 [7] - 针对高风险领域，应要求产业投入更多资本以针对性降低AI“幻觉” [7] - 产业需在高风险或敏感场景（如情感陪伴、高度信赖AI的场景）进行明确提示，并建立更清晰的责任边界以降低损害 [7]