治理“AI幻觉”需平衡创新与责任
新浪财经·2026-01-31 02:44
案件核心判决与法律原则 - 杭州互联网法院对国内首例“AI幻觉”侵权案件作出一审判决,驳回原告诉讼请求 [1] - 法院认定人工智能不具备民事主体资格,其生成内容并非服务提供者的意思表示,不产生法律效力 [1] - 判决确立人工智能侵权纠纷适用一般过错责任原则,而非产品责任中的无过错责任原则 [1] - 适用过错责任原则的主要原因是生成式人工智能服务缺乏固定产品的明确用途与质检标准,服务提供者难以对其输出内容完全预见和控制 [1] 行业影响与治理方向 - “AI幻觉”是指生成式人工智能在缺乏真实依据的情况下,输出看似合理连贯、实则与事实不符的内容 [1] - 当前生成式人工智能加速普及,但受技术原理所限,“AI幻觉”尚未完全解决 [2] - 此次判决为类似纠纷提供了裁判范例,既鼓励人工智能企业在合规基础上大胆创新,也引导公众理性使用人工智能服务 [2] - 未来需持续完善相关法律法规,针对医疗、金融等高危场景细化责任标准,推动构建“企业尽责、公众理性、监管适度”的治理格局 [2] 对技术与应用的认知 - 该案核心争议在于,人工智能生成错误信息并附带“内容有误将赔偿10万元”的承诺,是否构成服务提供者的侵权责任 [1] - 判决提醒行业,人工智能仍是辅助工具而非权威决策依据 [2] - 面对其生成内容,尤其在涉及权益处分、专业判断等领域,仍需多方验证、审慎采信 [2]