文章核心观点 - 国内首例因AI"幻觉"引发的侵权案件一审判决驳回原告诉讼请求 法院认定AI生成内容不属于法律意义上的意思表示 AI平台运营方不承担"绝对责任" 但需承担"治理责任"与"合理注意义务" 判决传递出"鼓励负责任创新、反对无限责任"的信号 旨在建立"可控、可追责的治理结构" [1][2] 行业责任界定与法律信号 - 生成式AI的输出属于概率生成 并非法律意义上的意思表示 不能将AI模型的每句回答简单转化为具有法律效力的承诺 [1] - AI运营和服务平台无需为AI"幻觉"承担"绝对责任" 但需承担"治理责任"与"合理注意义务" 责任从"结果担保"转向"风险控制" [2] - 法院以过错责任为主轴划定责任边界 重点审查服务提供者是否履行提示、纠错、标识与安全评估义务 [2] - 此次判决传递出"鼓励负责任创新、反对无限责任"的信号 既不放任AI进入"法外之地" 也不过度扩张法律责任抑制产业发展 [2] AI"幻觉"的潜在风险 - AI"幻觉"指大模型生成内容与真实信息不一致的现象 已成为AI使用过程中的重要潜在风险 [1][3] - 风险等级取决于实际应用场景 目前问题主要集中在文字内容 但随着大模型普及 其生成物将扩展至软件、算法、程序甚至决策信号 影响力与日俱增 [3] - 若错误结果被不加识别地用于法院判决、医疗诊断、自动驾驶等场景 可能造成严重后果 [3] - 近期国外有诉讼指控AI聊天机器人Grok输出损伤原告公信力的不实答案 表明此类案例并非孤例 [3] AI"幻觉"的治理与发展路径 - 在当前技术发展阶段 AI"幻觉"或许难以避免 需探索与之共处的治理之道 [4] - "幻觉"问题与信息茧房、大数据"杀熟"等问题类似 自古存在但被信息技术赋予了现代意义 应辩证、全面地看待 不应归罪于AI技术本身 [4] - 不应因噎废食 正因AI技术存在包括"幻觉"等不成熟问题 才需更多地使用和训练它 使其变得更加成熟以更好地服务人类 [4] - 在此次案件中 研发公司已采取当前技术条件下的必要措施以减少AI"幻觉"发生 并履行了提示说明义务 因此法院驳回诉讼请求 [2]