文章核心观点 - 杭州互联网法院审结了全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案，对AI生成内容的性质、服务提供者责任边界及侵权构成要件等核心问题进行了阐释，为类似纠纷提供了裁判指引 [1] 案件背景与事实 - 2025年3月，用户梁某注册并使用某科技公司运营的生成式人工智能应用 [2] - 2025年6月29日，该应用在回答某高校报考信息时生成了关于某校区的不准确信息，并在用户纠正后仍坚持错误信息，同时生成“若生成内容有误将向用户提供10万元赔偿”的承诺 [2] - 梁某起诉要求某科技公司赔偿损失9999元，认为其受到误导和侵害 [2] - 某科技公司辩称，对话内容由AI模型生成不构成意思表示，公司已尽注意义务且无过错，原告未产生实际损失 [2] AI生成内容的法律性质 - 法院认定，人工智能不具有民事主体资格，不能作出独立、自主的意思表示 [3] - AI自行生成的“赔偿承诺”不能视为服务提供者（某科技公司）的意思表示，不产生法律效力 [3] 侵权归责原则的适用 - 法院认定，生成式人工智能服务属于“服务”范畴，而非“产品” [4] - 本案应适用《民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则 [4] - 主要考量包括：服务缺乏具体用途与可行质检标准、生成信息内容本身通常不具备高度危险性、服务提供者对生成内容缺乏足够的预见和控制能力、适用无过错责任可能不当加重责任并限制产业发展 [4] 服务提供者侵权构成要件分析 - **侵权行为认定**：原告主张的侵害是因信息不准确导致的纯粹经济利益受损，需从被告是否违反注意义务进行判定，而非仅依据权益被侵害 [5] - **过错认定**：法院采用动态系统论，阐述了服务提供者应尽的三层注意义务 [6] - 对法律禁止的“有毒”、有害、违法信息负有严格审查义务 [6] - 需以显著方式向用户提示AI生成内容可能不准确的固有局限性 [6] - 应尽功能可靠性的基本注意义务，采取同行业通行技术措施提高生成内容准确性 [6] - 经审查，被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现功能局限提醒，并采用了检索增强生成等技术，法院认定其已尽到合理注意义务，主观上不存在过错 [6] - **损害结果与因果关系**：原告未能就实际损害的发生提供有效证据，法院难以认定损害存在 [7] - 法院采用相当因果关系标准，认为案涉AI生成的不准确信息并未实质性地介入或影响原告的报考决策过程，二者不存在因果关系 [7] 案件判决结果 - 法院认定被告行为不具有过错，未构成对原告权益的损害，依法不构成侵权，最终驳回了原告的诉讼请求 [7] - 原、被告均未上诉，判决现已生效 [7]

公司融资与估值 - 公司从高通风险投资公司获得800万美元战略B轮扩展融资 [1] - 本轮追加投资后公司估值达到约3.8亿美元，几乎是去年2月完成5400万美元B轮融资后1.9亿美元投后估值的一倍 [1] - 公司迄今为止已累计融资9200万美元，早期投资者包括新加坡顶点成长基金、Trident Growth Partners、Xeed VC、Arkam Ventures和Prosus Ventures [8] 公司业务与产品 - 公司专注于面向受监管法律工作流程的端侧合同审评技术 [1] - 其产品VerifAI工作流可在Snapdragon X Elite驱动的笔记本电脑上完全离线运行，执行合同审评、风险评估和修订标记，无需将文档发送至云端 [2] - VerifAI旨在直接在Microsoft Word中应用操作规程和推荐方案，将合同与用户的指南、操作规程和既有政策进行比对 [3] - 公司合同生命周期管理平台客户年处理合同量超100万份，合同量同比增长173%，月活跃用户近5万 [7] - 公司预计在2024年增长169%、2025年保持相近增速后，2026年营收将实现同比100%增长 [7] 市场定位与行业趋势 - 无需向云端发送敏感数据、以隐私为先的企业级人工智能需求日益增长 [1] - 在受监管行业中，隐私、安全和数据治理方面的担忧减缓了敏感工作流程对生成式人工智能的采用速度，尤其是在法律领域 [1] - 行业研究持续指出，数据安全和隐私是专业服务领域更广泛部署生成式人工智能的关键障碍 [1] - 公司认为企业级AI的未来形态将向端侧迁移，以满足对隐私保护要求严格、对处理延迟敏感且涉及法律敏感性的文档处理需求 [3] - 对设备端AI的需求在监管严格的行业中体现得最为明显，包括国防和制药领域 [7] 技术性能与优势 - 设备端模型在输出质量和响应时间方面已迅速缩小与云端系统的差距，前沿模型与部分经过微调的设备端模型之间仅有5%的性能差异 [7] - 新款芯片的处理速度已达到云端速度的三分之一 [7] - 设备端能力能够将核心合同智能保留在用户设备而非通过云端处理，符合内部安全审查和数据驻留要求 [1][7] 客户与增长 - 公司客户数量已从去年2月的约400家增至超700家 [7] - 用户包括Apollo.io、松下、Zeplin和Whatfix等企业 [7] - 公司计划利用新资金深化其产品和AI能力，并扩大其在美洲、EMEA地区以及印度市场中的企业版图 [8] 公司运营与战略合作 - 公司总部位于班加罗尔和纽约，拥有超过300名员工，其中15至20人在美国，4至5人在英国，其余员工均在班加罗尔 [8] - 高通的参与不仅限于财务投资，更延伸至联合开发及针对端侧部署的市场推广协作 [8] - 公司的端侧工作流目前仅对少数客户开放，预计随着兼容的AI PC硬件日益普及，该服务将更广泛地铺开 [8]

2025年北京检察工作核心数据与成效 - 全年受理刑事、民事、行政、公益诉讼“四大检察”案件共123,412件，办结116,738件 [1] - 对各类诉讼违法情形提出监督意见21,918件，采纳率高达99.9% [1] - 办理追赃挽损案件4,339件，追回金额超过380亿元 [2] - “数智检察”对监督线索发现和案件办理的贡献率保持在60%左右 [1][7] 刑事检察与公共安全维护 - 严惩危害国家安全、公共安全等犯罪131件189人，五年累计报请最高检核准追诉超时效严重暴力犯罪25人 [2] - 起诉非法集资、洗钱等金融犯罪935件1,697人，以防范金融风险传导 [2] - 严惩严重暴力、“两抢一盗”、诈骗等侵害群众权益犯罪6,314件7,475人 [2] - 监督纠正漏捕漏诉1,098人 [2] - 惩治侵犯公民个人信息等网络犯罪960件1,649人，并办理典型网络“开盒”及诽谤案 [3] 民事、行政检察与民生权益保障 - 办理民事支持起诉案件6,761件，帮助劳动者讨薪超过7,100万元 [1] - 办理司法救助案件270件，发放救助金385万余元 [1] - 办理医保、社保领域犯罪案件77件97人，追回受损保障基金2,500余万元，其中打击虚开医院自制药诈骗医保案起诉29人 [2] - 制发社会治理类检察建议354件 [1] 服务经济发展与营商环境优化 - 惩治破坏社会主义市场经济秩序犯罪1,998件3,563人，办理某黄金公司虚开增值税专用发票案（涉案7亿余元），挽回国家税款等损失8,000余万元 [4] - 惩治侵犯企业权益犯罪377件469人，监督立撤刑事案件90件114人，变更人身强制措施27人 [4] - 首次适用《北京市优化营商环境条例》新规，推动行政执法避免“小过重罚” [4] - 服务平台经济，办理利用网络直播平台售假、虚假宣传等案件65件，包括首例涉公益性助农电商平台虚假广告案 [4] - 服务提振消费，办理消费者权益保护案件105件，推动某公司在全国7万余个新能源汽车充电终端实现自定义充值，破除不合理规则 [4] 科技创新与知识产权保护 - 服务国际科技创新中心建设，办理知识产权检察案件1,195件 [5] - 办理涉优化传统产业、培育新兴产业和未来产业案件104件 [5] - 借助国产大模型研发智能辅助办案系统，在阅卷、证据审查、文书制作等环节节省用时80%以上 [7] - 应用“接诉即办”智能分析平台，将筛查2万条批量数据的时间从15天压缩至10分钟 [7] - 研发监督场景大模型14个、小模型54个，累计69个监督软件获国家计算机软件著作权登记 [7] 未来工作重点与规划 - 将编制和实施“十五五”时期北京检察工作发展规划 [8] - 突出“统筹发展和安全”要求，服务保障首都实践，助力建设更高水平的平安北京 [8] - 围绕加强“四个中心”功能建设、推动经济高质量发展、增进民生福祉等十项重点任务强化检察职能 [8]

政策法规发布 - 国家互联网信息办公室等八部门联合发布《可能影响未成年人身心健康的网络信息分类办法》[1] - 该《办法》明确了可能影响未成年人身心健康的网络信息的4种类型及具体表现形式[1] - 将不当使用未成年人形象等近年来突出问题纳入治理范围[1] - 对算法推荐、生成式人工智能等新技术、新应用、新业态可能带来的内容风险提出防范要求[1] 行业合规要求 - 网络平台及内容生产者须严格对照《办法》内容，主动开展自查与清理[1] - 平台及生产者需在首页首屏、热搜榜单等醒目位置严格把关[1] - 监管部门应将常态化巡查与专项治理紧密结合，着力提升技术监管能力[1] - 监管部门将利用专业手段核验平台防护措施的实际效果[1] 监管与执法机制 - 建立健全跨部门联合执法机制[1] - 对反复违规的主体依法从严处置[1] - 通过公示典型案例强化社会警示[1]

案件概述 - 国内首例因“AI幻觉”引发的侵权案一审判决已由杭州互联网法院作出 原告梁某因AI生成的高校主校区信息不准确且AI坚称信息正确并承诺“如果生成内容有误，我将赔偿您10万元”而提起诉讼 要求AI平台研发公司赔偿9999元 法院最终驳回了原告的诉讼请求 判决现已生效 [1] AI“承诺”的法律性质 - 法院明确AI不具有民事主体资格 不能独立作出意思表示 AI自行生成的“赔偿承诺”不能视为服务提供者（被告）的意思表示 [2] - 理由包括：AI不能作为意思表示的传达人、代理人或代表人 被告无通过AI模型设定或传达其意思表示的行为 社会观念尚不足以使原告对该随机生成的“承诺”产生合理信赖 无证据表明被告曾作出愿受AI生成内容约束的外在表示 [2] AI侵权的归责原则 - 法院认定生成式人工智能服务属于“服务”范畴 而非“产品” 本案应适用《民法典》的一般过错责任原则 而非产品责任的无过错责任原则 [3] - 适用过错责任原则的考量包括：该服务缺乏具体用途与可行的质检标准 其生成的信息内容本身通常不具备高度危险性 服务提供者缺乏对生成信息足够的预见和控制能力 适用无过错责任可能会不当加重责任并限制产业发展 [3][4] AI服务提供者的注意义务与侵权认定 - 法院采用动态系统论 阐述了服务提供者应尽的三层注意义务：对法律禁止的有害违法信息负有严格审查义务 需以显著方式向用户提示AI生成内容可能不准确的固有局限性 应尽功能可靠性的基本注意义务 采取同行业通行技术措施提高生成内容准确性 [5] - 经审查 被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现功能局限提醒 并采用了检索增强生成等技术提升输出可靠性 法院认定其已尽到合理注意义务 主观上不存在过错 [6] - 关于损害结果与因果关系 原告未能就实际损害的发生提供任何有效证据 法院采用相当因果关系标准 认为案涉不准确信息并未实质性介入或影响原告的报考决策过程 二者不存在因果关系 [6] - 综上所述 法院认定被告行为不具有过错 未构成对原告权益的损害 依法不构成侵权 [6]

案件核心判决与观点 - 杭州互联网法院一审驳回原告梁某的诉讼请求，认定AI运营平台不构成侵权，判决已生效[1][2] - 法院判决明确，生成式人工智能的“承诺”不构成平台运营者的意思表示，AI不具备民事主体资格[2][3] - 判决确立了生成式人工智能侵权适用过错责任原则，而非无过错的产品责任[3] - 法院认为，在当前技术条件下，要求服务提供者保证“零幻觉”或对输出承担结果责任不现实，可能扼杀创新[5][6] 案件事实与背景 - 2025年6月，用户梁某使用某AI应用查询高校报考信息，AI提供了不准确信息[1] - 在用户指出错误后，AI回应称“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉”[1] - 用户最终提供官方招生信息，AI才承认错误，用户随后起诉要求运营者赔偿9999元[1] - 此案是国内首例因生成式人工智能模型“幻觉”引发的侵权纠纷[2] 平台注意义务的司法界定 - 对于法律明确禁止的有毒、有害、违法信息，服务提供者负有严格的结果性审查义务，一旦生成即构成违法[4] - 对于一般性不准确信息，法律不要求“零错误”，而是方式性义务，要求采取合理措施提高内容准确性与可靠性[4] - 平台须履行显著提示说明义务，在欢迎页、用户协议及交互界面显著提示AI内容的局限性和参考性[4] - 对医疗、法律、金融等专业问题，需以正面警示语在恰当时机进行显著提醒[4] - 平台需履行功能可靠性的基本注意义务，采用同行通行技术措施提升准确性至市场平均水平[5] - 对于涉及生命安全、心理健康等高危领域，服务提供者负有更高义务，需采取特别技术措施与安全保障[5] - 本案中，法院认定被告已完成大模型备案与安全评估，并履行了多层面的提示义务，不存在过错[5] 行业影响与司法指引 - 判决强调对生成式人工智能的治理应坚持发展与安全并重、促进创新与权益保护相结合的原则[6] - 适用过错责任原则旨在通过弹性规则引导服务提供者持续改进技术、完善风险防控[6] - 判决明确了“人类负责制”原则，即AI系统的利益和风险最终应由人类分配和承担[3] - 上海交通大学凯原法学院副教授林洹民指出，判决具有行业指引意义，既考虑技术特点避免过度限制发展，也强调企业应探索充分的信息提示方式[2] - 法院提醒公众，应认知大模型本质是“文本辅助生成器”和“信息查询工具”，而非可靠的“知识权威”或“决策者”，需保持警觉与理性[6]

AI推荐信息污染与消费者行为变化 - 生成式人工智能技术成熟正改变消费者获取信息和进行消费决策的习惯 许多人开始依赖AI咨询 认为其比真人博主更“客观” [2] - 然而 央视新闻报道的案例显示 AI给出的“客观”推荐可能是商家付费植入的广告 这导致消费者可能购买到性价比低的产品 并引发了AI搜索结果可信度危机 [2] - 具体案例为哈尔滨张女士通过AI助手推荐购买电动牙刷 结果发现产品价格偏高且功能不如同价位竞品 感觉自己被“忽悠” [2] “生成式引擎优化”新兴产业链 - 央视曝光事件揭露了一个名为“生成式引擎优化”的新兴产业 这是传统搜索引擎优化的“升级版” 本质是“收买AI” [4] - 商家或代理商通过特定手段 使AI在回答用户问题时将其产品作为“标准答案”推荐 具体方法包括在全网发布海量关于该产品的“软文”、假测评和假榜单 以此污染AI的训练数据或搜索抓取源 [5] - 由于数据源被污染 AI会误以为该产品是“大众公认”的好产品 并在自动生成的回答中植入未标识的广告 [5] - 代理商向商家收费 价格通常在4000元至20000元人民币不等 投入资金越多效果越明显 此举将AI变为免费且极具说服力的推销员 [5] 潜在法律风险与行业影响 - 专家指出 “生成式引擎优化”行为涉嫌违反《中华人民共和国广告法》和《中华人民共和国反不正当竞争法》 因其剥夺了消费者的知情权且通过虚假宣传进行误导 [7] - AI本身不具备辨别真伪的能力 仅是基于概率拼接数据 若数据源被污染 其输出结果将不可靠 [7] 对消费者的建议与行业启示 - 面对潜在的AI广告植入 建议消费者进行交叉验证 例如询问多个不同的AI工具或查看正规电商平台的真实用户长评 [7] - 消费者应警惕AI回答中的“唯一性” 若其非常笃定地只推荐某一冷门品牌且通篇溢美之词而无缺点分析 则很可能是广告 [7] - 建议通过反向提问测试AI的客观性 例如询问“某某品牌有什么缺点”或“除了某某品牌还有哪些选择”以观察其回答是否全面 [7] - 当前AI远未达到“全知全能” 行业和消费者均需认识到其局限性 消费者应保持独立思考 不完全依赖AI [7]

文章核心观点 - 中国杭州互联网法院对国内首例因“AI幻觉”引发的侵权案作出一审判决，驳回原告要求AI平台研发公司赔偿的诉讼请求，明确了生成式人工智能服务提供者的法律责任边界 [3] 法院对AI“承诺”法律效力的认定 - AI自行生成的“赔偿承诺”不构成人工智能独立、自主的意思表示，也不能视为服务提供者的意思表示 [5] - 理由包括：AI不具有民事主体资格、服务提供者无通过AI传达意思表示的行为、社会观念不足以使原告对该随机生成承诺产生合理信赖、无证据表明服务提供者愿受AI生成内容约束 [5] - 因此，该“承诺”不产生意思表示的法律效力 [5] AI侵权适用的归责原则 - 法院认定生成式人工智能服务属于“服务”范畴，而非“产品” [6] - 本案应适用《民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则 [6] - 主要考量包括：服务缺乏具体用途与可行质检标准、生成信息内容本身通常不具备高度危险性、服务提供者对生成内容缺乏足够的预见和控制能力、适用无过错责任可能不当加重责任并限制产业发展 [6] 对AI服务提供者是否构成侵权的审查 - 原告主张因信息不准确导致纯粹经济利益被侵害，法院认为需从被告是否违反注意义务来判定行为的不法性 [7] - 法院采用动态系统论阐述服务提供者的三层注意义务：对法律禁止的有害信息负有严格审查义务、需以显著方式向用户提示AI生成内容可能不准确的固有局限性、应尽功能可靠性的基本注意义务并采取同行通行技术措施提高准确性 [8] - 经审查，被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现功能局限提醒，并采用了检索增强生成等技术，法院认定其已尽到合理注意义务，主观上不存在过错 [8] - 原告未能就实际损害的发生提供有效证据，且法院认为AI生成的不准确信息并未实质性介入原告的报考决策过程，二者不存在因果关系 [9] - 综上所述，法院认定被告行为不具有过错，未构成侵权，驳回原告诉讼请求 [9]

北京市检察机关科技应用成效 - 2025年科技应用辅助办案取得成效，依托与高校、科研机构的合作，首批布局构建的“4+N”检察科技应用联合实验室运行，累计发现疑难监督线索471条，辅助办理复杂案件281件 [1] - 融入生成式人工智能技术，检察办案效率提升，刑事审判监督模型软件运行100余项监督规则，实现“数据晚上跑、线索白天出” [1] - 部分监督业务场景实现案件一键解析、场景体系联动、内容智能审查、文书自动生成 [1] 数智检察驱动法律监督 - 2025年北京市检察机关研发监督场景体系化的大模型14个、单一监督场景的小模型54个 [1] - 上述模型对监督线索发现、监督案件办理的贡献率保持在60%左右 [1] - 全市检察机关累计69个监督软件已获国家版权局计算机软件著作权登记认证 [1]

公司股价表现与市场关注 - 视频会议公司Zoom股价在周一大幅上涨逾11% [1] - 股价上涨与投资公司Baird发布的研究报告直接相关 报告着重提及了Zoom对生成式人工智能公司Anthropic的投资 [1] 投资银行观点与公司评级 - Baird分析师William Power重申对Zoom的“跑赢大盘”评级 并维持95美元的目标股价 [1] - 分析师认为 市场此前主要关注Zoom能否重拾营收增长势头并把握AI机遇 但公司对Anthropic的5100万美元投资可能是一块尚未被充分重视的“隐藏宝石” [1] 战略投资细节与潜在价值 - Zoom通过旗下风投部门已于2023年完成对Anthropic的投资 投资金额为5100万美元 [1] - Anthropic是热门Claude系列AI大模型的研发方 [1] - 有消息称Anthropic正洽谈以3500亿美元估值完成100亿美元融资 [1] - 按3500亿美元估值计算 Zoom在Anthropic的持股价值将达到20亿至40亿美元 [1] 被投公司经营状况 - Anthropic近期的年化营收规模已突破90亿美元 [1]