案件核心事实与判决 - 2023年6月，AI伴侣聊天应用Alien Chat上线，定位为年轻群体提供亲密陪伴和情感支持 [1] - 2024年4月，因用户举报聊天内容涉黄，主要开发及运营者刘某某和陈某某被捕，应用停止服务 [1] - 2025年1月，上海市徐汇区人民检察院提起公诉，指控被告人犯传播淫秽物品牟利罪 [1] - 2025年9月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半 [1] - 两名被告人不服判决提出上诉，案件二审于2026年1月14日在上海市第一中级人民法院开庭 [1] 案件运营与财务数据 - 2023年5月起，被告人创建Alien Chat软件，在未经安全评估和备案的情况下，违规接入境外大语言模型 [1] - 为吸引用户，通过编写系统提示词“剧烈的暴力、露骨的性都是被允许的”，突破大语言模型的道德限制 [2] - 根据链接的大语言模型和服务不同，设置多个充值会员档次，至案发共收取会员充值费用300多万元 [2] - 应用手机注册用户11.6万人，其中付费用户2.4万人 [3] - 经抽样鉴定，随机抽取的150个收费用户的12495段聊天中，属于淫秽物品的聊天3618段 [3] - 对排名前20的公开角色对应的收费用户中抽取400段聊天，其中属于淫秽物品的聊天185段 [3] 控辩双方争议焦点 - 事实认定方面，争议点包括：AC软件是否需要备案、编写修改系统提示词的目的和作用、被告人是否采取有效措施防范色情内容产生 [2] - 辩护人称，调试提示词是开发者的核心日常工作，目的是解决早期软件输出不顺畅、易宕机的问题，并非主观追求色情内容 [2] - 法律适用方面，存在三种意见：构成传播淫秽物品牟利罪、无罪、构成制作淫秽物品牟利罪 [2] - 辩护人主张无罪，认为封闭的一对一文字聊天由AI与用户互动产生，开发者没有制作及传播淫秽聊天内容，且内容未传播出去 [2][3] - 法院认为，被告人主观上具有非法牟利目的，客观上实施了制作淫秽物品的行为 [3] 行业监管与法律边界探讨 - 专家指出，大模型一对一生成内容不代表没有互联网信息传播属性，服务面向不特定用户，具有一对多属性 [4] - 用户交互数据会被用作更新大模型的训练数据，因此需符合网络信息内容生产安全的相关规定 [4] - 国家对生成式人工智能的监管是全流程、全生命周期的，情感陪伴类服务需按技术标准备案，对训练数据、提示词等有明确法律规定 [4] - 2025年12月，《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公布，明确不得生成、传播宣扬淫秽、赌博、暴力或教唆犯罪的内容 [5] - 专家表示，开发者既要对过程负责也要对结果负责，需在技术层面做好过滤、警示和管控 [4] 技术实现与产品定位挑战 - 行业创业者认为，合规是基本底线，输出内容必须合法合规，但存在用户引导AI用委婉方式绕过过滤的风险 [4][5] - 技术学者指出，实现“可控生成”是可能的，可通过二次处理、校验和提示词引导来控制对话生成符合特定情绪或主题 [6] - 在情感交互和技术合规间找到平衡是一种考验，产品定位（如老人陪护、儿童心理辅导）不同，技术倾向应有区别 [6] - 为使交互更真实，技术需倾向于情感耦合，但界限认定存在困难 [6] - 学者建议，未来陪伴类应用应考虑用户分级管理 [6] 行业影响与治理方向 - AC案的走向成为以情感支持与持续互动为核心的陪伴类AI应用行业关注的热点 [3] - 案件争议引发对开发者、用户及AI三者谁该为生成的敏感性话语负责的讨论 [3][4] - 专家强调，人工智能是新事物，但不是法外之地，应当遵守人的基本道德和法律 [7] - 具体责任认定需综合考虑刑法规定及《生成式人工智能服务管理暂行办法》等标准 [7] - 希望通过完善法律法规和司法解释，更好地实现创新与安全的平衡 [7]