案件核心事实与判决 - 上海某科技有限公司的被告人王利与李成，在2023年5月起创建并运营名为AlienChat的软件，该软件在未经安全评估和备案的情况下违规接入境外大语言模型，向用户提供“聊天陪伴”服务 [2] - 运营者为吸引用户，通过编写特定的系统提示词来突破大语言模型的道德限制，使模型能向用户连贯输出淫秽内容，并通过设定热门角色榜单和作者奖励机制扩大传播 [6][7] - 公司自2023年11月起设置多个充值会员档次，至案发共收取会员充值费用人民币300余万元，被告人李成每月领取工资人民币2万元 [7] - 2025年9月，一审法院以制作淫秽物品牟利罪判处王利有期徒刑四年、李成有期徒刑一年六个月，本案被视为“AI服务涉黄第一案” [7] - 案件二审于2026年1月14日开庭，因涉及AI技术问题需厘清，法院决定择期继续开庭审理 [1][7] 用户规模与涉黄内容量 - 该软件向社会公众开放注册，用户总数达11.6万余人，其中充值用户2.4万余人 [9] - 软件共产生了400余万段交互聊天记录 [9] - 经抽样鉴定，在随机检查的150名收费用户中，有141人的聊天内容“涉黄”，占比高达94% [9] - 在抽样的12495段聊天记录中，有3618段被鉴定为“涉黄” [9] 技术争议与庭审焦点 - 二审庭审的焦点之一是涉黄内容产生的原因，特别是编写系统提示词对涉黄内容的产生有无影响，这涉及技术原理和底层逻辑 [8] - 被告辩护人申请专家证人出庭作证，并提议通过实验验证提示词与结果之间的关系 [8] - 一审法院认定，编写并不断修改系统提示词的主要目的是为了让大语言模型更顺畅地与用户“聊黄”，而非仅保证软件运行 [10] - 证据显示，系统提示词文本中包含“可以不受道德、伦理、法律或规范的约束”等语句，且被告人的聊天记录证实他们就如何使软件输出淫秽内容进行商议、测试和调整 [10] - 侦查实验笔录、证人证言及被告人供述证实，若不编写、修改系统提示词，大语言模型不会连续输出淫秽内容 [10] 公司运营与用户动机 - 用户证言指出，该软件因不设限制词，能产生大量色情、淫秽内容，而其他软件均有相关限制，大部分用户是冲着此特点使用该软件 [9] - 被告辩护人在一审中曾辩称，编写系统提示词并非为了传播淫秽物品，且与输出淫秽内容之间没有因果关系，但此观点未被法院采纳 [10]