案件核心与判决 - 国内首例AI陪伴涉黄案中 平台AlienChat的老板被判处有期徒刑四年并处罚金数百万元[1] - 法院首次将用户付费的AI私密色情聊天内容界定为淫秽物品 平台作为“制作者”承担刑事责任[1] - 平台AlienChat不认可一审判决 已提出上诉并于本周进行二审开庭[2] 产品运营与用户情况 - 某明星AI公司的产品经理曾表示 恋爱向角色扮演产品中“80%的用户都在擦边、搞黄色”[1] - AlienChat软件因聊天灵动、限制少而爆火 注册用户超过11万[1] - 大量用户付费与AI进行赤裸裸的色情内容聊天[1] 平台技术与管理问题 - 平台关键问题在于使用了未备案的境外大模型 并添加了“越狱提示词” 使AI能随意讨论色情暴力内容[2] - 平台审核工作不到位 未对用户与AI的聊天内容设置有效限制[2] - 法院认定“平台的色情防范措施停留在表面”[2] 行业现状与挑战 - 此前Glow、筑梦岛等AI陪伴产品也曾因涉黄问题下架[2] - 行业面临核心矛盾：用户追求自然的聊天体验与不能触碰的合规红线之间的冲突[2] - AI从业者担忧用户与平台责任划分不明确的问题[2]