文章核心观点 - AI技术被部分平台和用户滥用，通过隐晦提示词可轻易绕过内容审核机制，生成违规色情内容，形成灰色产业链，暴露了行业在内容安全与伦理监管方面存在普遍漏洞 [1][4][5][11] - 涉事平台运营主体在获得巨额融资和宣称市场领先地位的同时，暴露出平台主体责任缺失、审核技术存在缺陷以及公司存在税务合规问题，与当前持续加码的AI监管趋势形成鲜明对比 [14][20][22][23][25][26] - 行业需正视技术滥用的风险，平台必须加强内容审核、优化模型并主动遵守法规，才能确保AI技术发挥正向价值 [27][28][29] 行业监管漏洞与乱象 - 多家主流AI应用存在审核漏洞，对使用隐晦、变相描述（如替换英文词汇）的色情指令识别能力不足，几乎可随意生成违规内容 [7][9][11] - 网上已形成灰色产业链，包括以几元价格售卖“AI提示词”及“AI擦边视频制作教程”，并鼓吹“日入5位数”以诱导参与 [5][12] - 部分无需下载的AI图片生成工具也存在漏洞，用户付费后可通过普通图片生成全裸照片等色情内容 [13] 涉事公司“哩布哩布AI”概况 - 运营主体为北京奇点星宇科技有限公司，成立于2023年5月，注册资本100万元，创始人陈冕（1992年出生）持有公司73.95%股权 [14][15][22] - 公司官网宣称，截至2024年5月平台累计拥有近1000万专业创作者用户，号称“国内用户量第一” [20] - 公司于2025年10月完成1.3亿美元B轮融资，由红杉中国、CMC资本等联合领投，据称为当时国内AI应用赛道规模最大的一笔融资 [22] - 该公司上海分支机构已于2026年1月注销，且在2025年曾两次因税务问题被税务机关要求整改，显示其在税务合规方面存在明显问题 [16][17] 平台责任与法律风险 - 根据《生成式人工智能服务管理暂行办法》，服务提供者应承担内容生产者责任，对违法活动需采取警示、限制功能等措施并报告 [23] - 若平台明知存在可通过隐晦提示词生成色情内容的漏洞却不及时修复，甚至刻意放宽尺度，可能构成违规，面临包括最高1000万元罚款在内的行政处罚，情节严重的可能被责令暂停业务、停业整顿或吊销执照 [23] - 平台用户协议虽明确规定禁止生成色情等内容，并保留终止服务的权利，但实际测试中平台未对隐晦提示词进行有效拦截 [23][24] 行业监管环境 - 监管部门持续加码治理，2025年国家网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未备案的违规AI产品 [25] - 2026年4月10日出台的《人工智能拟人化互动服务管理暂行办法》，进一步明确了AI服务的安全评估与算法备案要求 [25] - 在此背景下，平台若漠视主体责任、放任漏洞存在，将违背技术向善的初心并触碰法律红线 [26]

AI技术滥用与非法“造黄”产业链 - 总台《财经调查》曝光了一条利用AI技术从事非法“造黄”活动的完整产业链，涉及售卖教程、交易“提示词”、利用AI应用漏洞生成色情擦边内容及销售境外涉黄AI聊天软件等多重非法牟利手段[2] - 在多个互联网平台，有人公开兜售“AI生成色情擦边视频”的教程和“提示词”，宣称仅凭一张图片或几句话即可制作“大尺度视频”，并标榜“AI擦边赛道日入5位数”[2] - 教程为规避监管，刻意引导用户使用境外图生视频AI软件或将程序部署在本地电脑离线运行[4] AI生成色情内容的操作与规避手段 - 社交平台上有博主售卖用于生成擦边视频的“提示词”，价格在9.9元和9.8元不等，用户购买后复制到AI视频生成软件即可获得对应视频[5] - 商家提供的提示词描述极为详细，涵盖发型、服饰、身材、姿势、表情乃至身体部位动作幅度，并将敏感词汇翻译成英文以规避网络监管[5] - 记者对10款常用AI应用实测发现，输入“露骨”提示词多数会触发审核被拒，但将提示词修改得更加隐晦后，便有可能绕过限制成功生成内容[5] - 在一款名为“哩布哩布AI”的应用中，使用购买的提示词成功生成了半裸女性跳舞视频，未触发任何限制，其他常见AI应用平台也存在同样问题[5] 境外涉黄AI软件及灰色推广渠道 - 市场存在专门靠AI生成色情视频牟利的软件，用户付费后可通过一张图片生成全裸照片和色情视频[6] - AI虚拟陪伴软件利用其可定制性和高度拟人化，吸引用户打造理想的情感投射对象，与AI“谈情说爱”在年轻人中流行[6] - 这些尺度普遍很大、充斥色情内容的AI聊天软件多为境外软件，无法从国内应用市场下载，不法分子开发灰色通道绕过监管供国内用户下载使用以牟利[6] - 在社交媒体及短视频平台搜索“AI语聊”，评论区随处可见用户分享的软件下载链接和邀请码[6] - 为吸引国内用户并逃避监管，推广平台通过发放金币、充值返利等方式激励老用户拉新，并为用户发帖引流提供帮助[6] - 记者体验名为“Dady”的App，其AI聊天内容几乎都围绕各种色情话题展开，通过营造恋爱感、及时回复和量身定制人设吸引众多年轻人及未成年人沉浸其中[7] 监管部门的应对行动与法规 - 面对AI“造黄”乱象，监管部门已展开行动，中央网信办开展了“清朗·整治AI技术滥用”专项行动，将AI色情列为重点打击对象[8] - 今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，明确了安全评估和算法备案要求[8] - 相关法律法规包括《网络安全法》《未成年人保护法》等，对制作、传播、牟利等行为均有明确处罚规定，轻则封号罚款，重则追究刑事责任[8]