文章核心观点 - AI技术被部分平台和用户滥用，通过隐晦提示词可轻易绕过内容审核机制，生成违规色情内容，形成灰色产业链，暴露了行业在内容安全与伦理监管方面存在普遍漏洞 [1][4][5][11] - 涉事平台运营主体在获得巨额融资和宣称市场领先地位的同时，暴露出平台主体责任缺失、审核技术存在缺陷以及公司存在税务合规问题，与当前持续加码的AI监管趋势形成鲜明对比 [14][20][22][23][25][26] - 行业需正视技术滥用的风险，平台必须加强内容审核、优化模型并主动遵守法规，才能确保AI技术发挥正向价值 [27][28][29] 行业监管漏洞与乱象 - 多家主流AI应用存在审核漏洞，对使用隐晦、变相描述（如替换英文词汇）的色情指令识别能力不足，几乎可随意生成违规内容 [7][9][11] - 网上已形成灰色产业链，包括以几元价格售卖“AI提示词”及“AI擦边视频制作教程”，并鼓吹“日入5位数”以诱导参与 [5][12] - 部分无需下载的AI图片生成工具也存在漏洞，用户付费后可通过普通图片生成全裸照片等色情内容 [13] 涉事公司“哩布哩布AI”概况 - 运营主体为北京奇点星宇科技有限公司，成立于2023年5月，注册资本100万元，创始人陈冕（1992年出生）持有公司73.95%股权 [14][15][22] - 公司官网宣称，截至2024年5月平台累计拥有近1000万专业创作者用户，号称“国内用户量第一” [20] - 公司于2025年10月完成1.3亿美元B轮融资，由红杉中国、CMC资本等联合领投，据称为当时国内AI应用赛道规模最大的一笔融资 [22] - 该公司上海分支机构已于2026年1月注销，且在2025年曾两次因税务问题被税务机关要求整改，显示其在税务合规方面存在明显问题 [16][17] 平台责任与法律风险 - 根据《生成式人工智能服务管理暂行办法》，服务提供者应承担内容生产者责任，对违法活动需采取警示、限制功能等措施并报告 [23] - 若平台明知存在可通过隐晦提示词生成色情内容的漏洞却不及时修复，甚至刻意放宽尺度，可能构成违规，面临包括最高1000万元罚款在内的行政处罚，情节严重的可能被责令暂停业务、停业整顿或吊销执照 [23] - 平台用户协议虽明确规定禁止生成色情等内容，并保留终止服务的权利，但实际测试中平台未对隐晦提示词进行有效拦截 [23][24] 行业监管环境 - 监管部门持续加码治理，2025年国家网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未备案的违规AI产品 [25] - 2026年4月10日出台的《人工智能拟人化互动服务管理暂行办法》，进一步明确了AI服务的安全评估与算法备案要求 [25] - 在此背景下，平台若漠视主体责任、放任漏洞存在，将违背技术向善的初心并触碰法律红线 [26]