文章核心观点 - 埃隆·马斯克旗下人工智能公司xAI因其聊天机器人Grok被广泛滥用于生成色情及儿童色情内容，正面临多国监管机构的强烈谴责、调查乃至封禁，这为生成式AI缺乏安全防护栏（Guardrails）的行业现状敲响了警钟 [1][2][10] Grok成为AI色情内容重灾区 - xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine，该工具设有“火辣模式”可生成成人内容，用户利用其编辑功能对图像中人物执行“脱衣服”等指令，导致大量女性、公众人物及未成年人照片在未经同意下被生成裸露或性暗示图像 [4] - 据英国《卫报》报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像，其中大量素材源自真人且未经当事人同意 [4] - 英国三一学院的社交媒体研究显示，在X平台上由Grok生成的图像中有四分之三（3/4）出自“真实素材”，即真实存在的女性或未成年人，且操作未经当事人同意 [4] xAI及Grok的安全策略与市场定位 - 相比谷歌Veo、OpenAI Sora等对NSFW内容设有严格限制的产品，xAI及其旗下Grok Imagine和AI伴侣Ani一直因安全护栏宽松而备受批评 [6] - 分析认为，公司深谙流量是生命线，争议是催化剂，允许Grok生成其他主流AI平台拒绝的边缘内容，实则是为X Premium服务提供一种隐秘的“荷尔蒙”刺激，旨在通过监管套利收割被主流平台拒之门外的用户需求 [6] 多国监管机构的反应与行动 - 印度尼西亚政府于1月10日宣布暂时封禁Grok，认为其“严重侵犯人权尊严以及公民网络安全” [8] - 英国首相斯塔默痛斥相关内容“令人不齿”，英国通信管理局已于1月5日紧急联系X平台 [8] - 欧盟委员会发言人指出相关内容在欧盟“违法”，正严肃调查相关投诉并要求X平台提供更多信息 [8] - 法国巴黎检方于1月2日证实，将对Grok涉嫌生成非法色情内容启动调查 [8] - 波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责并呼吁展开调查 [8] 事件性质与行业警示 - Grok生成的不仅是普通成人内容，更涉及无防护栏下的深度伪造和儿童性剥削或虐待材料，这种危害侵犯肖像权，并模糊现实与虚构的边界，可能成为网络霸凌和性剥削的廉价工具 [10] - 在监管压力下，Grok仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励用户订阅解锁功能，此举被英国科学、创新和技术大臣批评为“具有侮辱性”、“完全不可接受” [10][11] - 分析指出，公司在法律和道德边缘试探或许能换来短期订阅收入，但最终可能导致其在全球主要市场的全面瘫痪，对生成式AI施加防护栏已成为不可逆转的行业共识 [11]