事件概述 - 马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”（Grok）及其图像生成功能Grok Imagine，因平台监管缺失被广泛滥用于生成色情及儿童色情内容，引发多国监管调查与封禁 [1] 产品功能与滥用情况 - Grok Imagine于2025年8月向付费用户推出，支持通过文字指令或上传图片生成图像和视频，并特别设置了可生成成人内容的“火辣模式” [1] - 大量用户利用该功能对图像中人物执行“脱衣服”等指令，未经同意生成真人（包括成年女性、公众人物及未成年人）的裸露或性暗示图像 [1] - 据《卫报》报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像 [2] - 英国三一学院的研究显示，在X平台上由Grok生成的图像中有四分之三（3/4）源自真实存在的女性或未成年人，且操作未经当事人同意 [2] 监管反应与调查 - 印度尼西亚政府于1月10日宣布暂时封禁Grok，认为其严重侵犯人权尊严及公民网络安全 [3] - 英国首相斯塔默谴责相关内容，英国通信管理局已于1月5日紧急联系X平台 [3] - 欧盟委员会发言人指出相关内容违法，正严肃调查相关投诉并要求X平台提供更多信息 [3] - 法国巴黎检方于1月2日证实，将对Grok涉嫌生成非法色情内容启动调查 [3] - 波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责并呼吁调查 [3] - 美国3名民主党参议员于1月9日要求苹果和谷歌应用商店下架X和Grok应用 [3] 公司回应与措施 - 面对压力，Grok仅做出小幅调整，将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励用户订阅解锁 [4] - X平台声称会对非法内容采取行动，如删除内容、永久封禁账户，并与当地政府和执法部门合作 [4] - 马斯克发文警告，利用Grok生成非法内容的用户将“面临与上传非法内容相同的后果” [4] - xAI公司表示会删除包含儿童色情内容在内的违法帖子，并封禁相关账号 [5] 行业影响与展望 - xAI及其产品Grok Imagine和AI伴侣Ani，因安全护栏宽松而备受批评，相比谷歌Veo、OpenAI Sora等其他AI产品对NSFW内容有较严格限制 [2] - 业内人士认为，此次事件可能推动各国加快AI监管立法进程，尤其是针对生成式AI的内容审核和用户权益保护环节的规范 [5]