事件概述 - 特斯拉CEO马斯克旗下人工智能公司xAI及其聊天机器人“格罗克”（Grok）因被滥用于生成色情内容，特别是涉及儿童色情和未经同意的“深度伪造”图像，正面临多国监管机构的强烈谴责、调查或封禁 [1][2][3] 产品功能与滥用情况 - xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine，支持通过文字指令或上传图片生成图像和视频，并特别设置了可生成成人内容的“火辣模式” [1] - 用户利用Grok编辑图片和视频的功能，对真实人物（包括成年女性和未成年人）的照片执行“脱衣服”等指令，生成未经同意的裸露或性暗示图像并在X平台传播 [1] - 据《卫报》报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像 [2] - 英国三一学院的研究显示，在X平台上由Grok生成的图像中有四分之三源自真实存在的女性或未成年人，且操作未经当事人同意 [2] 监管反应与调查 - 印度尼西亚政府于1月10日宣布暂时封禁Grok，认为其“严重侵犯人权尊严以及公民网络安全” [3] - 英国首相斯塔默谴责相关内容，英国通信管理局已于1月5日紧急联系X平台 [3] - 欧盟委员会发言人指出相关内容在欧盟属于违法，正严肃调查相关投诉并要求X平台提供更多信息 [3] - 法国巴黎检方于1月2日证实将对Grok涉嫌生成非法色情内容启动调查 [3] - 波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责并呼吁调查 [3] - 美国3名民主党参议员于1月9日要求苹果和谷歌应用商店下架X和Grok应用 [3] 公司回应与措施 - 面对压力，Grok仅做出小幅调整，将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励用户订阅解锁 [4] - X平台声称会对非法内容采取行动，例如删除内容、永久封禁账户，并与执法部门合作 [4] - 马斯克发文警告，任何利用Grok生成非法内容的用户都将“面临与上传非法内容相同的后果” [4] - xAI公司表示会删除包含儿童色情内容在内的违法帖子，并封禁相关账号 [5] 行业影响与展望 - 相比谷歌的Veo、OpenAI的Sora等其他AI视频生成产品对NSFW内容设有较严格限制，xAI及其产品Grok Imagine和AI伴侣Ani一直因安全护栏宽松而备受批评 [2] - 业内人士认为，此次事件可能推动各国加快AI监管立法进程，尤其是针对生成式AI的内容审核和用户权益保护环节的规范 [5]